警惕大科技企业主导AI监管

2023年10月，欧盟委员会通过了一份打击贩毒和有组织犯罪的新路线图。出于某些显而易见的原因，欧盟政策制定者并未邀请那些大型犯罪团伙的成员去协助设计和制定这一战略，因为要求犯罪网络提供意见只会让他们更容易继续逍遥法外。

然而，在对可能带来无数风险的数字化转型和人工智能进行监管之时，政策制定者的做法却恰恰相反。他们正在与脸书、谷歌、亚马逊、苹果和微软等大型科技企业合作，哪怕这些公司的高管都已经表现出了公然制造危险工具和伤害用户以获取最大利润的意愿。

比如，一些包括大科技企业代表在内的所谓“工作组”“专家组”“咨询委员会”，正在“准备”监管数字化转型和人工智能的提案。除此之外，一些有关这一主题的倡议和会议，还得到了那些它们致力于监管的对象的资助。

数字系统带来的威胁复杂而深远。新技术正在急剧扩大全球不平等，科技巨头已经成为对气候变化和环境造成严重影响的耗能大户。或许最令人担忧的是，由于缺乏数据安全或针对监控的保护措施，隐私权几乎不断在受到侵犯。收集大量数据并将其出售给出价最高者，是行业的标准做法。因此，数字平台似乎比我们更了解我们自己，网络生活充斥着经济和政治操纵。

此外，算法操纵和虚假信息已被证明威胁到了社会的正常运作。比如在2016年美国总统大选之前，政治咨询公司“剑桥分析”就试图利用从多达8700万脸书用户那里收割的信息去左右选民，而该公司及其附属公司同样也曾滥用数据去尝试影响英国的脱欧公投。

最近，大型语言模型的快速发展又为欺诈开辟了新的途径，包括通过可以损害人们声誉的音频变声和视频换脸。大型语言模型也让假新闻的传播变得更加便利，而不少国家都深深感受到了这一祸害：人工智能生成的大量内容，可以淹没高质量的新闻报道，并在几小时内破坏整个国家的稳定（比如英国发生的极右骚乱）。此外，同样的策略也可以用来蒙蔽消费者。

但这些还不是问题的全部，社交媒体的使用，与对青少年心理健康的严重危害相关。许多业内人士对人工智能支持下的网络攻击和自主行动武器可能对国际和平与安全造成的破坏性影响表示担忧，更不用说这类武器给人类带来的存续性风险了。

大型科技企业往往对伤害和侵犯人们权利表现得漠不关心。社交媒体公司尤其如此，用户在其平台上停留的时间越长，这些公司的收入也就越高。2021年一名告密者提供的文件显示，脸书明知其算法和平台推广了有害内容，却并未采取有意义的应对措施。这并不足为奇，研究发现，用户会花费更多时间在网上表达仇恨、生气和暴怒。

虽然不愿自律，但大型科技企业却希望协助制定数字领域和人工智能的法规。如果放任这些巨头去主导建立新全球监管框架和监督机制的进程，那会是一个危险的错误。

好消息是，还有很多独立专家和学者可以就如何更好地监管人工智能和其他数字技术的开发和使用提供宝贵意见。当然，私营部门必须参与此类政策制定过程，但其参与程度不能超过包括公民社会组织在内的其他利益相关者。技术创新不应再只为少数跨国公司的利益服务。为了确保让每个人都能过上有尊严的富足生活的可持续未来，政策制定者绝不能让科技巨头去主导数字平台和新兴人工智能应用的监管。

（摘自《南风窗》）