
人工智能监管火热,自从 OpenAI 的聊天机器人 ChatGPT 取得成功以来,公众的注意力就被这些强大的人工智能工具能做什么的好奇和担忧所吸引。生成式 AI 被吹捧为生产力工具和创意助手的潜在游戏规则改变者。但他们已经展示了他们造成伤害的方式,生成模型已被用来生成错误信息,它们可能被武器化为垃圾邮件和诈骗工具。
最近几周,从科技公司 CEO到美国参议员和G7 会议领导人,每个人都呼吁为人工智能技术制定国际标准和更强大的护栏。
我们分析了六种不同的国际监管人工智能的方式,列出了每一种的优缺点,并给出了一个粗略的分数,表明它们的影响力有多大。
1.具有法律约束力的人工智能条约

欧洲委员会是一个拥有 46 个成员国的人权组织,正在敲定一项具有法律约束力的人工智能条约。该条约要求签署方采取措施,确保以保护人权、民主和法治的方式设计、开发和应用人工智能。该条约可能包括暂停对人权构成威胁的技术,例如面部识别。
鲁汶大学法学院的法律学者和哲学家 Nathalie Smuha 说,如果一切按计划进行,该组织可以在 11 月之前完成起草文本。
优点:欧洲委员会包括许多非欧洲国家,包括英国和乌克兰,并已邀请美国、加拿大、以色列、墨西哥和日本等其他国家加入谈判桌。“这是一个强烈的信号,”Smuha 说。
缺点:每个国家都必须单独批准条约,然后在国内法中实施,这可能需要数年时间。各国也有可能选择退出他们不喜欢的某些元素,例如严格的规则或暂停。Smuha 说,谈判小组正试图在加强保护和让尽可能多的国家签署之间找到平衡点。
影响力评分:3/5
2.经合组织人工智能原则

2019 年,经济合作与发展组织 (OECD) 成员国同意采用一套不具约束力的原则,列出一些应该支持人工智能发展的价值观。根据这些原则,人工智能系统应该是透明和可解释的;应该以稳健、安全和安全的方式运行;应有问责机制;并且应该以尊重法治、人权、民主价值观和多样性的方式设计。这些原则还指出,人工智能应该为经济增长做出贡献。
优点:这些原则构成了西方人工智能政策的一种宪法,从那以后就影响了世界各地的人工智能政策举措。例如,经合组织对人工智能的法律定义可能会被欧盟的人工智能法案采纳。经合组织还跟踪和监督国家人工智能法规,并研究人工智能的经济影响。它拥有一个活跃的全球人工智能专家网络,从事研究和分享最佳实践。
缺点: Smuha 说,作为一个国际组织,OECD 的任务不是提出监管而是刺激经济增长。负责任的人工智能平台 Armilla 的政策负责人菲尔道森说,将高层原则转化为可行的政策需要各国做大量工作。
影响力评分:4/5
3.人工智能全球伙伴关系

全球人工智能伙伴关系 (GPAI) 是加拿大总理贾斯汀·特鲁多和法国总统埃马纽埃尔·马克龙的心血结晶,成立于 2020 年,作为一个国际机构,可以共享有关人工智能的研究和信息,促进围绕负责任人工智能的国际研究合作,并为人工智能提供信息世界各地的政策。该组织包括 29 个国家,其中一些位于非洲、南美洲和亚洲。
优点: Smuha 说,GPAI 的价值在于它鼓励国际研究与合作的潜力。
缺点:一些AI 专家呼吁建立一个类似于联合国政府间气候变化专门委员会的国际机构来分享有关 AI 的知识和研究,而 GPAI 有可能符合要求。但在隆重推出后,该组织一直保持低调,2023 年也没有发表任何作品。
影响力评分:1/5
4.欧盟人工智能法案

欧盟正在最终确定AI 法案,这是一项全面的法规,旨在规范 AI 系统的“高风险”使用。该法案于 2021 年首次提出,将在医疗保健和教育等领域规范人工智能。
优点:该法案可以追究不良行为者的责任,并通过处以巨额罚款并防止在欧盟销售和使用不合规的人工智能技术来防止有害人工智能的最严重过度行为。 该法案还将规范生成人工智能,并对被认为会产生“不可接受”风险的人工智能系统施加一些限制,例如面部识别。由于这是目前唯一全面的人工智能法规,欧盟具有先发优势。欧盟的制度很有可能最终成为世界事实上的人工智能监管机构,因为非欧盟国家的公司想要在这个强大的贸易集团开展业务,将不得不调整其做法以遵守法律。
缺点:该法案的许多内容,例如面部识别禁令和规范生成人工智能的方法,都极具争议性,欧盟将面临科技公司的强烈游说,要求淡化这些内容。它至少需要几年时间才能通过欧盟立法体系并生效。
影响力评分:5/5
5.技术行业标准

标准制定机构的技术标准将在将法规转化为公司可以遵循的简单规则方面发挥越来越重要的作用。例如,一旦欧盟的人工智能法案通过,符合某些技术标准的公司将自动遵守该法律。许多人工智能标准已经存在,而且还有更多标准正在制定中。国际标准化组织 (ISO) 已经制定了公司应如何进行风险管理和影响评估以及管理AI 开发的标准。
优点:这些标准有助于公司将复杂的法规转化为实际措施,随着各国开始为人工智能制定自己的个人法律,标准将帮助公司开发适用于多个司法管辖区的产品。
缺点:大多数标准都是通用的,适用于不同行业。因此,公司将不得不进行相当多的翻译,以使其在特定领域可用。这对小企业来说可能是一个沉重的负担。争论的焦点之一是技术专家和工程师是否应该围绕道德风险起草规则。很多人担心政策制定者,只会将许多关于最佳实践的难题推给行业标准制定。
6.联合国

拥有 193 个国家的联合国希望成为能够支持和促进 AI 全球协调的国际组织。为了做到这一点,联合国在 2021 年设立了一个新技术特使。那一年,联合国机构教科文组织和成员国还通过了一个自愿的 AI 伦理框架,其中成员国承诺,例如,引入伦理影响评估AI,评估 AI 对环境的影响,确保 AI 促进性别平等,不用于大规模监控。
优点:联合国是国际舞台上唯一有意义的地方,全球南方国家能够影响人工智能政策。虽然西方承诺遵守经合组织的原则,但联合国教科文组织的人工智能伦理框架在发展中国家产生了巨大影响,这些国家对人工智能伦理的认识较新。值得注意的是,在很大程度上被排除在西方人工智能伦理辩论之外的中国和俄罗斯也签署了这些原则。
缺点:这引发了一个问题,即各国在遵循自愿道德准则方面的诚意如何,因为包括中国和俄罗斯在内的许多国家都使用人工智能来监视人们。联合国在技术方面的记录也参差不齐。该组织在全球技术协调方面的首次尝试以失败告终:被选为技术特使的外交官在骚扰丑闻发生仅五天后就被停职。多年来,联合国试图为致命的自主无人机(也称为杀手机器人)制定规则,但没有取得任何进展。
影响力评分: 2/5









