欧洲朝着人工智能法规又迈出了一大步

欧洲议会已投票确认其对人工智能法案的谈判授权——这是一个重要的里程碑，开启了下一阶段的谈判，以制定泛欧盟人工智能规则手册。

议员们支持委员会提案的修订版，该提案以他们所说的方式扩展规则手册，旨在确保在欧洲开发和使用的人工智能“完全符合欧盟的权利和价值观，包括人类监管、安全、隐私、透明度、非歧视与社会和环境友好”。

欧洲议会议员支持的变革包括全面禁止远程生物识别监视和预测性警告。他们还增加了一项禁令，禁止“从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库”——因此基本上是对Clearview AI及其同类产品的严格禁止。

拟议的远程生物识别监控禁令将适用于面部识别等技术的实时或事后应用，但在后一种情况下，执法部门会在司法部门停止对其严重犯罪的起诉。

欧洲议会议员还禁止执法部门、边境机构、工作场所和教育机构使用情感识别技术。

议员们还扩大了高风险人工智能系统的分类，包括那些对人们的健康、安全、基本权利或环境造成重大危害的系统，以及用于影响选民和选举结果的人工智能系统。

使用算法推荐内容的大型社交媒体平台也被欧洲议会议员添加到高风险列表中。

上个月，在来自不同政治团体的欧洲议会议员讨论了他们希望如何调整委员会文本，包括增加所谓的通用人工智能制造商的义务后，委员会支持修订后的提案，随后进行了全体投票。

为了响应生成式人工智能的快速发展，欧洲议会议员支持对基础/通用人工智能模型施加一系列义务，例如支持OpenAI的人工智能聊天机器人ChatGPT的技术，要求此类系统必须在放置之前标识和减轻市场风险，以及对AI生成的内容进行透明度披露，并对生成的非法内容实施保护措施。

根据欧洲议会议员的提议，通用AI的制造商还必须发布用于训练其模型的受版权保护信息的“详细摘要”。

在上个月访问欧洲各国首都与立法者会面期间，OpenAI首席执行官Sam Altman对欧盟提案的这一方面持批评态度。他建议该公司如果不能遵守这些法规，可能不得不取消在该地区的服务，并告诉记者他希望这些义务能够被取消。

结果，今天的全体会议表决显示，议员们以压倒性多数支持立法草案的修订版——包括针对通用AI的拟议义务——499票赞成，只有28票反对（加上93票弃权）。

投票通过授权意味着议会和欧盟成员国政府之间的讨论现在可以开始——第一场三方对话定于今晚举行。

联合报告员Brando Benifei在投票后的一份声明中评论说：

“今天所有人的目光都集中在我们身上。当大型科技公司对他们自己的创造发出警告时，欧洲已经走在前面，并提出了对人工智能开始带来的风险的具体回应。我们希望人工智能在创造力和生产力方面的积极潜力得到利用，但我们也将在与理事会的谈判中努力保护我们的地位并应对对我们民主和自由的威胁。”

在另一份支持声明中，联合报告员Dragos Tudorache补充说：

“AI法案将为全球人工智能的发展和治理定下基调，确保这项技术将通过它可以提供的巨大利益从根本上改变我们的社会，根据欧洲的民主价值观、根本权利和法治开发和使用。”

欧洲议会议员今天支持的AI法案版本还增加了对研究活动和开源许可下提供的AI组件的豁免，欧洲议会会有建议这将确保对创新的支持——以及在该框架下建立的测试系统的监管沙盒。

欧洲议会议员的提议还增加了一套消费者对人工智能决策的权利——包括如果人工智能系统对他们造成伤害，消费者可以要求集体补偿。

欧洲消费者组织BEUC对这些变化表示欢迎，但批评议会不支持全面禁止使用情感识别AI（因为该提案不限制此类产品的商业用途）。

它还认为欧洲议会议员给了开发人员太多的自由裁量权来决定他们的系统是否属于高风险类别，它说这可能会破坏基于风险的框架的有效性。

这可能是三方讨论中的一个争论焦点，三方讨论需要在欧盟理事会（由成员国政府组成的机构）和议会立法者的立场之间找到妥协，以就最终文本达成必要的政治协议。

通常，欧盟理事会采取更亲产业的路线，而议会则更关注基本权利。因此，双方将在监管AI方面达成共识还有待观察。

如果他们不能达成一致，欧盟的立法进程就会停滞不前——甚至失败。但考虑到全球现在对人工智能监管的关注程度，布鲁塞尔有推动该文件通过的动力。（率先出台AI 民主规则手册为欧盟提供了超越国界施加影响的机会，因为其他司法管辖区正在争先恐后地找出自己的方法来监管快速发展的复杂技术领域。）

理事会于12月通过了其对该文件的立场。当时，成员国在很大程度上赞成推迟对通用人工智能的处理——以更多的时间实施立法。但是，考虑到在此期间发生的事情，ChatGPT等生成式人工智能工具成为技术讨论的中心舞台，并引发了多项监管呼吁（包括来自许多技术行业类型本身），看看成员国是否同意欧盟议会成员的需求，将此类AI系统的义务添加到AI法案的文本中。

欧盟执行官早在2021年4月就提出了基于风险的AI框架的原始提案。虽然委员会的第一份文本草案没有如此广泛地涉及通用AI主题，但它确实提出了聊天机器人和深度伪造技术的透明度条款。因此，即使在当时，欧盟立法者也认为消费者应该被告知他们正在与机器生成的内容进行交互。

尽管委员会仍然希望关于AI法案文件的三方会谈能够在今年年底前达成政治协议，但仍有一个实施期——因此该立法可能不会在2026年之前适用。

这就是为什么欧盟也在开展多项自愿举措，旨在敦促人工智能公司同时在安全方面进行自我监管。