欧盟《人工智能法案》再迈一步 对企业和其他国家有哪些影响?

  欧盟的人工智能立法进入最终阶段,或将影响其他国家的规则制定。

  当地时间6月14日,欧洲议会(European Parliament)以499票赞成、28票反对和93票弃权的压倒性结果通过了《人工智能法案》(AI Act)草案,若通过立法,或成为全球首个关于人工智能的法案。

  据彭博社报道,欧洲议会的投票是正式立法前的最后步骤之一,接下来将进入三方“谈判”阶段——欧洲议会、欧盟成员国(EU member states)和欧盟委员会(European Commission)。欧盟委员会希望在今年年底前达成协议,新的法案将可能在2026年对相关公司产生影响。法案通过后,在极端情况下,违规公司可能被处以高达3000万欧元(合3300万美元)的罚款,或公司全球年收入的6%,也就是说对于谷歌和微软等大型科技公司而言,其罚款可能高达数十亿欧元。

  禁止人脸识别,加强通用AI控制

  该法案遵循“基于风险”(risk-based approach)的方法,将AI及其相关应用划分为四种等级,分别为被禁止(Prohibited)、高风险、有限风险以及低风险,并针对不同类型制定相应的监管规则。

  值得注意的是,欧洲议会官网显示的最新草案中,实时远程生物识别技术从“高风险”级别调整为“被禁止”级别,这意味未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。

  此外,欧洲议会也对通用AI(general purpose AI)提出了新的透明度要求——基于这些模型的生成式AI(例如ChatGPT)必须对AI生成的内容进行标注,以帮助用户区别“深度伪造信息”;此外其还必须披露用于训练模型的数据,声明是否使用受版权保护的材料来训练其模型。

  欧盟委员会于2021年首次提出“基于风险”的《人工智能法案》,其最初的想法是规范AI的使用,并为如何在“高风险”情况下使用该技术制定标准。不过,自ChatGPT引起新一轮技术热潮后,通用AI也逐渐引起欧盟警惕,并被纳入法案,连带着基础模型(foundational models)的控制也随之加强,因为这些大型语言模型是ChatGPT等聊天机器人的底层支柱。

  欧盟内部市场专员Thierry Breton在一份声明中表示,“我预计,关于生成式AI的相关条款将成为‘三方谈判’的关键讨论点之一。我们需要对AI生成的内容提出透明度要求,并针对‘深度造假内容’制定严格的规则。”

  欧盟AI法案或影响其他立法者

  对于《人工智能法案》,一些科技公司及其支持者认为,该法案可能会阻碍技术创新。根据《华尔街日报》的报道,他们认为政府的干预应侧重于特定的AI应用,而不是像欧盟那样过多限制AI的开发方式。

  不过,也有技术人员及学术界对这一法案表示支持,认为该法案能够通过规范AI技术的开发,有效地减缓公司在推出新型AI工具方面的竞争。

(责任编辑:AK007)