自去年底ChatGPT“一夜成名”，人工智能（AI）迎来“狂飙”时刻，AI生成内容（AIGC）领域快速发展。与此同时，数据泄漏、电信诈骗、个人隐私风险、著作权侵权、虚假信息等挑战层出不穷，关于AI监管的讨论正在全球范围内升温。
包括埃隆·马斯克在内的1000多名科技领袖、技术人员和研究人员今年3月就签署过一封公开信，呼吁暂停开发最大的AI模型6个月，理由是担心“开发和部署更强大数字思维的竞赛失控”。超过350名AI领域的行业高管、研究人员和工程师5月30日又签署了一封公开信，他们在信中警告称，AI可能给人类带来“灭绝风险”，签署者包括美国OpenAI首席执行官山姆·阿尔特曼和谷歌DeepMind首席执行官杰米斯·哈萨比斯。
从欧洲《AI法案》到七国集团（G7）“广岛AI进程”，目前，全球许多国家正在讨论AI的监管规则，不过它们正处于监管和立法过程的不同阶段。
欧洲议会通过《AI法案》草案
德国《法兰克福评论报》指出，目前关于AI的最具体、最先进的规则是欧盟的《AI法案》。作为其数字战略的一部分，欧盟希望对AI进行监管，以确保为这一创新技术的开发和使用提供更好的条件。
当地时间6月14日，欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果通过了《AI法案》草案。若最终法案获得通过，这将成为全球首个关于AI的法案。美国有线电视新闻网报道称，一旦获得通过，该法案将适用于在欧盟开发和部署AI系统的任何人，包括位于欧盟以外的公司。
监管的程度取决于特定应用程序产生的风险，从最小到“不可接受”。属于后一类的系统将被彻底禁止。
该法案对“高风险”AI应用设置了严格限制，“高风险”指的是可能“对人们的健康、安全、基本权利或环境造成重大损害”。
该法案还概述了AI系统的透明度要求。例如，ChatGPT等系统必须表明其内容是AI生成的，以方便区分深度伪造图像和真实图像，并提供防止非法内容生成的保障措施。用于训练这些AI系统的受版权保护的数据详细摘要也必须公布。
G7呼吁出台AI技术标准
据《日本时报》报道，由于对生成式AI日益担忧，G7领导人5月在广岛召开峰会，同意成立一个工作组，以加强合作，解决与新技术相关的各种问题。他们还表示，将创建一个名为“广岛AI进程”的部长级论坛，在今年底前针对生成式AI导致的版权、虚假信息等问题展开讨论。
G7发布的联合声明表示：“我们认识到有必要立即评估生成式AI的机遇和挑战。”他们将致力于通过透明、公开和公平的方式与多个利益相关者合作，起草“负责任的AI”的标准。