编辑:泽南、小舟
通用人工智能的出现可能只是技术发展历程中的一个小节点,因为 AGI 或许可以加速自身的进步,从而以指数方式扩展能力。
在 ChatGPT 引爆科技圈之后,人们对于先进技术产生了更多期待,但一直有专家警告 AI 可能造成的危害。我们知道,OpenAI 的使命是确保通用人工智能 —— 比人类更聪明的 AI 系统,能够造福全人类。本周五,这家公司发布了「AGI 路线图」,详细解释了这家前沿研究机构对通用人工智能研究的态度。
在路线图中,OpenAI 对新技术的发展有了更加谨慎的态度,这可能意味着以后用户和应用范围会受到更严密的监控和限制。让我们看看 OpenAI 是怎么说的:
如果通用人工智能(AGI)最终被成功构建起来,这项技术不仅可以带来更多可能性,推动全球经济发展,也能改变新兴科学知识的发现,会从各种角度帮助人类提升生活水平。
AGI 有潜力赋予每个人不可思议的新能力。我们可以想象这样一个世界,在其中,所有人都可以获得几乎所有认知任务的帮助,它或许是人类才智和创造力的巨大力量倍增器。
但另一方面,正如一些人所担心的,通用人工智能也会带来严重的滥用、严重事故和社会混乱的风险。由于 AGI 的好处如此之大,我们不能认为让社会永远停止其发展是可取的方向,相反,社会和 AGI 的开发者必须要想办法把它做好。
与通用人工智能共同生活的未来图景难以预测,当前的 AI 进展可能会遭遇新的挑战,但在 ChatGPT 获得成功的当下,OpenAI 列出了我们最关心的几项原则:
1. 我们希望通用人工智能使人类能够在宇宙中实现最大程度的繁荣。我们不希望未来成为一个虚假的乌托邦,但我们希望将技术好的一面最大化,坏的一面最小化,让 AGI 成为人类善意的放大器。
2. 我们希望 AGI 的益处、接入和治理能得到广泛和公平的分享。
3. 我们要正确应对潜在风险。在面对这些风险时,理论上似乎正确的事情在实践中往往比预期更难以控制。我们必须通过部署功能较弱的技术版本来不断学习和适应,以最大程度地减少「无可挽回」的情况。
短期目标
OpenAI 认为,若为通用人工智能的发展做准备,有几件事要先做好。
首先,随着我们不断构建出更为强大的 AI 系统,我们必然希望快速部署 AGI 并获得在现实世界中操作它们的经验。谨慎管理 AGI 存在的最佳方式应该是逐渐过渡到 AGI 的世界。我们期望强大的 AI 能够加快世界进步的速度,OpenAI 认为最好是逐步适应这一点。