图灵奖得主姚期智对谈Stuart Russell：人工智能应成为一门学科

腾讯科技讯 Stuart Russell是人工智能领域的重要学者，供职于加州大学伯克利分校，他在AI领域做出重要贡献，也是联合呼吁暂停开发人工智能的名人之一。Stuart Russell认为AI的发展将对人类社会产生深远影响，如果不对AI的发展进行适当的管理和监督，可能会引发严重的社会问题，他强调AI系统的设计和应用必须考虑到道德和伦理因素。

6月10日，在“2023北京智源大会”上，图灵奖得主、中国科学院院士姚期智与Stuart Russell教授在AI安全与对齐专题论坛进行了专家对谈。姚期智认为，人类首先要更好地理解自己，否则很难有效地管理机器与人的互动。Stuart Russell认为，人类对未来有各自的偏好，AI系统应该为人类服务，但它的行动范围必须被限制在这个人关心的领域内，避免损害其他人的利益。

核心观点：

1、如果你想要一个能够响应个人愿望的AI系统，那么你必须明确表明，这个AI系统的行动范围被限制在这个人关心的领域内，它不能在追求这个人的利益时伤害到其他人。

2、经济学中有一种被称为“地位商品”的东西。你重视它不是因为物品本身的价值，而是因为它能展示你的优越性。AI系统应该考虑地位商品吗？如果我们说不，那么这将会对社会运作方式产生巨大的影响，这是一个非常复杂的问题。

3、与其构建通用的人工智能，不如构建能解决特定窄领域问题的人工智能系统，如蛋白质折叠、交通预测等问题。这些系统既无自我，也无行动范围，不会产生大规模的风险。

4、人工智能要成为一门科学，就像我们了解我们所构建的结构与我们所期望的属性之间的关系一样。大型语言模型领域还不是这样一门科学。我们不知道它为什么具有这些属性。事实上，我们甚至也不知道它具有什么属性。

以下为对谈精华内容：

姚期智：Stuart，很高兴再次见到你。你的演讲深入而富有洞见，对AI和大型语言模型的发展给出了均衡的观点，这是非常少见的。你觉得我们该如何协调好人与机器这两个差异巨大的实体之间的关系？人类的利益关系错综复杂，我认为，除非我们首先更好地理解自己，否则我们如何可能有效地管理机器与人的互动？

在短期内，我们应该如何防止人类创建强大的AI，以避免人们为实现自己的目标而不惜牺牲他人？例如，像你刚才提到的，人们可能会尽力提高点击率。我想开发一种AI，它追求的不仅仅是潜在的议程。你说到机器可能会试图改变人类行为，但我想更准确的说法应该是，机器的所有者可能会试图改变人类行为。你说你的公司不应开发这样的程序，我同意，因为程序的复杂性使得隐藏某些行为变得相对容易。