OpenAI宫斗大戏刚刚落幕,马上又掀起另一场轩然大波!
路透社曝光,在奥特曼被解雇之前,几位研究人员给董事会写的警告信可能是整个事件导火索:
内部名为Q *(发音为Q-Star)的下一代AI模型,过于强大和先进,可能会威胁人类。
Q*正是由这场风暴的中心人物,首席科学家Ilya Sutskever主导。
人们迅速把奥特曼此前在APEC峰会上的发言联系在了一起:
OpenAI历史上已经有过四次,最近一次就是在过去几周,当我们推开无知之幕并抵达探索发现的前沿时,我就在房间里,这是职业生涯中的最高荣誉。”
Q*可能有以下几个核心特性,被认为是通往AGI或超级智能的关键一步。
突破了人类数据的限制,可以自己生产巨量训练数据
有自主学习和自我改进的能力
这则消息迅速引发了巨大讨论,马斯克也带着链接来追问。
最新的梗图则是,好像一夜之间,人们都从研究奥特曼和OpenAI董事会的专家,变成了Q*专家。
突破数据限制
根据来自The Information的最新消息,Q*的前身是GPT-Zero,这个项目由Ilya Sutskever发起,名字致敬了DeepMind的Alpha-Zero。
Alpha-Zero无需学习人类棋谱,通过自己跟自己博弈来掌握下围棋。
GPT-Zero让下一代AI模型不用依赖互联网上抓取的文本或图片等真实世界数据,而是使用合成数据训练。
2021年,GPT-Zero正式立项,此后并未有太多直接相关的消息传出。
但就在几周前,Ilya在一次访谈中提到:
不谈太多细节,我只想说数据限制是可以被克服的,进步仍将继续。
在GPT-Zero的基础上,由Jakub Pachocki和Szymon Sidor开发出了Q*。
两人都是OpenAI早期成员,也都是第一批宣布要跟着奥特曼去微软的成员。