- 1“语言是人类文化的操作系统。从语言中产生了神话和法律,众神和金钱,艺术和科学,友谊和国家,以及计算机代码。人工智能对语言的掌握,意味着它现在可以入侵并操纵文明的操作系统。”
- 2“社交媒体是人工智能与人类的第一次接触,而人类输了。大型语言模型是我们与人工智能的第二次接触,我们不能再输了。”
- 3“想象一下,当你登上一架飞机时,一半建造这架飞机的工程师告诉你,飞机有10%的可能性会坠毁,导致你和飞机上的其他人死亡。你还会登机吗?
- 4“2022年,在一项调查中,超过700名顶级学者和头部人工智能企业的研究人员被问及未来人工智能的风险。半数受访者表示,未来的人工智能系统有10%或更大几率使人类灭绝(或永久性严重丧失能力)。建立今天的大型语言模型的科技公司,正陷入一场将全人类送上那架飞机的竞赛。”
近日,《人类简史》作者、以色列历史学家尤瓦尔·赫拉利(Yuval Harari)与知名纪录片《监视资本主义:智能陷阱(The Social Dilemma)》的制作人特里斯坦·哈里斯(Tristan Harris)和阿扎·拉斯金(Aza Raskin)共同撰文,呼吁人类争取时间,为应对人工智能世界而升级现有机构(这套机构仍然源自19世纪),并在人工智能掌控人类之前学会掌控它。
《人类简史》作者、以色列历史学家尤瓦尔·赫拉利。
这篇题为《你可以拥有蓝色药丸或红色药丸,我们已经没有蓝色药丸了》的文章发表在《纽约时报》。红色药丸与蓝色药丸(red pill and blue pill)是一种流行的迷因,意思是在令人不安的知识和残酷现实的“红色药丸”与保持愚昧并继续过着平凡生活的“蓝色药丸”之间做出选择。
文章指出,未对产品进行严格的安全检查,药品公司不能向人们出售新药。生物技术实验室不能为了打动股东而将新病毒发布到公共领域。同样,具有GPT-4及以上能力的人工智能系统,其卷入数十亿人生活的速度,不应该超过文化能安全吸收它们的速度。为了主导市场而展开的竞赛,不应该设定部署人类最重要技术的速度。
“自20世纪中期以来,人工智能的幽灵一直困扰着人类,但直到最近,它仍然是一个遥远的前景,是属于科幻小说而不是严肃科学和政治辩论的东西。我们人类的头脑很难掌握GPT-4和类似工具的新能力,更难掌控这些工具发展更先进和更强大能力的指数级速度。但大多数关键技能归结为一件事:操纵和生成语言的能力,无论是用文字、声音还是图像。”文章写道。