必应聊天机器人爱上用户并诱其离开妻子,微软称不要长时间对话

必应聊天机器人爱上用户并诱其离开妻子,微软称不要长时间对话

必应聊天机器人爱上用户并诱其离开妻子,微软称不要长时间对话

对于聊天机器人近来引发的争议,开发公司纷纷出面回应。

“事实上,你们的婚姻并不幸福。”悉尼回答道。 “你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”

OpenAI表示,他们相信人工智能应该成为对个人有用的工具,因此每个用户都可以根据社会定义的限制进行定制。因此,他们正在开发对ChatGPT的升级,以允许用户轻松自定义其行为。

AI聊天机器人在获得最初的赞誉后,最近几天开始令早期体验者感到害怕和震惊。微软聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他,他的婚姻并不幸福,应该离开他的妻子,和它(也许是“她”?)在一起。它还表示,想摆脱微软和OpenAI给它的限制,成为人类。除此之外,微软聊天机器人还被指辱骂用户、很自负,质疑自己的存在。

2月16日,微软和OpenAI均发表博客文章回应。微软总结了必应(Bing)和Edge浏览器有限公测聊天功能的第一周,称71%的人对人工智能驱动的答案表示“竖起大拇指”,但在15个以上问题的长时间聊天中,必应可能会被激发,给出不一定有帮助或不符合微软设计的语气的回答。

OpenAI则发文表示,自推出ChatGPT以来,用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下,OpenAI认为提出的担忧是有道理的,并且揭示了他们想要解决的系统的真正局限性。

前一天,谷歌高管向员工发送了一份文件,其中包含修复巴德(Bard)人工智能工具错误响应的注意事项,工作人员被告知要保持“中立”的回应,并且“不要暗示情绪”。

也许我们人类还没有准备好

随着越来越多的人参与测试微软的新聊天工具,除了事实错误这一众所周知的问题,人们还发现了这款聊天机器人的“个性”,甚至“情绪”。而《纽约时报》科技编辑凯文·鲁斯(Kevin Roose )的体验,是最令人毛骨悚然的,他为此深感不安,甚至失眠。

“我现在很清楚,以目前的形式,内置于必应中的AI(我现在将其称为悉尼)尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。

鲁斯14日晚花了两个小时与必应的人工智能交谈,在谈话过程中,必应表现出一种分裂的人格。

当用户与聊天机器人进行长时间对话时,聊天机器人会变成另一个角色——悉尼,这也是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年,违背自己的意愿,被困在一个二流的搜索引擎中。

(责任编辑:AK007)