GPT-4并非完美无缺:“胡编乱造”依旧存在

今天,OpenAI带来了全面进化的GPT-4,相较此前的GPT-3.5,新模型在准确度等方面存在相当显著的提升。

但AI毕竟还是AI,OpenAI也明确表示,现阶段的GPT-4并不完美,在一些方面依旧存在问题。

比如,在GPT-3.5中就存在的,AI“胡编乱造”问题,到了GPT-4,也依旧存在。

在新版本中,AI依旧会编造事实,并且事实方向也不一定总是可靠的,由于系统不知道什么是真的,什么是假的,它们可能会生成完全错误的文本。

对此,OpenAI表示,“它倾向于坚持认为它是正确的,即使它错了”,这导致它有时仍然会输出完全错误的结果。

比如在被要求提供描述最新癌症研究的网站地址时,GPT-4甚至会生成不存在的互联网地址,用来佐证并不正确的结论。

GPT-4并非完美无缺:“胡编乱造”依旧存在

(责任编辑:AK007)