一方面，生成式AI固然便利了生产、生活，带动了社会的进步；另一方面，生成式AI可能会被人们无意滥用，甚至被目的不纯之人恶意利用，对社会造成危害。——闫怀志 北京理工大学网络与安全研究所所长
谈到AI领域的未来发展，就不得不提到生成式AI。如今，一经推出就迅速在各大社交媒体上走红的、由美国人工智能公司OpenAI发布的聊天机器人ChatGPT便是一种生成式AI。
近日，OpenAI又以“区分人工编写还是AI生成的文本”为目的，趁热打铁地推出了一款AI检测器。
滥用生成式AI可能带来哪些危害？AI检测器对于消除此种危害有何助益？如何利用包括AI检测器在内的多种手段，在推进生成式AI产业化的同时，促进生成式AI的规范使用？针对上述问题，科技日报记者采访了相关专家。
生成式AI是把双刃剑
“通常来说，生成式AI是指使用机器学习等各种AI算法，让人工智能能够利用数据进行学习，进而创建或生成全新的原创内容的一种技术。”北京理工大学网络与安全研究所所长闫怀志表示，“目前，生成式AI能生成文本、图像、音频、视频或代码等多模态的原创内容。”
ChatGPT作为一款人工智能技术驱动的自然语言处理工具，通过学习和理解人类的自然语言来进行对话，并能根据对话的上下文与人类进行相应的互动。与此前同类型的模型不同，ChatGPT不仅在对话的真实感与流畅性上取得了很大的提升，更在互动性上几乎“无出其右”。
以ChatGPT的横空出世为代表，生成式AI在技术上的不断突破，正驱动着全球生成式AI产业的加速发展。优秀的生成式AI有望成为新一代智能助手与信息检索工具，其不仅可以带动科技研发、工业设计等领域的深刻变革，还能在艺术和内容创作等的过程中减少以往调色、勾画轮廓等繁琐的程序性工作，极大地推动各类数字化内容的生产与创造。随着产业集群效应的进一步扩大，生成式AI正迅速成为全球科技领域最具投资价值的热门赛道，极大地影响了全球的科技创新与产业发展格局。
然而，随着生成式AI的爆火，其安全性也遭到了质疑。近日，一份关于ChatGPT的报告显示，在500名IT行业决策者中近一半的人认为，2023年内，将会出现个人恶意使用ChatGPT发动的网络攻击。无独有偶，此前的AI绘画等其他生成式AI同样遭受过相应的质疑。
“生成式AI是一个‘可怕的好东西’。”闫怀志表示，“一方面，生成式AI固然便利了生产、生活，带动了社会的进步；另一方面，生成式AI可能会被人们无意滥用，甚至被目的不纯之人恶意利用，对社会造成危害。”
闫怀志进一步解释道，生成式AI能够产出逼真的文本、图像、音频、视频等内容，可能会被滥用于诈骗、欺诈、剽窃、造谣、伪造身份等不当甚至违法的场景。