1970年4月，披头士乐队解散，数百万歌迷们伤心不已。50多年后的今天，人工智能(AI)正在将“逝去的记忆”复活，重新创作和重新想象披头士乐队的演唱。
AI声音模拟得如此逼真，也引发了一系列伦理和法律问题，甚至导致了电信诈骗的出现。据澳大利亚Insider Guides网站报道，最新报告显示，2022年澳大利亚人因诈骗损失了创纪录的31亿美元。
声音克隆易被骗子利用
在电信诈骗中，骗子用AI软件扫描语音记录并复制，准确率高达99%。他们可以从社交媒体的视频和其他上传音频中提取片段，将其输入AI软件，重现声音并说出不同短语或句子。
澳大利亚悉尼科技大学电气与数据工程学院副教授迪普·阮晋勇表示，AI模型可以将相对较短的语音片段和字符串片段重建为连贯的句子。有些模型和算法只需一分钟甚至更短时间，就能合成一段相当高质量的克隆声音。
阮晋勇表示，先进的AI模型和算法可以很好地合成声音，以至于“普通人很难区分克隆的声音和真实的声音”。
美国《时代》周刊报道称，几个月前，亚利桑那州的一个家庭以为接到了绑架电话，电话里的声音听起来与亲人的声音别无二致，结果发现这是一个完全由AI制造的骗局。越来越多骗局的出现让人们担心AI可能成为威胁人们的技术，而且这种技术很容易获得。
AI让普通人变歌星
AI声音克隆也扩展到音乐领域，人们用该技术创作出与明星的声音完全相同的歌曲。最近，一位名叫“Dae Lims”的创作者在社交媒体发布了几首用AI创作的歌曲。
“好听哭了！这太美了！”一位听众在《New》歌曲下评论道，这首歌是保罗·麦卡特尼2013年的单曲，它在AI的帮助下被重新制作，并由麦卡特尼的朋友、1980年已故的约翰·列侬“演唱”其中的部分桥段。
类似的例子还有今年4月，国外网友“Ghostwriter977”用知名说唱歌手Drake和R&B歌手The Weeknd的声音对AI进行训练，模仿两人音乐风格生成了“合唱”歌曲《我袖子上的心》。这首歌一经发布，便在社交媒体疯传。
“我们真的进入了一个新时代。”一位听众在评论中回应道，“甚至无法分辨什么是合法的，什么是假的。”
作曲家、美国斯坦福大学音乐与声学计算机研究中心助理教授帕特里夏·亚历桑德里尼表示，最近大量的AI曲目代表了一项技术的成熟，该技术一直在呈指数级发展，但在过去十年中基本不为公众所关注。这意味着，现在人们可以对AI进行任何方面的训练，但“我们不能指望它会取代人类创造艺术和文化的丰富历史”。
给音乐行业带来威胁