“AI语音”火爆全网 安全问题面临新挑战

      近日，一个叫“AI孙燕姿”的歌手走红社交网络，这些通过技术手段训练模拟孙燕姿的声音来演唱的歌曲，最后生成的效果毫不违和。AI声音模拟得如此逼真，也引发了一系列伦理和法律问题，甚至导致了电信诈骗的出现。这种现象背后，“语音克隆”所带来的个人隐私泄露问题值得反思。

      人工智能所发展的速度超乎了许多人的想象，因此也不可避免的带来了许多问题。比如AI绘图作品的版权纠纷问题，AI绘图使用名人图片进行训练的侵权行为，借助AI绘图生成不良图片并传播的违法行为等等。

      而比AI绘图要冷门的AI声音克隆，其所暴露的问题可能更加突出。由于线上的口语传播具有很强的隐蔽性，AI声音克隆所生成的内容很可能被用来远程诈骗，即便有些人能够分辨真人和AI生成语音的区别，但对于一些文化程度低或年龄较高的中老年人来说，还是容易上当受骗。另一方面，如果尽可能规避负面影响，AI能够帮助用户极大地提升工作效率，这一点是毋庸置疑的，且随着人工智能的快速发展，我们可以预见AI将会与我们的工作和生活息息相关。

      科技的进步和创新，当然会让人感到好奇欣喜，其中蕴含的新鲜体验和无限商机，自然也会让市场很兴奋。但兴奋之余，虚拟交流背后的种种风险不可忽视，更为主动的监管，更为明晰的规范，是不可或缺的。

人工智能！