眼见未必为实 耳听或许为虚——警惕人工智能时代的深度伪造骗局

　　眼见未必为实  耳听或许为虚——警惕人工智能时代的深度伪造骗局

　　近日一段“莫迪跳传统舞蹈”的视频在网上疯传，直到上周末莫迪在印度人民党总部出席排灯节特别活动时亲自辟谣，称网上流传的跳舞视频是AI合成的，这场依托人工智能的技术的谎言也就被戳破了。但是令我们所忧虑的并不仅仅是眼下的这场闹剧，这段视频让我们意识到了深度伪造可能将是人工智能造假的“重灾区”。

　　深度伪造技术，是被称作“生成式对抗网络”的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。它最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。

　　目前已经出现了利用深度伪造技术“AI换脸”、声纹造假等新型骗局，令人防不胜防，因此这项技术一旦被别有用心之人滥用，如果不加以防范，必然会给国家安全、公民和企业权益带来新的风险，造成社会发展潜在危机。

　　在如今人工智能的时代背景之下，我们需要更加全面的认识深度伪造技术。一方面它为文化和娱乐创造了更多可能，该技术有望能让历史人物变得活灵活现，也能帮助创造更好的视频效果，使得演员的出演安排更加灵活，例如在1994年上映的《阿甘正传》中，制作者就用了原始的“换脸”技术，将肯尼迪的影像填充到电影中，并调节他的表情和肢体语言，其效果让观众称奇。另一方面我们需要提高自身的警惕意识，仔细甄别“扭曲现实”后的陷阱，避免踏入人工智能的骗局。当下，深度伪造技术与检测技术正处于复杂且不分伯仲的博弈中，可以预见“以子之矛，攻子之盾”的是一个长期的动态制衡过程。我们不能因此因噎废食，“一刀切”式地禁用深度伪造技术，另一方面，我们还需要提升人工智能骗局的敏感度，提高对深度伪造的认识和辨别能力。