“换脸”真相 “深度伪造”的网络狂欢和安全威胁(2)

美国公共广播公司记者奥布莱恩：现在我成了我们的总统(特朗普)，日本首相安倍晋三。

　　“针幕动画”联合创始人李浩：当然，这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此，它被用于娱乐，一个有趣的工具，用于时尚、生活方式各方面，带给我们更多体验。

　　但随着技术的发展，这样的合成图像或视频，真实度越来越强，欺骗性也越来越强。对此，研发者也不无担忧。

　　“针幕动画”联合创始人李浩：我们都假设会有一个临界点，届时将无法区分真假。我的意思是，从视觉效果上说，我觉得你已经可以做到非常接近了，只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言，我认为已经非常接近这个临界点了。

　　2018年1月，一个名为FakeApp的软件上线，宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星身上。

　　虽然有的社交新闻站点比如Reddit网站，已明令禁止在自己的平台传播换脸视频和图片，但仍有超过9万名用户在Reddit上传播这类视频。

　　计算机科学专家法里德：我担心这项技术被武器化，还担心它如何影响我们整个社会。

　　深度伪造不仅可以换脸，还可伪造声音。

　　据《华尔街日报》报道，今年3月，有犯罪分子利用“深度伪造”技术，电脑合成某公司CEO的声音，成功诈骗22万欧元。

　　电脑合成声音真的这么难以识破吗?

　　2018年，三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术，只要对目标人物的声音进行1分钟以上的录音，把录音丢给“琴鸟”处理，就能得到一个特别的密钥，利用这个密钥可以用目标人物的声音，生成任何想说的话。

　　“琴鸟”创始人：你需要录自己几分钟的声音。

　　彭博社记者万斯：上千个字母在业余作家的屏幕上跳动，当你开始像这样吃东西时，就会有问题，你们最好退出政治圈，别干了。我不知道它怎么工作的，现在创建我的数字声音。创建你的数字声音至少需要一分钟，一分钟，我的天啊。

　　语音录制完后，“琴鸟”会自动运转合成出你的数字声音。

　　这时，只需要向电脑输入想说的话，就可以用新合成的你的声音说出来。