早在2020年，韩国的“N号房”事件就冲上中国热搜，这个被韩国网友称为21世纪最泯灭人性的案件，将人性的丑恶揭露到了极致。

“N号房”，指的是有人胁迫女性拍摄淫秽视频和图片，并在聊天群内公开售卖，其中有不少受害者还是未成年。

因为在该平台存在很多个不同主题的聊天室，有“女教师房”、“女军人房”、“女护士房”、“女中学生房”等各种房间，因此称为“N号房”。

时隔四年，韩国再度曝出“N号房”丑闻。

据韩联社报道，首尔大学的两名高材生朴某与姜某，从2021年7月至2024年4月，利用“深度伪造”（deepfake）技术换脸合成色情照片和视频，将无辜女性的脸庞“移植”至色情内容中，并在Telegram等私密社交平台广泛传播，受害女性人数高达61人，其中不乏校园内的同窗。

许多媒体将此案称为第二个“N号房”事件

说起deepfake的历史，还要追溯到2017年。

当时，Reddit的成人交流社区的一个匿名的用户“DeepFakes”将《神奇女侠》中女主盖尔·加朵的脸移植到了一部成人电影的女主身上。

再辅以技术手段将其完美的融合，之后将其上传到了Reddit，一时间流量大增。

Reddit官方迅速行动，以侵犯了他人隐私为由将其封禁！

DeepFakes对于Reddit官方的封禁极度不满，为报复Reddit，直接在Github将deepfake技术的AI代码免费公开！

从此，打开了AI造假的潘多拉魔盒。

1

deepfake的危害

deepfake让我们质疑我们现在所见所闻的一切 。

身份盗窃

deepfake通过训练模型，只要采样足够多的数据，就会建立出更逼真的模拟对象！

在AI初期野蛮发展的这段时间里，以deepfake制作的视频中，有96%都涉及色情。因娱乐圈的公众人物的的素材丰富，所以明星妥妥的成了常见的受害者。

受伤最深的，莫过于“寡姐”约翰逊·斯嘉丽，相关视频播放量惊人。斯嘉丽深感无奈，她说：“想要尝试在互联网和它的邪恶面前保护自己，大多数时候就是一个注定失败的事情。”

到了现在，随着社交软件如抖音、tiktok的迅速发展。普通人的照片、视频也可以轻易获取得到。

也许哪天某个奇奇怪怪的网站上，就莫名其妙地有了以你为主角的视频，让你在老板、父母和朋友面前百口莫辩。

语音诈骗

在 AI 的帮助下，deepfake跨越了我们大多数人都没有准备好的界限：假声音克隆。

只需少量原始音频，人工智能模型就可以复制你独一无二的声音。 

想象一下接到一个听起来就像家人、朋友或同事的电话，既不可思议又令人恐惧。

造假新闻

俗话说：“眼见为实”。

如果从哪听来的事，我们不一定相信。那如果都在我们眼前发生的事，那不就是事实证据吗？

所以，这种视频造假的技术实现了一个质的飞跃：从制造假新闻，变成制造“假证据”，从而生产“假事实”。

它的致命危害，不仅在于人们更容易去相信那些假新闻，而更加在于人们连真的新闻都不知道要不要相信了。

2

如何遏制deepfake？

deepfake带来的威胁，令各国政府纷纷出台法案以遏制deepfake的危害。

但deepfake往往难以追查，并且存在于法律灰色地带，因为它是基于公开照片制作，算是新的创作，可以作为言论自由受到保护。

例如此次N号房所在的平台“Telegram”。

Telegram相比于其它社交软件更加私密，它不被任何第三方组织监控，哪怕是政府。

它的阅后即焚的功能太强大，导致了吸引了大量犯罪分子和恐怖分子。

为此Telegram的创始人杜罗夫受到了很多非议，如今已被法国当局逮捕。

监管虽然先行，但遏制深度伪造技术滥用的根本手段，还是需要“反伪造”技术的加强。

以此来识别deepfake的内容，尽量限制它的传播。

举个例子来说，真人说话的视频中，说话人的脸色是会随着心跳而有节奏地微弱变化的。还有，正常人一边说话一边眨眼睛也应该是有一个合理的节奏的。如果一个视频，里面的人永远在且仅在你眨眼的时候眨眼睛，那他多半不对劲。

话说回来，道高一尺魔高一丈，对方黑暗组织的deepfake也会针对性地完善算法。

那怎么办？也只能是不断地提高检测水平，把普通人造假的门槛抬得更高一些。

尾声

技术本身无罪，怕就怕在“科技不能向善”。

因为人性永远有弱点。

扫码关注