一个AI恐怖故事:我在色情网站,看到了自己

2024-09-06 | 来源: 虎嗅网 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

“我在群里看到你，是你吗？”

在韩国，如果有朋友给你发来这句问候，不要误会，他大概率不是要和你叙旧，因为接下来他给你发的，很可能就是你的裸照。

看着屏幕，你如遭雷击，脑子一片空白。虽然你百分百确认自己从来没有拍摄这样的照片，可手机屏幕里的那个人眉目清楚，却又分明就是你。

你不明白发生了什么，心脏被攥紧，恐惧开始在全身蔓延。

照片当然和女孩儿无关，它是由一种名叫深度伪造（DeepFake）的技术生成，这种技术在国内更被人熟知的称呼是“AI换脸”。在如今的韩国，这种技术正在变成一团巨大的阴影，笼罩在所有女性的头顶，带来恐慌和迫害。

在韩国，犯罪者通过DeepFake将普通人的形象替换到色情图片或视频中，然后通过社交媒体上进行传播，对当事人进行羞辱。

据《朝鲜(专题)日报》的报道，最近一周在警方发现的相关Telegram社群里，参与制作和传播DeepFake的加害者已多达23万人。这些人不局限在韩国，也来自世界各地。

另据一位韩国网友在X上发布的帖子表示，受到DeepFake影响的受害者已经遍及韩国数百所国中、高中和大学。这些受害者中，80%是女性，她们有的还在念初高中，属于未成年人、有的是大学生或者教师，其中甚至包括女性军人，她们的照片被称为“军需品”。

毛骨悚然华裔女丈夫露营遭随机杀

这不是动画片是东亚家庭恐怖故事

"今年夏天要50多度了"?这是什么恐怖故事

X上披露受Deepfake技术影响的校园名单

回顾这场风暴，DeepFake无疑是其中的关键。但它却并不是一项新技术，最早出现在2016年的DeepFake到如今已有将近十年的历史。

这十年间，DeepFake一直游走在罪恶和法律的边缘，不断挑战着人性和道德的底线。从美国到中国，从韩国到印度(专题)，DeepFake每隔一两年就会有一次技术突破，然后又给这个世界带来一场更大的恐慌。

技术有罪吗？DeepFake好像确实如此。但技术真的有罪吗？却似乎又与DeepFake无关。

被害人，从明星到百姓

追溯起来，DeepFake 最早出现在2016年。

当时，机器视觉还是全球AI研究最热门的方向之一，一些研究人员在研究机器视觉的过程中使用DCNN（深度卷积神经网络）实现了人脸识别、表情转换以及其他与图像处理相关的任务，这是DeepFake最早的雏形。

差不多一年之后，以这些技术为基础，科研人员进一步采用GAN（生成对抗网络）实现了生成逼真的人脸图像。之后，“换脸”很快以极具破坏性的首秀向大众展示它的威力。