与人工智能淫秽视频的战争……再晚就要遭殃

“与谎言斗争的最简明的道路，就是和真相在一起。”

既精彩又苦涩。当地时间11日，当下“顶级”流行歌手泰勒·斯威夫特支持美国民主党总统候选人哈里斯而上传的“照片墙”帖子终于结束了。只有一点，其中提到用人工智能深度伪造制作的自己的假照片，让人回味无穷。用事实地来对抗谎言吧。这分明是正确的，但却让人想起了碰壁的现实。

最近在韩国引起争议的人工智能深度伪造淫秽视频之所以可怕，就在于它打破了这种“真伪的边界”。用人工智能编辑技术合成其他脸部制造淫秽视频的瞬间，不管它是真是假，都会有人遭受可怕的损失。大面积扩散之后就算是真相大白，又怎能补偿其伤痛?英国《独立报》就人工智能的这种恶意利用表示：“可以说，那相当于平常人家的烤面包机都能成为制造核弹的可怕兵工厂。”

难道都到了那种程度吗？德国某信息技术网络杂志上个月透露，由于担心人工智能深度伪造淫秽视频的制作会被用于犯罪，因此不记述具体方法，令人尴尬。只要在电脑上安装任何人都可以接近的开源人工智能模型，再输入“适当的”字句就能完成。信息技术专家查看结果后表示：“虽然有不自然的地方，但也要仔细观察才能知道。令人震惊的是，就算没有特别的专业知识也能制作。”

最近在美国因涉嫌制作人工智能淫秽视频而被捕的那些人就是如此。从在五角大楼工作的军人到安静乡村的现职教师，再到10岁出头的初中生……只是坐在房间角落里敲敲键盘，就成了恶质犯罪人员。美国《芝加哥论坛报》报道说：“从日常生活中打招呼的身边人士到素不相识的海外网红，他们不分对象。”

随着情况越来越严重，西方政府和立法机关等似乎开始全力以赴。美国加利福尼亚州议会本月初通过可以对所有利用人工智能深度伪造技术制作、散布、持有儿童淫秽视频进行处罚的法案。微软和开放人工智能等11日在白宫承诺，为防止深度伪造淫秽视频，将从人工智能学习数据中删除裸体形象。欧盟也着手全面调查最近开发的人工智能模型是否因大量生产淫秩视频而违反了个人保护规定。美国《华盛顿邮报》说，“考虑到限制赶不上技术的现实，虽然感觉为时已晚，但如果没有全方位的努力，人工智能将成为严重的灾难”，支持进行限制。

虽有为时已晚之感，韩国也传出了好消息。朝野政党19日协商通过了加强对儿童、青少年人工智能深度伪造淫秽视频等处罚相关犯罪、支援受害者的法案。事实上，去年有人虽然提出了几乎相同的法案，但在没有得到关注的情况下被废弃，没有比这更迟缓的应对了。但也不能因为为时已晚就放弃。美国NBC新闻在报道白宫承诺仪式时表示：“人工智能深度伪造淫秽视频战争关系到人类的尊严。”如果用税金运营的国家机关不为国民尊严而斗争，那么还有存在的理由吗?