Deepfake可以用来破坏一个人的声誉或勒索他，但许多国家的法律仍然不认为此类图像和视频是非法的。《福布斯女性》讲述了人工智能如何成为性暴力的工具之一，以及受害者（其中大多数是女性）面临的心理后果

摄影：roman raizen / Unsplash

不道德的神经网络

Deepfake技术是人工智能和数字操控领域的重大突破。它被用来创建高质量和欺骗性的媒体内容，例如视频、录音或图像，当观看或收听这些内容时，看起来好像真人正在做他们实际上没有做过的事情。

人工智能分析面部特征、面部表情、步态和手势，让您能够制作出逼真的假货。只需上传受害者脸部的一张清晰图像，就可以将其叠加到另一个人的身体上，从而创建引人注目的视频。这为制造假新闻、操纵政治事件和造成声誉损害提供了前所未有的机会。

根据网络安全公司 Home Security Heroes 的一项研究，到 2023 年，在线可用的 Deepfake 视频数量将接近10 万个，比 2019 年增加 550%。

深度造假色情内容的激增是这项技术可用性的必然结果。要创建逼真的一分钟视频，神经网络需要不到半小时，并且互联网上有足够的服务可以免费执行此操作。在美国进行的研究显示，一半的受访男性至少看过一次深度造假色情内容，而经常观看的男性中，四分之三的人并不认为观看有任何问题。

露骨内容行业也不急于打击产生浏览量的深度造假——十大最受欢迎的色情网站中有七个不屏蔽此类内容，专门从事此类内容的资源的月流量达到近 3500 万次浏览。“数据显示，在好奇心的推动下，对该内容类别的需求正在稳步增长。与此同时，深度造假技术对创作者和消费者在线偏好形成的影响力正在增加。”Home Security Heroes 表示。大多数用户观看深度伪造色情内容是因为他们好奇技术在这一领域可以做什么。此外，深度伪造任何人的能力使您可以根据自己的喜好个性化视频。

此外，此类数字造假的受害者99%是女性。“厌女症，即对女性作为客体的态度，在文化中普遍存在，特别是在网络环境中，是深度假货作者相信他们有权创建和传播此类材料的基础。就像复仇色情的情况一样，他们可能会将自己的活动视为对那些使用图像的人的一种惩罚。”姐妹中心专家安娜·博戈莫洛娃（Anna Bogomolova）解释了深度伪造色情内容的创作者的动机。 ，为性暴力受害者提供援助。

从歌手到政治家

专业和宣传在选择创建淫秽深度伪造内容的目标方面起着决定性作用。名人、政客和有影响力的人更有可能成为这项技术的受害者，因为有关他们的数字信息的可用性以及虚假或丑闻内容对其职业和公共地位的潜在影响。

绝大多数（94%）的 Deepfake 色情受害者是娱乐行业的代表，该技术在韩国最为普遍。来自这个国家的歌手和女演员占全球所有深度伪造色情视频的一半以上。韩国 有一段漫长而复杂的历史，涉及色情和审查制度。经过一段时期围绕露骨内容的严格监管和社会禁忌后，互联网的出现和成人材料的增加改变了韩国社会对色情内容的态度。韩国根深蒂固的崇拜和模仿名人的文化，在 K-pop（韩国流行音乐）和电视剧（韩语电视剧）的成功推动下，为明目张胆的 Deepfake 传播创造了肥沃的土壤，其中包括粉丝想要在性方面看到名人。

遭受 Deepfake 困扰的不仅仅是韩国明星。2024 年初，大量由人工智能创作的泰勒·斯威夫特的淫秽照片在社交网络 X（原 Twitter，在俄罗斯被屏蔽）上疯传。这些展示斯威夫特暴露姿势的照片 在被平台屏蔽之前获得了数千万的浏览量。据报道，删除这些照片花了 17 个小时，但许多图像仍然可以在社交媒体上看到。数字调查机构 Memetica 负责人Ben Decker表示 ，媒体公司“没有有效的方法来反击和监控此类内容”。

与大多数主要社交平台一样，X 禁止传播“可能误导或迷惑人们并造成伤害的人为创建的、操纵性的或断章取义的媒体”。然而，X 已经削减了其审核团队，现在依赖于自动化系统和用户投诉。X 目前因其新的内容审核方法正在接受欧盟调查。

7月初，英国女性政客发现自己陷入了深度伪造色情内容出版丑闻的中心。工党副领袖安吉拉·雷纳、教育部长吉莉安·基冈、下议院领袖彭妮·莫丹特等人的照片被上传到这个受欢迎的成人网站。其中一些图像只是政客脸部的粗糙 Photoshop 叠加在另一个人的裸体上，但其他图像看起来像是人工智能生成的深度伪造品。 《卫报》写道，其中许多图像几年前就出现在网上，现在已经获得了数十万次浏览 。一些政界人士联系了警方。

Deepfakes 发布的受害者、保守党成员德赫娜·戴维森 (Dehenna Davison) 评论了这一情况，并 表示这是对个人界限的粗暴侵犯，也是对隐私的侵犯。她补充说，如果世界各国政府不为人工智能建立适当的监管框架，将会出现“严重的问题”。另一位英国政治家斯特拉·克雷西（Stella Creasy ）承认她感到厌恶：“这与性快感无关，而是关于权力和控制。”

意大利总理乔治亚·梅洛尼正在起诉色情视频的作者。她要求向她的深度假货创造者追回 10 万欧元，根据内阁首脑的说法，这一数额具有象征意义，这一索赔的目的是为所有遭受男性侵害的女性树立榜样。梅洛尼计划将所得款项捐献给一个基金，以支持暴力受害者。

然而，非公众人物越来越多地成为深度造假的受害者。因此，7月初，西班牙的学童 因制作和传播同学的裸照而被判处一年缓刑。其中一名受害者的母亲说，女孩们开始出现恐慌症。“他们没有谈论发生的事情，因为他们担心别人会把责任归咎于他们，”她说。

俄罗斯著名主播 Amina Tenderlybae Mirzoeva 去年也遇到了类似的情况。此外，她承认，由于深度伪造色情内容在网上疯传，来自阿塞拜疆的远亲开始希望她死掉。

5 月底 ，有消息称，俄罗斯希望对深度假货的制造行为追究刑事责任。预计责任人将面临最高 150 万卢布的罚款或最高两年的收入金额或最高七年的监禁（处罚将取决于具体条款 - 立法者希望补充俄罗斯联邦刑法关于诽谤、盗窃、欺诈和勒索的部分）。截至目前，该文件尚未提交杜马审议。总统新闻秘书德米特里·佩斯科夫(Dmitry Peskov)在评论这一消息时表示，完全克服深度造假是不可能的，他 建议危险技术的潜在受害者“保持警惕”。

（本文内容仅供参考，不代表本号观点）