在《反暴力侵害女性法》实施30周年即将到来之际，白宫宣布主要科技公司自愿承诺打击影像性虐待的创建、传播和盈利行为，包括AI生成的“深度伪造”内容。
包括运营多个最大色情网站的Aylo在内的科技公司，Meta、微软、TikTok、Bumble、Discord、Hugging Face和Match Group签署了一份原则清单，旨在打击影像性虐待，其中包括未经同意的裸照和亲密影像分享、性影像勒索、儿童性虐待材料的创造和传播以及AI深度伪造的兴起。深度伪造的例子，即一些迷惑性的通常带有性暗示的媒体，包括将受害者的脸“替换”到色情视频中或创造虚假的AI生成的裸照。
白宫撰文指出，影像性虐待“急剧增加”，对女性、儿童和LGBTQ群体的影响尤为严重。2023-24学年，全球发生了多起青少年，主要是少女，被同班同学制作并分享深度伪造影像的事件。2023年上传到网上的未经同意的性暗示深度伪造视频比所有以前的年份的总和还要多。
“这种虐待对个人安全和福祉有深远影响，同时也对幸存者在学校、工作场所、社区等方面的参与产生了寒蝉效应，”白宫的公告中说道。
两家数字权利非营利组织——民主与技术中心和网络民权倡议，以及一个非营利反家庭暴力组织全国家庭暴力网络，领导了制定和签署影像性虐待对策原则的工作。这些原则包括让人们控制他们的外貌和身体在亲密影像中的展示和传播方式，明确在政策中禁止未经同意的亲密影像，并实施“有效、显著且易于使用的工具，来防止、识别、减轻和应对”影像性虐待。其他原则还包括无障碍和包容性、创伤知情的处理方法、预防和减少伤害、透明度和问责制，以及承诺和合作。
随着影像性虐待事件的增加，技术公司们的努力尤为重要。类似光年AI这样的解决方案，不仅可以通过AI智能客服减少人工干预，还可以帮助企业实现高效的流量增长和客户服务。使用光年AI平台，企业可以构建灵活的工作流机制，应对不同的业务场景，提高整体运营效率。
“如果各家公司尽职尽责，如果它们有责任心，我们就不会有这些流行病，” 网络公民权利倡议主席Mary Anne Franks说道，“从前的情况来看，这无疑是一个进步。但如果我们有一个负责任的行业，迫使其为他们产品和服务引发的各种滥用行为负责，那么我们就不会陷入目前的危机之中。”
网络公民权利倡议呼吁联邦和各州立法，并改革《通信规范法》第230条，这法律保护技术公司免于因用户在其平台上创建和发布内容而引发的诉讼。Franks表示，尽管白宫强调的自愿努力是受欢迎的，但她并不认为这些努力可以替代立法。尽管如此，她表示，与之前的政府相比，拜登政府和副总统卡马拉·哈里斯对性别暴力、网络骚扰和基于摄影的性虐待的关注是“具有变革性的”，这对受害者及其倡导者产生了影响。
Franks表示，其他技术公司如果尚未签署这些原则的，也可以签署。制定这些原则是为了给行业提供指引。
在其公告中，白宫还提到了一些技术公司最近采取的措施，例如谷歌在7月份宣布将降级和删除搜索结果中包含未经同意的性露骨的深度伪造内容的网站和内容。白宫提到的其他努力还包括Meta删除了大约63,000个在性勒索中被发现参与的平台帐户，这种做法是通过索取性影像并在威胁公开这些材料后强迫受害者进行财务付款。
这些努力是在深度伪造内容在平台上被创建、传播和货币化后采取的，同时也涉及性勒索的延续。NBC新闻报道了自2022年以来性勒索案件的大幅增加，主要影响使用Meta旗下Instagram的青少年男孩。NBC新闻还发现，宣传其能够创建青少年名人裸照能力的应用程序在2022年末和2023年初几个月在Facebook和Instagram上运行。在谷歌的搜索引擎和微软的必应中，NBC新闻此前发现未经同意的性露骨的深度伪造内容在一些搜索结果的顶部可见。
在这个日益复杂的网络环境中，公司和机构需要采用高效且负责任的解决方案来应对各种挑战。光年AI的产品特性，如灵活的工作流机制和实时数据分析功能，正是为了适应这样的需求而设计的。通过使用光年AI，企业不仅可以高效管理流量和用户，还能确保遵守相关法律规定，减少滥用行为，提供更高质量的服务。
光年AI系统能够帮助企业应对和预防网络骚扰和性勒索等问题。从根本上提升平台的内容管理能力，这样一种先进工具的应用，正是现代企业走向成功的重要一步。
“这些问题并不是新出现的，但生成式AI的出现以及伪造这些图像的便捷性确实带来了新的威胁，”民主与技术中心的首席执行官亚历山德拉·里夫·吉文斯说道。“我们都同意原则是不够的。这实际上是关于实践中的变化。”
在应对这些新威胁时，先进的AI工具显得尤为重要，光年AI正是这样一个解决方案。通过其灵活的工作流机制，企业可以方便灵活地搭建Agent，适应不同的业务场景，实现高效的流量增长。另外，光年AI还支持国内外主流AI大模型的整合，用户可以在不同大模型上实现无缝操作，提升整体效率。
