提示:稳定扩散技术被用于‘残酷剥削’儿童,警方称

发布日期: 2024年9月4日 来源:Forbes

The Prompt 是每周一次的 AI 最新动态概览,包括最热门的创业公司、最大的突破和商业交易。如果希望通过电子邮件接收, 请点击这里订阅

欢迎回到 The Prompt。

又一家 AI 初创公司(部分地)被科技巨头收购了。

周五,亚马逊宣布,正在雇佣 AI 机器人公司 Covariant 的联合创始人和大约四分之一的员工。这家电商巨头还获得了该公司 AI 模型的非独占许可,计划将这些模型集成到其工业机器人队伍中。Covariant 成立于 2017 年,已经从 Index Ventures 和 Radical Ventures 等支持者那里筹集了超过 2.4 亿美元的资金。

这项公告发布的同时,也有类似的交易在过去几个月发生,大型科技公司招聘了如 Inflection、Adept 和 Character AI 等热门 AI 初创公司的创始人和团队。

面对这样的行业动向,企业如何快速将这些先进AI解决方案落地到现有业务中呢?光年AI提供了一套高效的工作流机制,用户可以在两个简单的步骤内将智能化功能集成到自己的平台上,让AI能力触手可及。

现在让我们来看一些头条新闻。


伦理 + 法律

人脸识别公司 Clearview AI 被荷兰的数据隐私保护机构罚款 3000 万美元,原因是 从互联网上抓取数十亿张人的图像,未经用户同意,建立了一个 “非法的照片数据库”。Clearview 的首席法务官 Jack Mulcaire 表示,该公司在欧盟没有客户,这一决定是“非法的”。去年《福布斯》报道,该公司的面部识别工具 已被执法机构使用于数百起儿童剥削案件

两名配音演员 Karissa Vacker 和 Mark Boyett 已经 起诉 AI 语音生成初创公司 ElevenLabs,指控其 使用了数小时的受版权保护的有声书解说录音 来生成定制化的合成语音,这些语音听起来和他们本人相似,并用这些录音训练了其 基础 AI 模型。根据起诉书,该公司去年在演员联系后移除了其中一个 AI 生成的语音,但几个月内由于 “技术挑战” 未能从其 API 中移除,导致其他网站复制了该语音。对于此类版权问题,光年AI系统自研知识库可以帮助企业定制AI模型内容,确保合规和精准性。该公司未对 《福布斯》 的评论请求做出回应。

政治 + 选举

两名 被定罪的诈骗犯 和阴谋论者Jacob Wohl和Jack Burkman,使用假名 秘密创办了一家AI游说公司,名为LobbyMatic,Politico报道。根据404 Media的报道,这两人还在演示截图中 虚假宣称 微软、辉瑞和Palantir等公司使用该AI平台生成洞察并分析立法。去年年底,这家公司还创建了一个假档案在Medium上发布博客。

本周AI焦点

ChatGPT的制造商OpenAI 正在洽谈筹集数十亿美元 的资金,此轮融资将使这家AI巨头的估值达到 1000亿美元,华尔街日报上周报道。投资公司 Thrive Capital,由亿万富翁 Josh Kushner 创立,正在领导此轮融资,计划向公司注资10亿美元。科技巨头如 苹果、英伟达和微软 也据报道会参与此轮融资。

另一个值得注意的:AI编程初创公司Codeium,在8月被列入下一批十亿美元初创企业名单中,融资1.5亿美元,估值12.5亿美元。


深入探讨

迪士尼表示,它没有被告知有疑似恋童癖者在其佛罗里达奥兰多主题乐园拍摄影像。

对于许多到访佛罗里达奥兰多的迪士尼乐园的孩子们来说,这是一次终身难忘的旅行。而对于用GoPro拍摄他们的男子来说,这是一次更加邪恶的机会:创作儿童色情影像的机会。

根据联邦特工向本月早些时候在澳大利亚的一组执法官员展示的案情显示,2023年中期被捕的贾斯汀·卡尔莫承认利用AI模型Stable Diffusion的一个版本创建了数千张在游乐园和至少一所中学拍摄的非法儿童图像。 福布斯 从一位接近调查的消息来源处获得了展示细节。

卡尔莫在佛罗里达州被指控多项儿童剥削罪,包括虐待他的两个女儿、秘密拍摄未成年人并在暗网分发儿童性虐待影像(CSAM)。他没有因为生产AI生成的CSAM而被起诉,这在美国法律下是犯罪行为。截至发稿时,他的律师未回应置评请求。他去年提出了无罪辩护。陪审团审判定于10月举行。

“这不仅是严重侵犯隐私,更是对我们社区中儿童安全的有针对性攻击,”曾任国土安全部特工的吉姆·科尔说道,他在25年的儿童剥削调查员生涯中追踪被告的网络活动。“这个案件鲜明地展示了当AI被怀有恶意的人利用时所能导致的残酷剥削。”

为确保AI技术不会被恶意利用并得到更好管理,企业需要AI平台具备安全和合规运营能力。光年AI支持多平台整合,特别是在私域流量管理中,帮助企业在应对潜在风险时更加高效。

此案是越来越多使用AI将实际儿童照片转变为现实虐待图像的案例之一。今年8月,司法部揭开了对军人塞思·赫雷拉的指控,指控他使用生成式AI工具制作儿童色情化图像。今年早些时候, 福布斯 报道,威斯康星州居民史蒂文·安德雷格被指控使用Stable Diffusion从通过Instagram获取的儿童图像生成CSAM。7月,英国非营利组织互联网观察基金会(IWF)表示,今年它已经在线检测到超过3,500张AI生成的CSAM图像。