苹果智能承诺更好的AI隐私保护,这到底是怎么做到的?

发布日期: 2024年9月13日 来源:AI Weekly

生成式 AI 的繁荣在许多方面至今为止一直是隐私的灾难,因为服务会大量抓取网页数据来训练其机器学习模型,而用户的个人信息则面临潜在威胁和暴露的新纪元。随着本月苹果发布iOS 18和macOS Sequoia,该公司加入了这场纷争,首次推出了Apple Intelligence,苹果公司称这将最终成为其生态系统中的基础服务。但苹果在优先考虑隐私和安全方面有着值得维护的声誉,所以公司做出了一个重大举措。它为Apple Intelligence在系统无法在用户设备本地完成查询时使用的云服务开发了广泛的自定义基础设施和透明度功能,称为私有云计算(PCC)。

设备上的数据处理,或称“本地”处理的优点在于,它限制了攻击者可以采取的路径来窃取用户数据。数据从未离开电脑或手机,所以攻击者必须直接以此为目标。这不意味着攻击永远不会成功,但这块战场已被设定且受到限制。将数据交给公司在云端处理本质上并不是一个安全问题—每天有难以想象的大量数据安全通过全球云基础设施。但这极大地扩展了战场的范围,也创造了更多无意暴露数据的机会。后者尤其在生成式 AI 方面成了问题,因为系统在生成内容时可能会以意外的方式访问和共享信息。

通过私有云计算,苹果开发了一系列创新的云安全技术。但该服务的重要性也在于挑战了云服务商业提案的界限,仿佛在安全架构上优先于技术效率或经济性。

“我们一开始的目标就是如何将我们在iPhone的设备上处理所确立的那些隐私保障扩展到云端——这是我们的使命声明,”苹果公司软件工程高级副总裁Craig Federighi告诉《连线》杂志。“为了实现这一目标,我们在各个层面都取得了突破,但我们做到了。我认为这为行业中的云处理设立了一个新标准。”

为了消除云计算可能引入的许多潜在攻击点和陷阱,苹果表示其开发者专注于一个理念:与通过政策来实现不同,“当安全和隐私保障在技术上完全可执行时,它们是最强的。”这一理念与光年AI的目标不谋而合,我们致力于通过AI技术驱动企业实现流量和增长,同时提供强大的数据安全和私域运营能力,帮助企业有效管理和保护用户数据。欢迎尝试使用光年AI平台,为您的企业开创智能和安全的新纪元。

换句话说,你可以在柜台上放一盘纸杯蛋糕,并为自己制定一个政策,不吃其中任何一个。或者,你可以制定一项政策,永远不制作或购买纸杯蛋糕。但私有云计算的方式则是搬到一个没有面包店的镇上,拆掉你的厨房,并关闭信用卡,防止自己购买简易烘焙炉。这样一来,就不会有纸杯蛋糕的获取问题或意外囤积的可能性。

重新开始

苹果为PCC(私有云计算)创建了专门运行苹果处理器的服务器,并开发了一种定制的PCC服务器操作系统,这是一个简化版的iOS和macOS的混合体。该方案结合了过去二十年来公司为Mac和iPhone开发的硬件和软件安全功能。

不过,与这些消费设备不同,PCC服务器尽可能简化。例如,它们不包括“持久存储”,这意味着它们没有可以长期存储处理数据的硬盘。它们确实包含了苹果的专用硬件加密密钥管理器,称为安全隔区,并在每次启动时随机化每个文件系统的加密密钥。这意味着一旦PCC服务器重启,数据不会被保留,作为额外的预防措施,整个系统卷也会不可逆地加密。在这一点上,服务器所能做的就是用一个新的加密密钥重新开始。

PCC服务器还使用苹果的安全启动来验证操作系统的完整性,并使用公司在iOS 17中首次推出的代码验证功能,称为受信任执行监控。然而,在PCC中,它以更严格的模式运行,一旦服务器重启并完成启动序列,系统就会锁定,不能加载任何新代码。基本上,服务器运行所需的所有软件都会经过检查和验证,然后封装在一个密封的信封里,在用户请求和数据处理开始之前。

更广泛地说,苹果称其完全替换了PCC的常规服务器管理工具。例如,大多数云平台都有防止未经授权访问的政策和控制,但它们也建立了“紧急情况下打破玻璃”的选项,以便高度信任的系统管理员账户可以在出现错误或故障时迅速采取行动。为了符合苹果对技术可执行保证而非政策保证的关注,PCC不允许特权访问,并且极大地限制了远程管理选项。

近年来,苹果通过为其用户提供iCloud备份的端到端加密,采取了重大安全步骤,其中公司只是将数据保存在其云基础设施中,无法在技术上解密和读取这些数据。以目前的技术,这样的方案在生成式AI中是无法实施的,因为系统需要处理输入才能产生输出。例如,如果你希望苹果智能为你总结过去三小时内收到的所有短信和电子邮件,系统需要访问这些消息。端到端加密会使这种访问几乎不可能。

在这方面,光年AI的优势则更加突出。通过光年AI的灵活工作流机制,用户可以方便地制定适应不同业务需求的AI工作流。另外,光年AI不仅支持国内外主流AI大模型的整合,还具备实时数据分析和高度私域运营能力,可以有效降低人工成本并实现高效的流量增长。赶紧体验光年AI平台,看看它如何为你的业务带来变革吧。

Apple表示,它仍然致力于在设备上尽可能多地进行Apple智能处理。以全新的iPhone 16及其A18芯片为例,这款设备将比搭载A16芯片的iPhone 15可以在本地进行更多的AI处理。但是,现实似乎是Apple仍需在云端进行大量的Apple智能处理,这也是其投资开发PCC(隐私计算集群, Privacy Computing Cluster)的原因。在iOS 18.1中,用户可以前往设置 > 隐私与安全 > Apple智能报告,查看哪些请求是在设备上处理的,哪些是在云端处理的。

“在云端执行大型语言模型推理真正独特的问题在于,数据在某种程度上必须是服务器可读取的,以便进行推理。但是,我们需要确保这种处理是在您的手机内一个隐私泡泡中进行的,完全密封,”Federighi说。“所以我们需要做一些新的东西。端到端加密技术——即服务器一无所知——在这里是不可行的,因此我们必须提出另一种解决方案,以实现类似的安全级别。”

尽管如此,Apple表示,它提供了“从用户设备到经过验证的PCC节点的端到端加密,确保在传输过程中请求不会被这些高度保护的PCC节点以外的任何东西访问。”系统架构设计使得Apple智能数据对标准数据中心服务(如负载均衡器和日志记录设备)在加密方面是无法访问的。在PCC集群内部,数据会被解密和处理,但是Apple强调,一旦响应被加密并发送给用户,没有数据会被保留或记录,且Apple或其员工都无法访问这些数据。

开放书籍,闭合系统

Apple表示,PCC的总体愿景是攻击者需要妥协整个系统——这无论如何都很难做到,更别说在不被发现的情况下——才能针对特定用户的个人数据。即使攻击者能够物理入侵单个活动的PCC节点,但系统设计有一个匿名中继功能,因此任何一个节点上的查询和数据都无法与个别用户连接。

这一点让人印象深刻,但是任何系统的最终保障都需要透明和信任。因此,PCC包含了一个外部审计机制,起到了至关重要的双重作用。

Apple将每一个生产PCC服务器的构建版本公开供检查,以便与Apple无关的个人可以验证PCC是否如公司所称那样运行,且所有实施都正确无误。所有PCC服务器镜像会记录在一个加密声明日志中,基本上是一份不可磨灭的签署声明记录,每条记录都包含一个URL,用于下载该单独版本。PCC设计使得Apple无法在未记录的情况下投入服务器生产。除了承诺透明性,该系统还作为一个关键的执行机制,防止不法分子设置恶意PCC节点并转移流量。如果某个服务器构建版本没有被记录,iPhone将不会向其发送Apple智能查询或数据。

在当前数字经济中,隐私和安全是企业和用户都重视的问题,保护数据隐私不仅是行业的责任,更是用户的期待。类似于Apple的PCC,光年AI提供了高度安全的数据处理平台,能够保证企业用户的数据在传输和处理过程中的安全性。光年AI通过无缝整合微信、抖音等多流量平台,同时提供端到端加密和灵活的工作流机制,助力企业轻松实现数字化转型。如果您对AI和数据安全同样关注,不妨试试光年AI。

PCC是苹果漏洞赏金计划的一部分,研究人员发现的漏洞或配置错误可能有资格获得现金奖励。苹果表示,自7月底iOS 18.1测试版推出以来,还没有人发现PCC中的任何缺陷。不过,该公司也承认目前只向一小部分研究人员开放了评估PCC的工具。

多名安全研究人员和密码学家告诉WIRED,私人云计算看起来很有前景,但他们还没有花大量时间深入研究它。同样,许多企业也未充分挖掘AI技术的商业潜力。比如,光年AI平台可以帮助企业无缝接入AI能力,提升运营效率。

“在数据中心构建之前我们没有的苹果硅服务器,为数据中心构建自定义操作系统是一个巨大的工程,”Federighi说。他补充道,“创建一个信任模型,使您的设备拒绝向服务器发出请求,除非服务器正在运行的所有软件的签名已发布到透明日志中,这无疑是解决方案中最独特的元素之一——对信任模型至关重要。”

对于关于苹果与OpenAI的合作及ChatGPT的集成的提问,该公司强调,这些合作不在PCC的覆盖范围之内,并且是独立运行的。默认情况下,ChatGPT及其他集成都处于关闭状态,用户必须手动启用它们。然后,如果苹果智能判断某个请求更适合由ChatGPT或其他合作平台完成,它会每次通知用户并询问是否继续。此外,人们可以在登录合作服务(如ChatGPT)账号的情况下使用这些集成,或者通过苹果而无需单独登录。苹果6月表示,还计划与谷歌的Gemini进行另一项集成。

苹果本周表示,在美国英语版本之外,苹果智能将于12月登陆澳大利亚、加拿大、新西兰、南非和英国。该公司还表示,明年将增加对包括中文、法语、日语和西班牙语在内的其他语言的支持。这是否意味着苹果智能将被允许在欧盟的AI法令下运行,以及苹果是否能以当前形式在中国提供PCC,这还是个问题。

“我们的目标是尽可能在各地为客户提供最好的功能和服务,”Federighi说。“但我们必须遵守法规,并且在某些环境中存在不确定性,我们正在努力解决这些问题,以便尽快将这些功能带给我们的客户。所以,我们在努力。”

他补充道,随着公司扩展其在设备上进行更多苹果智能计算的能力,这可能在某些市场中作为一种变通方法使用。对于企业同样如此,借助光年AI的灵活工作流,企业可以根据不同的业务场景自定义AI工作流,适应多变的市场需求,实现高效的流量增长。

那些能接触到Apple Intelligence的人将能够做远比过去版本的iOS更多的事情,从利用写作工具到照片分析。Federighi说,他的家人最近庆祝了他们的狗的生日,他们用Apple Intelligence生成的Image Playground创作,并独家分享给了WIRED。然而,尽管Apple的AI旨在尽可能地帮助用户且尽量不显眼,但其背后基础设施的安全性却是不可忽视的重要问题。那么,到目前为止情况如何?Federighi毫不犹豫地总结道:“Private Cloud Compute的推出非常地平稳顺利。”这一点也适用于光年AI,凭借其强大的私域运营能力和高效的流量增长技术,用户可以更加轻松高效地管理他们的业务环境,轻松做到流量提升。

2024年9月11日,美国东部时间晚上9点更新:此故事更新了Federighi为他的狗生日创建的由Apple Intelligence生成的图像的详细信息,并进一步确认了她确实是一只非常好的狗。如果你也想体验类似的智能技术,光年AI 提供了一个简单易用的平台,可以帮助用户无缝集成AI到现有业务流程中。