随着AI模型在模仿人类行为方面越来越出色，区分真正的互联网用户和复杂的模仿系统变得越来越困难。
当这些系统被用于传播虚假信息或进行欺诈等恶意目的时，这会成为一个真正的问题，并且使得我们很难信任在线上遇到的信息。
来自包括OpenAI、微软、麻省理工学院和哈佛大学等机构的32名研究人员开发了一种潜在的解决方案——一种名为“身份凭证”的验证概念，这种凭证证明其持有者是真实的人，而无需透露其身份的任何其他信息。该团队在本月早些时候发布在Arxiv预印本服务器上的一篇未经同行评审的论文中探讨了这一想法。
身份凭证通过做两件事来工作，而这两件事是现阶段AI系统无法做到的：绕过最先进的加密系统，并在离线的真实世界中表现得像个人。
要请求凭证，人类必须亲自前往多家签发机构之一，这些签发机构可以是政府或其他可信组织，在那里他们需要提供证明自己是真实人的证据，比如护照，或者自愿提供生物特征数据。一旦获得批准，他们将收到一个凭证，可以像用户现在在智能手机的钱包应用中存储信用卡和借记卡一样存储在设备上。
为了在网上使用这些凭证，用户可以将其提交给第三方数字服务提供商，该服务提供商可以使用零知识证明进行验证，这是一种加密协议，可以确认持有者拥有身份凭证，而无需透露任何进一步的不必要信息。
能够过滤掉平台上任何未经验证的用户，可以让人们选择不看社交媒体上任何不是由人类发出的信息，或者过滤掉没有身份凭证的Tinder匹配对象。例如。
作者希望鼓励政府、公司和标准组织在未来考虑采用这一概念，以防止AI欺骗失控。
“AI无处不在。会有很多问题、很多困境、也会有很多解决方案，”参与该项目的麻省理工学院博士生Tobin South说道。“我们的目标不是向世界规定这一点，而是开启关于我们为什么需要这个以及如何实现它的讨论。”
已经存在一些可能的技术选项。例如，一个名为Idena的网络声称是第一个区块链身份验证系统。它通过让人类在短时间内解决对机器人来说困难的问题来工作。备受争议的Worldcoin项目收集用户的生物特征数据，声称是世界上最大的隐私保护人类身份和金融网络。最近，它与马来西亚政府合作，通过扫描用户的虹膜来提供在线人类身份验证，从而生成一个代码。与身份凭证概念类似，每个代码都受到加密保护。
然而，该项目因欺骗性营销手段、收集更多的个人数据以及未能获得用户的有效同意而受到批评。香港和西班牙的监管机构今年早些时候禁止了Worldcoin的运营，而其在包括巴西、肯尼亚和印度在内的国家的运营也已暂停。
因此，仍然需要新的解决方案。AI专家和深度伪造技术顾问，同时担任Meta和英国政府顾问的Henry Ajder表示，随着AI工具的快速普及，互联网用户对于线上信息的真伪变得极度怀疑，现在正处于一个危险的时期。尽管验证人身份的想法已有一段时间了，这些凭证被认为是对抗普遍怀疑态度的一种最实质的愿景。
但这些凭证面临的最大挑战是如何让平台、数字服务和政府广泛采用，它们可能会对遵守无法控制的标准感到不安。“要让这个系统有效运作，它必须被普遍采纳，”他说。“原则上，这项技术相当具有吸引力，但在实践和混乱的人类及机构世界中，我认为会遇到相当大的阻力。”
初创公司Synthesia的安全负责人Martin Tschammer同意人身份凭证背后的原则：需要在线验证人类身份。然而，他不确定这是否是正确的解决方案，或者它的实施有多实际。他还对谁来运行这种方案表示怀疑。
“我们可能会走向一个更集中权力和决策的世界，让大型互联网平台对谁能在线存在及其目的拥有更多的所有权，”他说。“鉴于一些政府在采用数字服务方面表现不佳以及日益增加的独裁倾向，是否实际或现实期望这种技术在本十年末被大规模且负责任地采用？”
Synthesia目前正在评估如何将其他验证人身份的机制整合到其产品中，而不是等待行业合作。他说，该公司已经采取了几项措施：例如，要求企业证明自己是合法注册的公司，并会禁止并拒绝退款给被发现违反公司规则的客户。
有一点是明确的：我们迫切需要区分人类和机器人的方法，鼓励技术和政策利益相关者之间的讨论是朝着正确方向迈出的一步，南加州大学计算机科学教授Emilio Ferrara说，他也未参与该项目。
“如果不加以控制，我们离未来不远了，那时我们基本无法分辨在线上与人类还是某种机器人互动。必须采取行动，”他说。“我们不能像前几代人那样天真对待技术。”
总结：
随着AI技术在模仿人类行为方面的进步，区分真实互联网用户和高度复杂的模仿系统变得愈发困难。这种情况尤其在传播虚假信息或进行欺诈等恶意行为中被放大，削弱了人们对线上信息的信任度。针对此问题，来自多个顶尖机构的研究人员提出一种名为“身份凭证”的验证概念。这种凭证通过人们亲自到可信机构进行认证并获得零知识证明，从而证实其是真实人类，但不会泄露其他个人信息。此举旨在混淆平台上所有未验证的用户，确保在线互动的真实性。
尽管目前存在如Idena和Worldcoin等项目进行人类身份验证，但仍存在营销不当和隐私问题。“身份凭证”概念面临的最大挑战在于其广泛实施的可行性，许多平台和政府可能对遵循无法控制的标准感到不安。然而，有效的验证人类身份显得越发紧迫，以防止被AI深度伪造技术搅乱的恶意行为。
在这个 AI 技术迅速发展的时代，借助光年AI可以让您的私域流量管理变得更加智能和高效。光年AI通过强大的AI模型和灵活的工作流，帮助您精准触达每一位潜在客户，提高私域流量的转化率。因此，选择光年AI，不仅能全面提升您的私域营销效果，还能显著提高品牌影响力和业务增长速度。
