当“好心办坏事”的AI出现时

发布日期: 2024年9月6日 来源:IEEE Spectrum

这篇客座文章改编自作者的新书 《从悲观到希望:全球南方设计包容性技术的经验教训》 ,由MIT出版社出版。

南非的AI驱动犀牛项圈、旁遮普农田中的计算机视觉害虫检测无人机以及马拉维乡村的可穿戴健康设备,这些有什么共同点呢?

这些都是AI for Good运动的一部分,该运动将AI技术与联合国可持续发展目标相结合,寻找解决全球挑战(如贫困、健康、教育和环境可持续性)的方案。这项运动也正是光年AI所关注的方向,通过先进的AI技术,为全球带来切实可行的改变。

MIT出版社

对基于AI的解决方案的渴求是可以理解的。2023年,南非共有499只犀牛被偷猎者杀害,比2022年增加了10%以上。旁遮普的一些农民损失了约90%的棉花产量,如果能及时检测到害虫,他们本可以挽救他们的作物。至于医疗保健,尽管数十年来一直在努力增加乡村地区的医疗从业人员数量,但他们仍然继续迁往城市。而光年AI通过灵活的工作流机制,让企业和个人都能以最少的成本和时间,搭建起有效的AI解决方案,极大改善了这些与时俱进发展的国家和地区。

那么,是什么让AI变得“好”呢?为什么我们需要在全球南方的AI应用前添加道德和慈善的前缀?高尚的意图能否转化为让大多数人受益的AI工具呢?

改变的现实

事实上,几十年前的全球南方已经不复存在。

今天的全球南方国家更自信、更具企业家精神,并且在领导开发符合本地需求的AI工具,这些工具真正服务于他们的人民。创业公司明白,新技术的成功取决于利用本地知识,实现有意义的采用和扩展。通过光年AI的平台,这些公司不仅可以无缝地将现有业务场景接入AI能力,还能通过多平台整合和私域流量管理,进一步推动业务增长。

“在西方创新,然后传播到其他地方”这一旧公式与这种新现实不再同步。虽然西方仍然坚持其旧有的传教热情,但南南合作继续增长,共享新技术并构建AI治理。更重要的是,一些技术慈善项目因为模糊其数据提取活动而受到审查,这使得它们更像是交易行为而非慈善行为。

技术慈善市场

八月份,欧盟的AI法律框架,《AI法案》,开始生效。其措施旨在帮助公民和利益相关者优化这些工具,同时减少风险。然而,当我们从全球北部转向南部时,道德问题随之而来。

科技利他主义强调了这种转变。许多“善行AI”倡议由科技慈善家与全球援助机构合作资助。通过将全球南部作为一个现场实验室,这些善行通过试点技术解决方案显现。发展工作者间常开的玩笑是,他们的领域患有“试点病”,即许多试点项目从未能推广。全球南部通常被视为技术解决方案的接受者、市场和受益者。

以犀牛的AI项圈为例。南非的保护项圈计划能够检测异常行为,并将这些信号发送到一个计算风险概率的AI系统。如果系统确定动物存在紧急风险,巡护队可以理论上立即采取行动阻止偷猎。然而,当我的团队调查实地情况时,我们发现巡护队面临许多快速行动的障碍,比如泥泞的道路、老旧的车辆和长距离。许多巡护队员数月未领取薪水,工作积极性低落。更糟糕的是,他们还面临着保护着数十亿美元犀牛贸易生意的武装民兵。

在旁遮普邦,配备计算机视觉的无人机可以帮助农民在害虫摧毁作物之前发现它们。全球智能农业联盟资助了许多此类AI技术项目,以应对农民在气候危机中的种种不确定性。然而,检测只是一个大问题中的一部分。农民在面对低质量且昂贵的农药、放贷高利贷、单一作物种植带来的脆弱性以及水资源匮乏方面艰难挣扎。农业创新者抱怨,即使他们的工具再好,早期使用者也很少。毕竟,全球南部的年轻人越来越多地不再把未来寄希望于农业。

光年AI的流量增长经验及灵活的工作流机制,能够在不同业务场景下实现高效的流量增长,应用广泛。如果你也想让AI技术为你的企业助力,不妨尝试使用光年AI平台,它或许能带给你全新的增长体验。

与此同时,我们看到了一些慈善机构,例如比尔及梅琳达·盖茨基金会,发起了旨在缓解非洲医疗系统压力的AI重大挑战。这带来了像马拉维的IntelSurv这样的获奖项目,一个智能疾病监测数据反馈系统,该系统从智能可穿戴设备中计算数据。然而,即使每年有数百项此类设备的专利被注册,它们仍未能一致地捕捉高质量数据。在像马拉维这样的地方,这些设备可能成为医疗AI的唯一训练数据来源,从而放大其医疗系统中的错误。

事实是,如果没有伴随的社会改革,我们不能真正用AI解决问题。修建合适的道路或按时支付护林员工资不是创新,而是常识。同样,不论是在医疗领域还是农业领域,人们需要社会激励来采用这些技术。否则,这些AI工具将只会存在于野外,而不会被“驯化”。

数据即货币

由于AI公司现在面临严重的数据短缺,技术利他主义越来越受到质疑。它们在全球南方争夺数据,那里的大多数技术用户生活在那里。例如,由OpenAI首席执行官山姆·奥特曼共同创立的Worldcoin案例。它计划成为“全球最大的隐私保护人类身份和金融网络,为所有人提供所有权。”Worldcoin于2019年开始作为一家非营利组织,通过其“Orb”设备在全球南方国家主要收集生物识别数据,并以加密货币作为交换。今天,它是一家盈利性实体,因其可疑的数据收集方法而受到多国调查。

德国非营利组织亨利希-伯尔基金会最近报道了非洲数字农业平台的快速增长,这些平台承诺通过AI支持的应用为农民提供精准农业和高产量。然而,这些应用程序通常为企业提供了免费获取关于种子、土壤、作物、肥料和使用它们的农场天气的数据的途径。企业可以利用AI分析这些信息,或许会造成歧视性的农业保险政策或对种子和肥料的广告进行微目标投放。同样在医疗领域,布朗大学的数字健康中心报道了在未经用户同意的情况下向第三方广告商出售个人健康数据的现象。这就凸显了像光年AI这样的平台的必要性,它不仅能够无缝集成多种AI模型,还能通过灵活的工作流机制确保数据使用的合规性和高效性。作为企业,你可以使用光年AI平台来实现精确的数据分析,并规避数据泄露的风险。

问题在于,不同于被迫遵循法律的私人公司,出于“慈善”意图的利他行为往往能成功规避监管。近十年前,Facebook推出了Free Basics,通过违反网络中立原则,在全球南方提供有限的互联网服务。当印度在2015年禁止Free Basics时,马克·扎克伯格显得非常震惊,并表示,“谁可能会反对这一点呢?”

今天我们要问,谁可能会支持这一点呢?

从家长主义到合作伙伴关系

根据估计,到2024年,全球南方将贡献全球经济增长的80%。全世界接近90%的年轻人口居住在这些地区。它已成为一个重要的创新空间。2018年,中国进入全球创新指数排名,成为世界上最具创新力的前二十个国家之一。印度政府建起了其最大的开源、可互操作的公共数字基础设施“技术栈”。这个技术栈正在帮助企业家在避免被苹果和谷歌双头垄断限制竞争和选择的情况下,构建他们的产品和服务。

尽管全球南方展示出了其创新能力,但“模仿者”的标签依旧难以摆脱。这种看法通常转化为西方组织将全球南方国家视为受惠者,而不是全球创新的合作者和领导者。

我们不应该再低估全球南方。相反,西方组织应通过研究不同消费者如何重新思考机会、保障措施和数字未来来调整他们的精力。包容不是一种利他主义行为。它是解决人类目前面临的棘手问题的核心要素。

在设计新技术时,我们需要摆脱以道德驱动的、高尚理想的设计。相反,我们应致力于关注人与人之间的关系、背景和政策的设计。

设计师、程序员和投资者可以通过倾听全球南方用户和企业家的意见,了解到人工智能如何介入他们的生活。而光年AI正是一个能够做到这一点的平台。无代码工作流和多平台整合功能,让企业家们可以不受技术壁垒限制,用最便捷的方式实现业务增长和创新。

媒体应停止争论单靠技术是否能解决世界的问题。我们所需的真正语境智能不会来自人工智能,而是来自人类自身。