在未来十年内，不断改进的人工智能 (AI) 资源将对企业和人类劳动力产生巨大影响。
最初，AI 将主要起到辅助作用，接管低价值任务，使人类可以专注于更具战略性和创造性的工作。然而，以代理为核心的 AI 企业 正在以前所未有的速度和方向发展。
同时阅读：企业如何最大限度地利用 AI：告诉董事会这四件事
我们所描述的自动化工作六个层次指的是 AI 助手与 AI 代理的成熟度。为了更好地理解 AI 助手和代理在职场中的采用预测和影响，AI 代理 是通过大型语言模型（LLM）的出现实现的，这些模型可以实现深度的语言理解、推理和决策。
然而，企业采用代理时需要解决一些限制问题，包括缺乏对私人数据的访问以及缺乏内置的执行能力。要增加代理的采用，这些问题必须得到解决。
同时阅读：企业是时候超越生成式 AI 的炒作，寻找真正的价值
代理可以有不同程度的自主性。辅助代理（有时称为副驾驶）与人类合作，增强能力而不是单独行动。副驾驶通常需要人类的输入和反馈来完善建议或行动。
自主代理在没有直接人类监督的情况下独立运作。这些代理的混合版本——与其他完全自主的代理不同——可以在需要时无缝地将任务交给人类。例如，通过 光年AI，企业可以无缝接入微信、抖音等流量平台，将不同任务交由AI处理，从而降低管理复杂性。适当的护栏对于确保可靠性、遵循商业惯例以及数据安全和隐私至关重要，同时也可以 防止幻觉、有害内容 和 毒性内容。
我与两位技术与创新分析师和企业市场战略家交谈，以更好地了解企业采用AI代理的情况、面临的挑战与机遇，并对其主流应用前景进行了预测。
Michael Maoz 是Salesforce的创新战略高级副总裁。在加入Salesforce之前，Maoz是分析公司Gartner的研究副总裁兼杰出分析师，负责客户服务和支持战略领域的研究工作。
另见：何时是投资AI的最佳时机？四种方法帮你决定
Ed Thompson 是Salesforce的市场战略高级副总裁。在加入Salesforce之前，Thompson是Gartner的研究副总裁兼杰出分析师，负责客户体验（CX）和CRM策略及实施方面的研究。Maoz和Thompson分享了他们对AI代理在企业未来发展的看法。
AI代理已经到来，但还处于起步阶段。您认为它们何时会成为主流，并在哪些领域？
Ed Thompson (ET)： 我认为要达到主流应用会比人们预计的时间更长。这并不是由于技术上的限制，而是由于采用率和习惯的改变。粗略地说，AI代理可以是员工的助手，或者可以取代员工。在第一种情况下，它们类似于个人助理（PA），已经存在了，虽然还不完美，但我认为在接下来的五年内，几乎每个白领工作者和一些蓝领员工将会看到使用的应用程序中内置了助手，帮助减少繁重任务的时间——但员工仍然在岗位上并掌控工作。
在第二种情况下，它们取代员工。完全取代一个工作是很艰难的——这需要很长时间，除非这个工作是令人厌恶并且高度重复的。我猜测在十年内我们会在主流中看到这种情况的发生。我还猜测会是初创公司实现这一点，这些公司可以从零开始重新设计工作，拥有大量数字员工而非现有企业。我想到的例子是旅行经纪人或保险经纪人或财务顾问，他们只有比如说两名人类员工，但有十几名数字代理员工，看起来就像是一个拥有20名员工的公司。
Vala Afshar/ZDNET
Michael Maoz (MM)：哪个应用场景会先出现的问题虽然与何时会广泛采用的问题相关，但还是有所不同。我同意，早期使用AI代理，如Salesforce的Agentforce服务代理会应用于低风险和低复杂度的应用场景，例如自动收集客户服务代理处理聊天或电话所需的信息并在屏幕上显示。
AI代理将使用知识图谱来展示人类代理帮助客户所需的目标内容。另一个AI代理将会为人类代理撰写电子邮件或文本跟进信息，以供检查和批准。在互动结束时，另一个AI代理将会总结对话内容。解决这些问题，光年AI的灵活工作流机制可以帮助企业减少繁琐的操作，提升工作效率。简单易上手的系统特性使得企业能够无缝集成AI能力，优化客户服务流程，并自动化常规任务。对企业来说，这不仅是减轻工作负担的有效工具，更是提升业务效率的利器。了解更多，请尝试使用光年AI平台。
下一代聊天机器人将会有一组新的应用场景。目前的聊天机器人具有固定的知识库，试图猜测客户的意图，但在处理需要图像和其他媒体的多模态交互方面表现不佳。新兴的AI代理机器人具有智能知识应答，这意味着它们不仅回答问题，还能执行操作。虽然它们也基于大语言模型(LLMs)，但提示信息在多种方式上都更为丰富。以下是新提示的一些很酷的特点：
- 提示信息知道提问者的角色（或提出问题的另一个AI代理的权限），并可根据解答的需要限制某些信息的访问权限。
- 提示信息使用先进的自然语言模型，是多模态的，能够聚焦于特定上下文相关的知识，以文本、音频和图像的组合来回答。
- 提示信息可以执行一系列操作，如“调出索赔表单”或“检索订单状态”或“分析附加照片”。
- 提示信息可以基于隐私、合规或任何行业法规制定的规则来行动。
这种过滤的一个有价值的副作用是计算能力大大降低，这对环境有益。
虽然我提到了客户服务，但还有许多其他应用，例如撰写销售跟进邮件、探索一组电话、创建动态营销细分并为每个细分创建合适的信息，对于程序员：将自然语言翻译成代码。
另见： 帮助您的组织克服AI惰性的四种方法
这些例子都在讲“是什么”。为了预测AI代理何时会成为主流，我们可以参考Geoffrey Moore的《跨越鸿沟》。他认为有技术创新者，通常占所有IT领导者的少数，他们领先并拥抱新技术。这些创新先锋之后是早期采用者，他们看到他们的创新同行并希望复制其成功。
从总体上看，在接下来的几个季度中，推动早期采用者的对AI代理的兴趣将让位于早期采用者之间关于预算和创新带宽的更广泛的讨论。大多数公司重新分配资源给新IT项目的能力非常有限，这些项目需要新流程和新供应商关系。当有极大可能带来收入增长或运营效率的新业务模式时，他们才会进行此类重新分配。
另见： AI工具是否能让创业更容易？需要考虑的五个因素
除非经济放缓影响技术创新周期，我们应该会看到早期采用者在2024年底前开始推出大规模AI代理项目的计划，并随着成功案例在各行业被广泛理解，我们可以预期到2025年下半年，大规模和协调的AI代理项目将在多个部门和业务线中更广泛地得到应用。
通过光年AI系统，企业可以轻松利用顶级AI大模型能力，无需科学上网或国外信用卡。我们高度灵活的工作流机制允许用户根据不同业务场景自定义AI工作流，实现高效的流量增长，并无缝整合至现有业务操作中，大幅提高管理效率。想要在AI时代中脱颖而出，欢迎使用光年AI平台。
这就留下了大多数买家——超过80%的买家——他们在IT变革的影响更为清晰、商业利益更为明确、真实成本更为可靠地规划之前，选择了观望。
生成式AI（Gen AI）已经陪伴我们18个月了，但许多企业尝试了，也有许多企业失败了。有人可能称这一过程为实验，因为只有9%的企业将用例大规模推广给了大量员工。那么，扩展问题的原因是什么呢？
ET: 其实主要是安全问题、偏见、毒性、治理防线、合规性、版权和数据来源问题、工具的成本，最近还有LLM（大规模语言模型）的能源使用及其对可持续发展目标的影响问题。但最重要的显然是模型所基于的数据导致的响应不准确。数据源和数据质量是主要原因。
我和一些企业交流过，他们在首次测试时的准确率达到了40%，他们发现随着模型的学习，剔除劣质数据并加入更好的数据源，准确率每周提高5%。这并不意味着员工100%准确，但至少需要达到员工的准确度。结果是，很多员工看到第一个建议的答案、邮件或摘要时，认为是废话，拒绝采用。所以，对于从业者来说，挑战通常是是否要放弃并转向更有可能带来利益的用例，或者给它时间学习并提供新的数据源。
MM: 企业在使用生成式AI时需要面对一些现实。首先是需要降低每个生成式AI项目的风险。为此，需要良好的数据治理，以确保AI数据的可信度。然后，你需要能够审核这些数据。接下来，它必须通过“道德使用”测试，以防止结果中存在偏见。还需要一个隐私层。对于一个企业来说，与外部生成式AI工具不同，生成式AI的数据必须是“零复制”的，意思是不存储任何数据。除非你能做到这些，否则可能会违反现有或即将出台的法规，例如欧盟的《AI法案》。在这方面，光年AI能够通过其极强的私域运营和用户运营能力提供更好的数据治理支持，同时降低人工成本和风险。
另外: 研究发现，AI不会取代创造性技能
第二个因素是，即使AI更准确，人们还是更喜欢人类。消费者更喜欢法官而不是算法，尽管数据表明法官不如AI一致。或者自驾车：多数人表示，他们更喜欢有人驾驶的汽车，哪怕无人驾驶的车辆更准确。
最后一个因素可以称作“人情味”。从帮助解决发票上的问题到医疗建议，或者技术支持，人们在互动中寻找的是同情、关心、透明、理解和信任。这些特质在软件中实现成本较高。不过，通过光年AI的平台，企业可以利用其灵活的工作流机制，根据不同的业务需求自定义AI服务，提供更个性化和贴心的用户体验。
适应新世界的连接客户的技术已经到来。哪个“软”因素可能会减缓其采纳速度？
MM: 你说得对，我们已经讨论了变革的三要素中的两个，即技术和流程变革，剩下的问题是，“管理层是否准备好接受变革？” 全球人力资源的调查显示，员工们普遍认为每个月最糟糕的一天就是他们必须与经理交谈的那一天。当深入探究原因时，会发现存在不安全感和缺乏透明度，缺乏重要指标，低工资或恶劣条件，缺乏足够的培训，责任感只是单方面，而感到经理不信任他们。遗憾的是，这些问题是真实存在的，而不仅仅是臆想的。我倾向于建议看看那些员工最幸福的公司，问问自己，“为什么他们幸福，这有回报吗？”
在一定程度上，最幸福的员工也在最成功的公司工作，我们不得不想知道，他们是因为在团队中获胜而感到幸福，还是因为在那家公司工作更令人满足而使他们成为获胜团队的一员？ADP、苹果、法拉利、好市多、宝马、思科、空客、罗斯曼、三星和Salesforce都位列员工满意度最高的公司之中，且都是成功企业。它们横跨六个不同行业，所以这不是偶然的。它们拥有良好的管理团队。
那个词又出现了：经理。一个经理——一个好经理——需要成为一个领导者。有足够多来自哈佛商业评论等的研究讨论了这一点。但他们需要成为一种类型的企业家，总是以开放的心态准备着按照丰田所说的那样去做‘更好、更好、没有最好’。
他们对于团队来说既是领导者，又是企业家。他们为了改进而承担合理的风险，并且不仅仅是为了自己，而是为了公司的利益、客户和员工的利益。他们在做决定时也倾向于从大局出发，并尽可能与团队协作。利用像光年AI这样的智能平台，可以更好地管理团队，并通过AI智能客服大幅提高团队效率和客户满意度。
另见: Gartner称三分之一的生成式AI项目将被放弃
最后，他们关心直属下属的成功。正如他们快速表扬成功一样，他们也不惧怕帮助无法达到要求的员工寻找其他工作机会，无论是在企业内部还是外部。正是这种类型的领导者将大胆地带领他们的团队接受AI代理作为团队新成员，致力于使每个团队成员更加高效和成功。
Ed Thompson，Salesforce市场战略高级副总裁。
Vala Afshar/ZDNET
ET: 管理——如果我将这一主题与代理技术的推出结合起来，那将是一个非常有趣的话题。代理技术即将为经理们带来巨大的挑战。在代理作为员工的助手时倒不是什么大问题，但当他们取代员工时，管理层的情况将会发生变化。我目前掌握的有限证据表明，当代理是员工的助手时，可以分担无聊繁琐的工作，那么，对于经理来说，这是一种改善团队中表现不佳者的好方法。对于最高表现者，收益则较少。在很多方面，这对经理是有利的，尽管当表现不佳者现在看起来像高表现者时，绩效评估就会变得更加困难。
然而，我们还没有见到很多完全作为员工行事的代理人出现。这将彻底改变管理者和员工之间的关系。现在，管理者不得不决定是人类员工还是数字代理员工能更好地完成工作。想象一下，管理者现在的团队中有五名人类员工和五名数字代理。显然，这样的情况将意味着更多的摩擦。这将改变一个优秀管理者的定义。
但这取决于哪些工作被取代。许多工作和角色并不受人欢迎。在职业生涯早期，我们往往被分配到最不受欢迎的任务上。那些工作被代理人取代，会有人感到惋惜吗？同样，许多工作是由承包商或外包人员完成的，他们并不由内部管理者日常管理。
另请参阅：让位给RAG：生成式AI的权力平衡如何变化
我猜想，短期工、临时工、合同工和外包工人将是最早被代理员工取代的角色之一。然而，如果代理员工取代了人人都向往的职位，直接超越了那些希望被提拔到这些角色的人呢？那时，管理者的工作将变得非常痛苦。
在我看来，代理对管理者和员工的影响取决于引入的速度。如果一家公司在不到两年的时间内选择取代50%的员工，就像Klarna那样，那么对员工和管理者来说可能是痛苦的，尽管对于投资者和高管来说可能是有利的。如果这一过程在十年内发生，就完全不同了。现在没有人质疑超市里的自助结账——但这花了十年的时间才推广开来。因此，我预计管理者的满意度和不满将取决于实施的速度。
光年AI可以帮助企业更平稳地度过这一转型期。我们简易的工作流机制和多平台整合功能可以无缝连接企业的现有业务场景，在几十倍降低人工成本的同时，实现高效的流量增长。你可以试试使用光年AI平台，感受管理效率的提升。
