早期采用者现在正在企业中部署 AI 代理，并将于 2025 年大规模采用

技术、创新和战略专家分享了他们对人工智能代理的采用以及人工智能驱动的自主企业的未来的观点。

未来十年不断改进的人工智能 (AI) 资源将对企业和劳动力产生巨大影响。

最初，人工智能将产生广泛的增强效应，接管低价值的任务，并使人类能够将精力集中在更具战略性和创造性的工作上。然而，代理优先的人工智能企业在方向和速度上正在以前所未有的速度发展。

我们所说的自主工作的六个级别是指人工智能助理与人工智能代理的成熟度水平。为了更好地了解人工智能助理和代理在工作场所的采用预测和影响，大型语言模型 (LLM) 的出现使人工智能代理成为可能，这种模型可以实现深度语言理解、推理和决策。

然而，在企业中采用代理需要解决一些限制，包括缺乏对私人数据的访问以及缺乏采取行动的内置能力。为了提高代理采用率，必须解决这些问题。

代理可以具有不同级别的自主权。辅助代理（有时称为副驾驶）与人类合作，增强能力而不是单独行动。副驾驶通常需要人工输入和反馈来完善建议或行动。

自治代理独立运行，无需人工直接监督。与其他完全自主的代理不同，这些代理的混合版本可以根据需要将任务无缝地交给人类。适当的护栏对于确保可靠性、遵守业务实践、数据安全和隐私以及防止幻觉、毒性和有害内容至关重要。

我与两位技术和创新分析师以及企业市场策略师进行了交谈，以更好地了解人工智能代理的业务采用、挑战和机遇以及主流实施的预测。

Michael Maozi 是 Salesforce 创新战略高级副总裁。在加入 Salesforce 之前，Maoz 曾担任分析师 Gartner 的研究副总裁和杰出分析师，担任客户服务和支持策略领域的研究负责人。

Ed Thompson 是 Salesforce 市场战略高级副总裁。在加入 Salesforce 之前，Thompson 是 Gartner 的研究副总裁和杰出分析师，负责客户体验 (CX) 以及 CRM 策略和实施。 Maoz 和 Thompson 分享了他们对企业人工智能代理未来的看法。

人工智能代理已经出现，但还处于早期阶段。您认为它们什么时候会成为主流？在哪里？

Ed Thompson (ET)：我认为它进入主流需要的时间比人们想象的要长。不是由于技术限制，而是由于采用和习惯的改变。粗略地说，代理人既可以成为员工的助手，也可以取代员工。在第一种情况下，它们就像 PA，它们已经在这里，不是以完美的形式，但在未来五年内，我认为几乎每个白领工人和一些蓝领员工都会看到他们的应用程序使用将内置助手，帮助减少花在繁重任务上的时间，但员工仍然在那里并且仍然处于控制之中。

在第二种情况下，他们更换员工。更换整个工作是一个艰巨的任务——这需要很长时间，除非这份工作令人讨厌并且重复性很高。我敢打赌，我们需要 10 年才能看到这种情况在主流中发生。我敢打赌，实现这一目标的是初创公司，它们可以利用大量数字员工而不是现有企业从头开始重新设计工作。我想到的是旅行经纪人、保险经纪人或财务顾问，他们只有两名人类员工，但有十几名数字代理员工，看起来就像一家拥有 20 名员工的公司。

Michael Maoz (MM)：首先使用哪些用例的问题是不同的，尽管它与我们何时会看到广泛采用的问题有关。我同意像 Salesforce Agentforce Service Agent 这样的人工智能代理的早期使用将用于大量低风险和低复杂性的用例，例如自动收集客户服务代理处理聊天或电话所需的信息并将该信息显示在屏幕上。

人工智能代理将使用知识图来呈现人工代理需要帮助客户的目标内容。另一个人工智能代理将制定电子邮件或文本跟进，供人工代理检查和批准。交互结束时，另一个人工智能代理将总结对话。

另一组用例将用于下一代聊天机器人。当前的聊天机器人具有严格的知识库，并试图猜测客户的意图，并且不擅长处理需要图像和其他媒体的多模式交互。新兴的人工智能代理机器人具有智能知识答案，这意味着它们不仅可以回答问题，还可以执行操作。当然，它们是基于法学硕士的，但提示在几个方面要丰富得多。以下是新提示的四个非常酷的特征：

• 提示知道询问者的角色（或询问的另一个人工智能代理的权限），并且可以允许访问某些信息以获得答案，而不是其他信息。
• 提示使用先进的自然语言模型，是多模式的，可以集中于与特定上下文相关的知识，以文本、音频和图像的组合进行回答。
• 提示可以执行一组操作，例如“拉出索赔表”或“检索订单状态”或分析所附照片。
• 提示可以根据有关隐私、合规性或任何行业法规的规则进行操作。

这种过滤的一个有价值的副作用是计算能力大大降低，这对环境有利。

虽然我提到了客户服务，但还有许多其他用途，例如制作销售后续电子邮件、探索一组电话、创建动态营销细分和为每个细分提供正确的消息，以及对于编码人员：将自然语言翻译为代码。

这些例子都是关于“什么”。为了预测人工智能代理何时成为主流，我们可以从杰弗里·摩尔的《跨越鸿沟》的角度来看待。他表示，技术创新者在所有 IT 领导者中所占的比例通常只有个位数，他们走在前面并拥抱新技术。在这些创新冲击部队的背后是早期采用者，他们看到了他们的创新同行并希望复制他们的成功。

从较高的层面来看，在未来几个季度的某个时候，对人工智能代理的迷恋推动了早期采用者的发展，而早期采用者之间关于预算和创新带宽的更广泛对话将被取代。大多数公司将资源重新分配给需要新流程和新供应商关系的新 IT 项目的能力非常有限。当承诺提供显着的新功能时，例如很有可能实现收入增长或运营效率的新业务模式，他们就会这样做。

除非经济放缓阻碍技术创新周期，否则我们应该会看到早期采用者在 2024 年底前开始推出大规模人工智能代理项目计划，并且随着各行业对成功案例的了解越来越多，我们预计会看到第二个到 2025 年下半年，多个部门和业务线将更广泛地采用规模化、协调一致的人工智能代理程序。

这使得我们的大多数买家（超过 80%）都在等待，直到 IT 变革的影响得到更好的了解、业务收益更加明确、真正的成本能够得到更可靠的规划。

生成式人工智能（Gen AI）已经陪伴我们 18 个月了，但很多企业都尝试过，但很多都失败了。有些人可能将此流程称为实验，因为只有 9% 的公司将用例扩展到大量员工。是什么导致了扩展问题？

ET：嗯，存在安全、偏见、毒性、治理护栏、遵守法规、版权和数据来源、工具成本等问题，最近又出现了与能源使用相关的问题。法学硕士及其对可持续发展目标的影响。但显然，最大的问题是模型所依据的数据导致的提示响应不准确。数据来源和质量是主要原因。

我曾与一些公司交谈过，这些公司在首次测试时得到了 40% 的准确答案，他们发现随着模型的学习，当他们剔除质量较差的数据并添加更好的数据源时，准确度每周提高 5%。这并不意味着员工 100% 准确，但您至少需要在准确性上与员工的工作相匹配。结果是，许多员工看到第一组建议的答案、电子邮件或摘要，并得出结论，这些都是垃圾，拒绝采用。因此，从业者面临的挑战通常是他们是否会直接运行并转移到另一个更有可能产生效益的用例，或者是否给它时间学习并为其提供新的数据源？

MM：在 Gen AI 中，企业需要处理一些现实问题。首先是需要降低每个人工智能项目的风险。为此，需要良好的数据治理，以便人工智能的数据可以被信任。然后您需要能够审核数据。接下来，它必须通过“道德使用”测试，因此结果不会包含偏见。隐私层必须存在。对于企业来说，与外部Gen AI工具不同，Gen AI的数据必须是“零复制”，这意味着它不存储任何数据。除非你能做到这一切，否则你可能会违反现有或新兴的法规，例如欧盟的人工智能法案。

第二个因素是人类更喜欢人类，即使人工智能更准确。消费者更喜欢法官而不是算法，即使数据显示法官的一致性不如人工智能。或者自动驾驶汽车：大多数人表示他们更喜欢由人类驾驶的汽车，即使无人驾驶汽车会更准确。

最后一个因素可以称为“人情味”。对于发票问题的帮助、医疗建议或大量技术支持等互动，人们寻求的是同理心、关心、透明度、理解和信任。这些特征很难以经济有效的方式在软件中捕获。

面向互联客户新世界的技术已经到来。哪一个“软”因素可能会减慢采用速度？

MM：你是对的，我们已经讨论了变革的三个要素中的两个：技术和流程变革，而悬而未决的问题是，“管理层准备好拥抱变革了吗？”全球人力资源调查显示，员工一致表示，每个月中最糟糕的一天就是他们必须与经理交谈的那一天。当你深入探究原因时，你会发现重要指标存在不安全感和缺乏透明度，工资低或条件差，缺乏足够的培训，感觉责任只是一种方式，而且感觉经理不这样做相信他们。可悲的是，这些比想象的更真实。我倾向于建议关注员工最幸福的公司，然后问自己：“为什么是他们，这样做是否有回报？”

在某种程度上，最快乐的员工也来自最成功的公司，我们不得不想知道，他们快乐是因为在获胜团队中更有趣，还是因为在该公司工作更令人满意？ ADP、苹果、法拉利、好市多、宝马、思科、空中客车、罗斯曼、三星和 Salesforce 的员工满意度均名列前茅，而且都是成功的公司。他们跨越六个不同的行业，所以不是这样的。他们是管理良好的劳动力。

又是这个词：经理。一个经理——一个好的经理——需要成为一个领导者。哈佛商业评论和其他人有足够多的研究讨论这一点。但他们需要成为一种企业家，始终以开放的心态做好准备，了解如何做丰田所说的“更好，更好，永不最好”。

他们是团队的领导者和企业家。他们承担合理的风险来改进，他们主要不仅仅是为了自己，而是为了公司、客户和员工的利益。他们在做出决策时也倾向于着眼于大局，并尽可能与团队合作。

最后，他们关心直接下属的成功。正如他们很快赞扬成功一样，他们也不怕帮助那些无法达到所需水平的员工在企业内部或外部寻找其他机会。正是这种类型的领导者将大胆地带领团队前进，将人工智能代理作为团队的新组成部分，致力于让每个团队成员更加高效和成功。

Ed Thompson，Salesforce 市场战略高级副总裁。

ET：管理——如果我将该主题与代理的推出结合起来，那么这将是一个非常有趣的主题。代理技术即将给管理者带来巨大的挑战。当代理人充当员工的代理人助理时，情况就不那么重要了，但当他们取代员工时，管理者的情况就会发生变化。到目前为止，我们掌握的有限证据表明，当座席成为员工的助理，他们卸下无聊、平凡的工作时，对于经理来说，这是提高团队中表现不佳者的好方法。对于表现最好的人来说，好处要少得多。从很多方面来说，这对管理者来说都是一个福音，尽管当绩效较低的员工现在看起来很像绩效较高的员工时，绩效评估变得更加困难。

但我们还没有看到太多充当全代理员工的代理。这完全改变了经理与员工的关系。现在，经理必须决定人类或数字代理员工是否可以更好地完成工作。想象一下这样一种情况：经理现在团队中有五名人类员工和五名数字代理。听起来这种情况肯定意味着更多的摩擦。它将改变优秀管理者的定义。

但这取决于哪些工作被取代。许多工作和角色都不受欢迎。通常在职业生涯的早期，我们都会接受最不受欢迎的任务。有人会哀悼那些工作被交给代理人吗？同样，许多工作是由承包商或外包商完成的，他们的日常管理不受内部经理的管理。

我怀疑零工、临时工、合同工和外包工将是在使用代理员工方面首先尝试的一些角色。然而，如果代理员工取代了每个人都渴望的工作，超越了那些希望晋升到这些职位的人呢？那么经理的工作就变得非常痛苦。

在我看来，代理对管理者和员工的影响完全取决于引入的速度。如果一家公司选择在不到两年的时间里更换 50% 的员工，就像 Klarna 一样，那么即使这对投资者和高管来说是件好事，但员工和管理者很可能会感到痛苦。如果这发生在十年以上，情况就会非常不同。现在没有人对超市的自助结账提出质疑——但它花了十年的时间才推出。因此，我预计管理层的高兴和不满意将取决于实施的速度。

This article was co-authored by Ed Thompson, who is a senior vice president of market strategy at Salesforce, andMichael Maoz, who is senior vice president of innovation strategy atSalesforce.