向客户推出 AI 聊天机器人之前需要考虑的 20 件事
沃森维尔的雪佛兰使用 ChatGPT 进行客户服务。不要像沃森维尔的雪佛兰那样。事情进展不顺利。
任何买过车的人可能会发现很难对汽车经销店产生同情，但你必须对一家雪佛兰经销店的工作人员有这种感觉，他们向潜在的汽车购买者提供了 ChatGPT 版本。据 Inc.、雅虎财经和 Driving.ca 等网站报道，位于加利福尼亚州沃森维尔的雪佛兰经销商创建了一个定制聊天机器人，但很快就脱轨了。
用户可以通过各种方式说服聊天机器人以一美元的价格提供一辆 2024 款雪佛兰 Tahoe（大约价值 55,000 美元的卡车），让它推荐从福特购买而不是雪佛兰，并写一些打油诗来歌颂丰田坦途（雪佛兰的另一个竞争对手） ）。
在 Driver.ca 上一份归属于“雪佛兰”的声明中（我们不知道是主公司还是经销商在进行损害控制），该公司表示：
生成式人工智能的最新进展正在创造令人难以置信的机会，让我们重新思考通用汽车、我们的经销商网络等的业务流程。我们当然很欣赏聊天机器人如何在给出各种提示时提供引起兴趣的答案，但这也很好地提醒我们人类智能和对人工智能生成的内容进行分析的重要性。
明白我的意思吗？肯定有人度过了非常糟糕的一天。但是，为了确保您不会经历同样糟糕的一天，我们编制了一份清单，列出了在向客户开放人工智能之前应考虑的 20 件事。
我不会介绍使人工智能遵守这些准则所需的技术手段，因为这会因实施而异。但我建议的一切都是可行的，无论是通过人工智能 API，还是使用旨在构建自定义聊天机器人的特定工具。
让我们开始吧，好吗？
1. 为人工智能可以处理的查询类型设定界限
与根据特定信息集进行训练的老式专家系统相比，大多数人工智能聊天机器人使用无监督训练，这意味着它们几乎可以访问任何内容。不允许这样做。仅根据特定上下文的信息训练您的人工智能，然后限制它可以提供的答案类型。
2. 公开发布前在受控环境中进行彻底测试
不要只让你的员工对此进行测试。邀请朋友来，让他们按照自己的要求尽情发挥。测试，再测试一些，然后再次测试。
3.评估人工智能处理复杂或敏感问题的能力
确保仔细检查初步测试的结果并进行任何必要的更改。但不要将您的测试仅限于简单的试验。请务必突破人工智能的极限，看看它如何响应边缘情况。这就是如何开发护栏，防止人工智能误入危险区域。
4. 计划分阶段推出以管理客户期望和反馈
尽管进行了测试，您仍然无法找到所有缺陷。当你推出人工智能时，将其限制在受控群体中。但要小心：不要只限于合规的客户。找一个高中班级，让他们在你的人工智能中肆意妄为，看看它会做什么。找几个好奇又顽皮的外人，让他们找出缺陷。然后扩展到另一个小组，看看是否有任何奇怪的行为。慢慢地进行，也许只有受到邀请才可以。
5. 为意外的用户交互和查询做好准备
即使有了这一切，你也会得到意想不到的结果。当您了解人工智能的表现时，您将需要一种方法来实施小的改进。确保开发人员参与持续改进，并确保您记录足够的信息，以便开发人员跟踪任何计划外的行为。
6. 为人工智能故障或错误制定应急计划
如果人工智能开始脱轨，请制定升级和快速响应计划。确保您有一种方法可以快速关闭它，然后有一种方法可以将详细信息升级给开发人员以修复出现的问题。
7. 创建简明的服务条款和强制性点击协议以供用户接受
在向用户提供人工智能界面之前，这可以作为帐户创建过程的一部分呈现。它允许您（和您的律师）指定体验的法律界限，并否认人工智能做出的任何意外行为或承诺。这是你的后保护计划，以防万一人工智能失控，就像沃森维尔的雪佛兰试图以一美元出售一辆卡车时所做的那样。
8. 持续评估和改进人工智能的性能
确保将监控构建到流程中。您可能希望确保人工审核人工智能与客户的每次互动，以便您能够准确理解客户所说的和被告知的内容。确保您有办法向开发人员提供输入，以便快速部署改进。
9.定制人工智能以反映品牌声音和价值观
您的公司（或者至少是您销售产品的制造商）可能有非常仔细定义的品牌识别指南。确保人工智能遵循这些准则。请务必对负责品牌指导方针的监控人员进行培训，以便他们也可以从品牌标识的角度监控人工智能活动。
10. 监控人工智能是否存在无意的偏见或歧视行为
同样，培训您的监控人员如何识别偏见和歧视行为。作为定期监控和审核过程的一部分，请留意这种行为并将任何需要修复的问题上报给开发人员。另请记住，如果行为特别恶劣，您的员工可以通过这种方式联系相关客户或潜在客户，以便在情况升级之前进行损害控制。
11. 就人工智能的使用向客户保持透明
确保客户在与人工智能交互时清楚了解您的情况。这既能帮助你设定期望，又能在人工智能没有按预期响应时给你一点“出局”。解释一下人工智能是一项实验性功能或一项奖励服务。
12.定期评估人工智能对客户满意度的影响
有些客户会很高兴尝试新的人工智能功能，但有些客户会觉得它很奇怪或不人性化。请务必对这些响应变化表现出敏感性，并为那些不想使用人工智能的客户提供获得帮助的替代渠道。实际上…
13. 为客户提供一个简单的选择来获得人工支持
您不希望客户感觉自己被困在某种人工智能机器人炼狱中。确保人们有一条清晰、简单的途径与其他人联系，无论是通过电话还是文本交互。而且，无论你做什么，都不要告诉人们他们正在与一个人交谈，而实际上他们正在与一个机器人交谈。
14、实行客户报告问题或建议的反馈机制
即使是认为 AI 体验很酷的客户也可能会有一些反馈、建议或投诉。作为人工智能交互的一部分，提供一种简单的方法来收集反馈。例如，ChatGPT 在每次 AI 响应后都有一个“竖起大拇指”/“大拇指朝下”按钮，并提供一种方式让用户提供更多详细信息，说明他们为何给出该答案的评分。
15.根据客户反馈评估和调整AI的语气和沟通风格
人工智能能够通过修改正式性、友好性、词汇复杂性和整体语气等因素来调整其沟通风格。这不仅包括所选择的词语，还包括沟通的风格和方法——无论是随意的还是专业的，直截了当的还是复杂的，善解人意的还是客观的。根据客户的反馈，修改人工智能的说话方式，以最好地满足他们最舒服的方式。
16. 制定通过人工智能处理敏感客户信息的协议
我们都非常意识到安全的必要性，尤其是随着越来越多的犯罪分子试图入侵或成功入侵企业。人工智能收集的信息必须受到保护。仔细开发安全协议，以确保人工智能在请求个人信息时提出尽可能少的问题，然后保护它收集的任何信息。
17. 培训员工如何与人工智能系统一起工作
我们之前讨论过指派员工持续审核人工智能的响应，但没有具体提及培训。不仅进行审计的人员需要接受全面培训，而且您的整个员工都需要接受关于如何使用人工智能、其局限性、如何发现问题、如何在发现严重问题时升级以及如何传达期望的培训以及对客户的限制。理想情况下，培训将是一个持续的过程，随着技术的发展进行介绍性培训和定期复习。
18. 考虑人工智能对就业和员工角色的影响
毫无疑问，人工智能客户服务解决方案的引入将使您的团队成员担心他们的长期工作保障。在这里，你需要对员工完全透明，设定期望，并记住你面对的是有责任、有家庭和有感情的真实的人。请务必阅读 ZDNET 的特别报告《人工智能、就业和自动化的未来》，了解对这一复杂问题的深入报道和分析。
19、定期更新和维护AI系统
人工智能，尤其是生成式人工智能，正在以极快的速度发展。请务必规划人工智能系统的定期维护和更新。一月份的前沿技术到六月份可能会落后三代人。
20. 确保遵守相关法律法规
每个行业都是不同的，因此您必须根据您的业务类型和位置进行研究。请务必咨询您的律师，以确保您的人工智能工作（以及人工智能得出的响应）在您的法律要求的范围内。
哇！好吧，就这样吧。在让您的客户接触您的人工智能之前需要考虑的二十件事。如果遵循这些准则，您可以避免困扰沃森维尔雪佛兰的许多麻烦。
你怎么认为？我遗漏了什么吗？您正在企业中部署人工智能吗？你有什么有趣的故事要讲吗？请在下面的评论中告诉我们。
您可以在社交媒体上关注我的日常项目更新。请务必订阅我在 Substack 上的每周更新时事通讯，并在 Twitter 上关注我：@DavidGewirtz、Facebook 上：Facebook.com/DavidGewirtz、Instagram 上：Instagram.com/DavidGewirtz 和 YouTube 上：YouTube.com/DavidGewirtzTV。