人工智能技术如何最终降低在线游戏的毒性

概括

• 由于有毒的文本和语音聊天大厅，在线游戏社区通常无法让玩家感到安全和融入。
• 人工智能聊天审核会标记潜在的有毒行为，以便由人类审核团队进行审查和处理。
• AI 语音聊天审核已在流行的多人游戏中使用，例如《使命召唤》、《我们之中》和《GTA 在线模式》等

花时间在游戏大厅或聊天可能会感觉很糟糕。有些社区已经变得有毒，导致玩家在进入游戏之前就离开了游戏。一些发行商认为人工智能可能是让他们的游戏适合所有玩家的解决方案。

游戏存在毒性问题

我来自老派游戏群体，所以我的大部分成长岁月都是在玩单人游戏或在游戏机上玩沙发竞技度过的。垃圾话是当今的常态，但当你坐在朋友旁边的沙发上时，你知道自己的极限，而且没有人会认为垃圾话是针对你个人的。互联网改变了这一切。

虽然您可以通过 Steam 玩本地多人游戏，但您通常会在大厅中在线玩游戏。如果您玩《Valorant》或《Call of Duty》等在线多人射击游戏，您很快就会意识到许多在线射击游戏所面临的毒性问题的严重程度。 2022 年的数据显示，《使命召唤》 可能是所有粉丝群体中毒性最强的，这使得该游戏在新粉丝眼中看起来很糟糕。该游戏也有臭名昭著的有害行为历史，包括几年前臭名昭著的“殴打”趋势。

《使命召唤》的发行商动视公司对此并不满意，认为是时候做出改变了。

长期以来，玩家一直在寻求无毒游戏。然而，大多数游戏公司不知道如何解决玩家群体中的毒性问题。 《使命召唤》最近实施了一个系统，该系统使用人工智能来捕获大厅中的有毒行为，并处理在其玩家群中宣扬负面行为的玩家。结果出人意料地有效。

AI 如何应对有毒玩家

假设你在一个游戏大厅，有一个人当着你的面满嘴垃圾话。它最终会变成令人厌恶的语言，然后是诽谤。你举报了这个人，但你甚至不知道是否会采取任何措施。

这就是当今许多在线游戏空间的现实。据动视暴雪称，截至 2024 年 1 月，已有超过 400 万个账户因有毒行为而受到执法打击，但这种行为仍然存在。

动视的旧方法不起作用，因此他们决定改变策略。

该公司此前曾与 Community Sift 合作进行基于文本的审核，效果似乎不错。然而，在基于控制台的大厅中，大多数通信都是通过语音完成的，因此基于语音的审核是必要的。这就是该公司基于人工智能的语音聊天主持人的用武之地。

主持人名为 ToxMod，来自 Modulate.ai 公司，在《使命召唤》生态系统中拥有强大的权力。 ToxMod 使用声音、言语模式、压力和其他元素的细微差别来确定用户是否在对其他大厅成员说有毒的话。主持人可以发出警告并标记玩家帐户以供人工执行和禁止。

目前哪些游戏运行人工智能聊天主持人？

《Among Us》和《Grand Theft Auto Online》等游戏都实现了人工智能聊天主持人。 GTA Online 玩家于 2023 年 12 月首次体验了 ToxMod 的 Beta 测试，但许多用户担心自己的隐私。该游戏的发行商 Rockstar 告诉玩家，他们刚刚测试该系统，并会考虑在 2024 年实施强制执行。然而，迄今为止，关于 AI 审核的更新还没有太多。

Among Us 早在 2024 年 4 月发布的 VR 版本中就已经实现了该系统。这些流行游戏使 ToxMod 在处理可疑言论和保持游戏大厅对任何人都友好方面非常受欢迎。这是帮助多人在线游戏摆脱不良过去并变得更容易被更多人接受的一步。

什么被标记以及什么是好的

根据 ToxMod 的说法，人工智能语音主持人使用情绪线索来确定是否说了一些冒犯的话。然而，它也使用聊天回复来查明攻击性言论。

该系统是为人类拥有最终决定权而设计的，因为 ToxMod 会将音频对话的详细日志发送给人类主持人，如果他们发现对话违反了行为准则，他们就可以发布禁令。这是一个标记工具，旨在帮助定位问题，而不是一个完全自动化的审核系统。

那么，如果用户已经有办法提交有关有毒玩家的报告，为什么 ToxMod 如此重要呢？动视暴雪的问题是，进入报告屏幕会让玩家退出游戏。当这种情况发生时，他们就不太可能想继续玩了。 ToxMod 的自动功能通过为玩家制作报告来让玩家沉浸其中。

我们中的许多人习惯于简单地让有问题的玩家静音并继续进行下去，而 ToxMod 确保做出报告，以便可以处理煽动者。

ToxMod 如何帮助《使命召唤》？

虽然很容易推测人工智能语音主持人可能会降低《使命召唤》等游戏的毒性，但掌握确凿的事实会更好。在这种情况下，动视估计，北美地区《使命召唤：现代战争 III》和《使命召唤：战区》游戏中的有毒语音聊天量减少了 50% >。同一消息来源表明，平台上的惯犯数量减少了 8%，恶意行为总体减少了 25%。

从数字来看，ToxMod 显然对聊天生态系统产生了积极影响。不过，对此应该持保留态度。人工智能语音审核往往会出现某些地区口音的问题，因此由人发布禁令对于避免任何问题至关重要。

即便如此，一些游戏玩家还是对自己因语音聊天而受到制裁感到不满。尽管人工智能语音调节非常出色，但仍然可能会犯错误。我们认为今年是检验新版《使命召唤》的好时机，尤其是毒性有所降低。

打造我们想要的游戏未来

人工智能有很多用途，从在电脑上生成强大的图像到将其用作私人健身教练。很自然地，有人会找到一种方法来缓和多人游戏中的攻击性语音聊天，从而营造出更受欢迎的氛围。

我希望看到一个多人游戏社区，人们互相支持，不会出于偏见而辱骂其他玩家。说垃圾话有时间和地点之分，但也有界限，那就是变得刻薄和辱骂。

如果人工智能语音聊天主持人能够让我们再次享受游戏的乐趣，我完全赞成它的实施。