谷歌子公司 Jigsaw 添加人工智能工具以构建更好的互联网

低质量和恶意的评论会成为过去吗？

众所周知，互联网上有相当多的用户贬低他人、分享无益的评论，在某些情况下甚至是公然辱骂。谷歌子公司 Jigsaw 周一发布了新工具，以进一步解决负面在线对话问题。

Jigsaw 的 Perspective API 可以集成到现有的评论系统、网站、应用程序和其他平台中，它使用人工智能来嗅出有毒评论，并提升用户的有用、积极且通常会添加到对话中的评论。该公司现在通过添加“实验桥接属性”改进了其 API。其中包括许多新的评估点，包括评论是否有细微差别或是否表现出好奇心。该模型还可以分析评论，以确定它们是否讲述个人故事，尝试推理以理解某些内容，或者“对他人表示尊重或赞赏”。

当 Perspective 摄取评论时，该工具会评估内容的一系列属性，包括其毒性水平、是否具有侮辱性、评论是否含有脏话、是否露骨，以及是否引起好奇或有细微差别等。 。然后，Perspective 对每个属性进行评分，以确定一个人是否会认为某个评论有毒、亵渎或辱骂。

Jigsaw 写道：“例如，像‘你是个白痴’这样的评论可能会获得 0.8 的属性毒性概率得分，这表明十分之八的人会认为该评论有毒。”

一旦评论被分配了分数，API 用户就必须确定如何处理它。 Jigsaw 设想了一种场景，版主根据评分来提升或降低评论等级。 Jigsaw 的 Perspective API 还允许用户创建分数阈值，以自动过滤人工智能认为滥用的评论。

包括社交媒体平台在内的网站常常会沦为用户参与丑陋辩论、亵渎性评论等的污水池。尽管许多服务多年来一直试图通过用户投票、过滤甚至关闭评论等工具来解决这个问题，但在减少在线骚扰方面进展甚微。

Jigsaw 的新工具是否有助于在这一领域取得进展尚不清楚。尽管 Jigsaw 的研究人员长期以来一直在宣传他们的技术，但在线讨论中仍然存在问题。更重要的是，Jigsaw 在其文档中承认其工具仍然缺乏理解上下文的能力。虽然 Perspective 可以客观地查看评论以确定其是否具有滥用性，但在许多情况下，上下文更重要。

“将来，我们希望用它来改进评论的分析，”Jigsaw 写道。 “目前，我们的属性没有利用上下文，因此发送上下文不会改变属性的分数。”

添加到 Perspective API 中的新属性现在可供开发人员使用。