ChatGPT 制造商 OpenAI 有一个免费工具可以识别 AI 编写的文本

OpenAI 提供了一个免费但“不完美”的工具来检测人工智能生成的文本，并希望它能引发一场关于人工智能素养的辩论。

ChatGPT 制造商 OpenAI 发布了一个“分类器”工具，可以检测人工智能编写的文本，但指出不应依赖它。

ChatGPT 可以创建答案的提示范围之广令教育工作者感到震惊，因为一些学生开始将人工智能生成的论文和家庭作业作为自己的作业来交。

通过自动检测人工智能生成的论文和作业，教育是可以从 OpenAI 的新分类器中受益的领域之一。它可能会带来不同的反应，就像纽约学校最近所做的那样限制其使用。澳大利亚各地的学校部门也禁止使用 ChatGPT。

该分类器还可以帮助开发者问答网站 Stack Overflow 等公司，该网站在其版主充斥着有时正确的解决方案后禁止了 ChatGPT 答案。

虽然分类器可以消除一些检测工作，但 OpenAI 表示不可能可靠地检测所有人工智能编写的文本，并且存在许多影响其有效性的限制。

分类器正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”——即真实阳性率。 9% 的情况下，它会错误地将人类编写的文本识别为人工智能编写的文本——这是误报。换句话说，它很有可能无法检测到未透露该文本是由人工智能编写的人类提交的文本，并且有可能会在两种情况下对文本进行错误标记。但它声称，与之前基于 GPT-2 的检测器相比，该分类器“对来自最新人工智能系统的文本更加可靠”。

OpenAI 在一份新闻稿中表示：“我们正在公开这个分类器，以获得关于像这样不完美的工具是否有用的反馈。”并补充说，它希望该工具能够“引发关于人工智能素养的讨论”。

免费的网络分类器工具可在此处获取。要使用它，用户需要将一部分文本复制并粘贴到文本框中，然后按提交。它将文本评级为“非常不可能”、“不太可能”、“不清楚是否是”、“可能”或“可能”是人工智能生成的。

分类器需要至少 1,000 个字符（大约 150 到 250 个单词）来分析文本。 OpenAI 警告说，编辑人工智能生成的文本很容易就能避开检测程序。此外，该工具更有可能错误地标记儿童编写的文本和非英语文本，因为它主要是根据成人编写的英语内容进行训练的。

此外，OpenAI 表示，它“尚未彻底评估分类器在检测与人类作者合作编写的内容方面的有效性”。

它表示该工具“不应用作主要决策工具”，而应作为确定文本来源的其他方法的补充。