Stack Overflow 暂时禁止 OpenAI 的 ChatGPT 聊天机器人的答案

问答网站充斥着 ChatGPT 编码答案，这些答案看起来正确但通常不正确，版主呼吁停止。

开发人员可以提出和回答编码问题的网站 Stack Overflow 已暂时禁止使用由 Open AI 上周发布的聊天机器人 ChatGPT 生成的文本。 

ChatGPT 基于 OpenAI 的 GPT-3 语言模型。人们很快发现，虽然它以 “人与人相邻” 的方式回答提示，但它给出的答案可能存在缺陷。

自发布以来，它以多种方式受到提示，包括编写新代码和修复编码错误，而当人类要求它解决编码问题时，聊天机器人可以要求更多上下文，正如 OpenAI 在示例中所指出的那样。但 Open AI 也指出，ChatGPT 有时会写出“听起来似是而非但不正确或荒谬的答案”。  

这似乎是它对 Stack Overflow 及其寻求编码问题正确答案的用户产生影响的关键原因。此外，由于 ChatGPT 生成答案的速度如此之快，一些用户提供了它生成的大量答案，而没有解析它们的正确性。 

“主要问题是，虽然 ChatGPT 生成的答案错误率很高，但它们通常看起来可能很好，而且答案很容易产生，”Stack Overflow 版主在一篇文章中说。  

StackOverflow 实施临时禁令是因为 ChatGPT 创建的答案对网站和寻找正确答案的用户都“严重有害”。 

“总的来说，由于从 ChatGPT 获得正确答案的平均比率太低，发布 ChatGPT 创建的答案对网站以及询问或寻找正确答案的用户造成重大损害，”它说。  

OpenAI 的首席执行官 山姆·奥特曼 （Sam Altman） 在 Twitter 上表示，自上周三推出以来，ChatGPT 已拥有超过 100 万用户。阿尔特曼告诉 Twitter 所有者埃隆·马斯克 （Elon Musk），每条回复的平均成本为“个位数美分”，但承认由于其“令人瞠目结舌”的计算成本，它最终需要将其货币化。 

一些开发人员认为 ChatGPT 对 Stack Overflow 的影响是一个明显的问题，因为它会允许用户玩弄它的声誉系统。 

“People posting GPT answers to stackoverflow to scoop the points without knowing if the answer is actually correct” is one of those problems that’s too obvious to even foresee https://t.co/eDfa2zu9Wt

— badidea 🪐 (@0xabad1dea) December 5, 2022

到目前为止，Stack Overflow 已经检测到 ChatGPT 生成的帖子“数千”篇。另一个问题是，许多答案需要由在该主题方面有经验的人进行详细分析，以确定答案是否糟糕。 

根据临时政策，如果任何人类用户被发现发布 ChatGPT 生成的答案，Stack Overflow 将对该用户实施“制裁”，即使该帖子是可以接受的。 

“因此，我们需要减少这些帖子的数量，并且我们需要能够处理快速发布的帖子，这意味着与用户打交道，而不是与单个帖子打交道，”Stack Overflow 说。 

“所以，目前不允许使用 ChatGPT 在 Stack Overflow 上创建帖子。如果认为用户在此临时政策发布后使用了 ChatGPT，将实施制裁以阻止用户继续发布此类内容，即使这些帖子是可以接受的。