Stack Overflow 是一个开发人员可以提问和回答编码问题的网站,它暂时禁止使用由 Open AI 上周发布的聊天机器人 ChatGPT 生成的文本。
ChatGPT 基于 OpenAI 的 GPT-3 语言模型。 人们很快发现,虽然它以“与人类相邻”的方式回答提示,但它给出的答案可能存在缺陷。
自推出以来,它以多种方式得到提示,包括编写新代码和修复编码错误,而聊天机器人可以在人类要求它解决编码问题时询问更多上下文,正如 OpenAI 在示例中所述。 但 Open AI 还指出,ChatGPT 有时会写出“看似合理但不正确或荒谬的答案”。
另外:低代码还不能治愈过度劳累的 IT 部门
这似乎是它对 Stack Overflow 及其寻求编码问题正确答案的用户产生影响的主要原因。 此外,由于 ChatGPT 生成答案的速度如此之快,一些用户提供了大量由它生成的答案而没有对其正确性进行解析。
“主要问题是,虽然 ChatGPT 产生的答案有很高的错误率,但它们通常看起来可能不错,而且答案很容易产生,”Stack Overflow 版主在一篇帖子中说。
StackOverflow 实施了临时禁令,因为 ChatGPT 创建的答案对网站和寻找正确答案的用户都“非常有害”。
另外:最好的 AI 艺术生成器:DALL-E 2 和替代品
“总的来说,由于从 ChatGPT 获得正确答案的平均比率太低,发布由 ChatGPT 创建的答案对网站以及正在询问或寻找正确答案的用户来说是非常有害的,”它说。
OpenAI 的首席执行官 Sam Altman 在 Twitter 上表示,自上周三推出以来,ChatGPT 拥有超过一百万的用户。 Altman 告诉 Twitter 所有者 Elon Musk,每个响应的平均成本是“个位数美分”,但承认由于其“令人眼花缭乱”的计算成本,最终需要将其货币化。
一些开发人员认为 ChatGPT 对 Stack Overflow 的影响是一个明显的问题,因为它会允许用户玩弄其声誉系统。
Stack Overflow 表示,ChatGPT 答案已经“淹没”了其基于志愿者的质量管理基础设施,因为涌入了太多质量低劣的答案。
到目前为止,Stack Overflow 已经检测到“数千”个由 ChatGPT 生成的帖子。 另一个问题是许多答案需要有该主题经验的人进行详细分析才能确定答案是否不好。
另外:明年技术支出将增加。 而这个旧宠依旧是重中之重
根据临时政策,如果发现任何人类用户发布由 ChatGPT 生成的答案,Stack Overflow 将对用户实施“制裁”,即使该帖子是可以接受的。
“因此,我们需要减少这些帖子的数量,我们需要能够处理快速发布的帖子,这意味着与用户打交道,而不是单独的帖子,”Stack Overflow 说。
“因此,目前不允许使用 ChatGPT 在 Stack Overflow 上创建帖子。如果认为用户在发布此临时政策后使用了 ChatGPT,将实施制裁以阻止用户继续发布此类内容 ,即使这些帖子在其他情况下是可以接受的。”