Products
GG网络技术分享 2025-03-18 16:15 1
作者 | 褚杏娟这几天，OpenAI 的人工智能（AI）聊天机器人 ChatGPT 吸引了全球很多人的目光，就如马斯克说的：“许多人陷入了疯狂的 ChatGPT 循环中。”与 OpenAI 以前的人工智能工具不同，ChatGPT 不仅会聊天，还可以承认错误，拒绝回答虚假问题，写代码、改 Bug、创建编程语言，甚至看病。OpenAI CEO Sam Altman 在推特上表示，上周三才上线的 ChatGPT，短短几天内用户就已经突破 100 万大关。
当然，这或许也与现在 ChatGPT 只要登陆即可免费使用的策略有关。
ChatGPT 在解决各种问题上的能力超出很多人意料，因此很多用户都表示 ChatGPT 可以取代 Google 等搜索引擎和编程问答社区 Stack Overflow 等。
但在昨天，Stack Overflow 便率先发布声明称，将暂时封禁 ChatGPT。
AI 给出的编程答案“看似不错但错误率很高”对于这个决定，Stack Overflow 给出的理由是：由于从 ChatGPT 获得正确答案的平均比率太低，发布由 ChatGPT 创建的答案对网站及询问或寻找正确答案的用户来说是非常有害的。
Stack Overflow 表示，虽然 ChatGPT 生成的答案有很高的错误率，但它们通常看起来很不错。
有很多人尝试用 ChatGPT 来创建答案，但他们没有专业知识或不愿在发布之前对答案正确与否进行验证。
这样的答案很容易产生，所以很多人发布了很多答案。
这些答案数量很多 (成千上万)，其正确性需要一些专业人员详细阅读后才能确定，而通常这些答案是很糟糕的。
因此，Stack Overflow 需要减少这些帖子的数量，但如果要快速处理那些帖子就意味着要处理用户。
因此，目前 Stack Overflow 还不允许使用 ChatGPT 创建文章。
在这个临时政策发布后，如果用户被认为使用了 ChatGPT，那么即使这些帖子是可以接受的，也会被禁止继续发布此类内容。
Stack Overflow 的这一决定也得到了网站用户的肯定。
“做得好！很高兴你们做出了正确的决定，真的希望它能成为永久性的政策并可以扩展到禁止任何人工智能生成的答案。
AI 永远无法发布好的编程答案，即使在 100 年内也不行。
”网友“Shadow The Kid Wizard”表示。
当然也有网友表示，“ChatGPT 被训练为一种通用语言模型，如果付出同样的努力让它特别适合在这里发布好的答案，甚至付出一点点努力告诉它如何判断答案的质量，那么它就会按照我们的标准发布更多好的答案。
”也有网友出于讽刺目的，问 ChatGPT “为什么 Stack Overflow 禁止 AI 生成的答案”，得到的答案如下：
Stack Overflow 是一个供程序员和开发人员提问和回答与编码和计算机编程相关问题的网站。另一方面，对于“为什么 Stack Overflow 允许使用 AI 生成的答案”，ChatGPT 最终给出的结论是：“不允许人工智能在 Stack Overflow 上生成答案是一个复杂的决定，需要社区仔细考虑。它旨在为寻求特定编程问题帮助或想要了解有关特定主题更多信息的人们提供资源。
由于 AI 生成的答案可能并不总是准确或相关，因此它们可能会混淆或误导在 Stack Overflow 上寻求帮助的用户。
此外，人工智能生成的答案可能并不总是遵循网站的格式和风格指南，这可能会使它们难以阅读或理解。
出于这些考虑，Stack Overflow 禁止人工智能生成的答案可能是合理的。
”可以看出，ChatGPT 还挺有自知之明，这一方面代表了它有一定的成熟度，但至少在编程领域还是不够“专业”。
使用了 ChatGPT 生成代码的开发者“hansonkd”表示，“它非常擅长编码和遵循类型。
例如，如果您将 Rust 中的类型更改为一个选项，它将重构代码以正确使用部分选项。
它并不完美，但也足够好了。
它可以生成测试用例，因此很容易测试它是否有效。
“但最终经过数小时的尝试，它还是无法做到我想做的事：用 Python 构建一个 B 树。
”hansonkd 补充道，“它很好地构建了一个二叉树，但将其推广到 B 树却是一个问题。
”主要问题如下：
比如变量没有初始化或者没有正确拆分子节点。
它会不断出现错误类型或移动错误。
它在代码中引入了太多几乎无法审查的细微错误，因为它生成的代码非常有说服力，以至于你会认为：‘嗯，也许它知道它在说什么’。
但最后，你实际上不知道你应该相信什么。
甚至它生成的测试用例也可能具有欺骗性，他们看起来很有说服力，但仔细检查后可能会发现它并没有真正测试任何东西。
”hansonkd 总结道。
Demand feedback
