【CSDN 编者按】

整理 | 刘春霖 责编 | 张红月

出品 | CSDN（ID：CSDNnews）

在上周发布的《挑战 Google 搜索？OpenAI 发布最强 AI 对话系统 ChatGPT》一文中曾介绍过，ChatGPT 正处于测试阶段（chat.openai.com），只要有 OpenAI 账户就可以免费使用。万万没想到，此超级对话模型一经开放，很多人便深陷其中，无法自拔。

写得了代码、改得了 Bug，小说、段子统统不再话下，甚至在一名叫 Zac Denham 工程师的引导下，还写出了毁灭人类的计划书……

Stack Overflow 临时封杀 ChatGPT

Stack Overflow 在官方通告中表示：这是一个临时性规定，目的是为了应对目前论坛上 ChatGPT 生成内容的泛滥之势。

通过内容，做出这项规定的主要原因是，用户试用一段时间后，很快发现，虽然 ChatGPT 以接近人类的方式回答提示，但它自动生成的答案质量太低，错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。

OpenAI 的 CEO Sam Altman 也曾在 Twitter 上表示“自周三才上线的 ChatGPT，短短几天它的用户已经突破 100 万大关。对于目前这一问题，我们正在尝试阻止它随机编造，现阶段的问题是有些棘手。但随着时间的推移，我们会根据用户反馈来改进它，也相信它会变得更好！”

无论 AI 生成的答案是否正确，“Stack Overflow 是一个面向专业程序员和程序员爱好者的问答网站。”这适用于问和答部分。在我看来，那些只是将问答复制或从 AI 工具中粘贴的人并不算这两种人。即使他们检查和测试它，如果他们真的能证明这是一个很好的正确答案，他们应该能够自己写出来。这并不一定意味着在互联网上没有(或不会有) AI 的一席之地，但它似乎不属于这里。

为什么 ChatGPT 会出现那么多错误？

几天的时间，网友们意识到通过此模型短短几秒就可以生成答案，简直是不浪费任何力气。

但是为什么它会出现错误呢？很明显，出于语言模型的局限性，只能在网上抓取相关答案，无法作出思考和推理，所以就造成了 ChatGPT 回答的错误。

比如：网友问 ChatGPT，霍布斯主张三权分立吗？

☞小米商城推出新功能：AI 帮你挑手机；Stack Overflow 临时封杀 ChatGPT；Meta 裁员再生事端|极客头条

☞Android 内存安全漏洞大幅下降，Rust 或成关键因素

☞沉痛悼念织梦创始人林学先生，他为网站开源系统打开了大门！

花粉社群VIP加油站