花粉乐分享平台宣传视频
> 乐学堂 > > GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑
GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑
来源:量子位
2023-06-28 17:10:19
225
管理

梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI

大模型天花板GPT-4,它是不是……变笨了?

先是少数用户提出质疑,随后大量网友表示自己也注意到了,还贴出不少证据。

总结下大家的反馈,最主要的几种表现有:

以前GPT-4能写对的代码,现在满是Bug回答问题的深度和分析变少了响应速度比以前快了

这就引起不少人怀疑,OpenAI是不是为了节省成本,开始偷工减料?

两个月前GPT-4是世界上最伟大的写作助手,几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。

但是截至目前,针对网页版GPT-4是否被降级过的两条追问都没有得到回答,并且Logan在这段时间有发布别的内容。

△ShareGPT截图,界面稍有不同

让GPT-4改用numpy不用框架后,第一次给出的结果不对。

在修改两次代码后,运行得到了正确结果。第一次修改隐藏神经元数量,第二次把激活函数从sigmoid修改成tanh。

Hacker News上也有网友持相同观点,并补充到人们的关注点发生了改变,对GPT失误的敏感度更高了。

△不一定成功,大概率拒绝回答

那么如果在网页版继续一个在iOS版开启的对话而没意识到,就可能观察到GPT-4回答变简单了。

总之,GPT-4自发布以来到底有没有变笨,目前还是个未解之谜。

但有一点可以确定:

3月14日起大家上手玩到的GPT-4,从一开始就不如论文里的。

与人类对齐让AI能力下降

微软研究院发表的150多页刷屏论文《AGI的火花:GPT-4早期实验》中明确:

他们早在GPT-4开发未完成时就得到了测试资格,并进行了长期测试。

后来针对论文中很多惊艳例子,网友都不能成功用公开版GPT-4复现。

目前学术界有个观点是,后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。

论文作者之一、微软科学家张弋在中文播客节目《What’s Next|科技早知道》S7E11期中也提到:

那个版本的模型,比现在外面大家都可以拿得到的GPT-4还要更强,强非常非常多。

举例来说,微软团队在论文中提到,他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。

论文中展示的最后一个结果,画得已经相当完善。

但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。

后来当OpenAI开始关注安全问题的时候,后续版本在这个任务中变得越来越糟糕了。

与人类对齐但并不降低AI自身能力上限的训练方法,也成了现在很多团队的研究方向,但还在起步阶段。

除了专业研究团队之外,关心AI的网友们也在用自己的办法追踪着AI能力的变化。

有人每天让GPT-4画一次独角兽,并在网站上公开记录。

从4月12日开始,直到现在也还没看出来个独角兽的大致形态。

当然网站作者表示,自己让GPT-4使用SVG格式画图,与论文中的TikZ格式不一样也有影响。

并且4月画的与现在画的似乎只是一样差,也没看出来明显退步。

最后来问问大家,你是GPT-4用户么?最近几周有感到GPT-4能力下降么?欢迎在评论区聊聊。

Bubeck演讲:https://www.youtube.com/watch?v=qbIk7-JPB2c张弋访谈:https://xyzfm.link/s/UfTan0每天一个GPT-4独角兽https://gpt-unicorn.adamkdean.co.uk

参考链接:[1]https://news.ycombinator.com/item?id=36134249[2]https://twitter.com/nabeelqu/status/1663915378265800705[3]https://twitter.com/OfficialLoganK/status/1663934947931897857[4]https://discord.com/channels/974519864045756446/1001151820170801244[5]https://twitter.com/mattshumer_/status/1663744527448829954[6]https://www.reddit.com/r/ChatGPT/comments/13xik2o/chat_gpt_4_turned_dumber_today/[7]https://help.openai.com/en/articles/6825453-chatgpt-release-notes[8]https://twitter.com/fchollet/status/1664036777416597505[9]https://news.ycombinator.com/item?id=36155267

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

花粉社群VIP加油站

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
Mole(蜂界传说)
文章
497
主题
0
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索