花粉乐分享平台宣传视频
> 乐学堂 > > 如果中国要做自己的GPT-3,一定离不开这家公司的算力
如果中国要做自己的GPT-3,一定离不开这家公司的算力
来源:量子位
2023-04-14 20:26:00
255
管理

边策 发自 凹非寺 量子位 报道 | 公众号 QbitAI

今年AI领域最火的是什么?

毫无疑问是GPT-3,它能写小说、能与人聊天、能设计网页、还能下象棋,堪称迄今为止最“全能”的AI模型。

但是这个强大的AI模型却不被看做算法的胜利,而是“暴力美学”、一场“富人的游戏”。

有人估算过,GPT-3光是训练成本就在460万美元以上,还不包括微软为训练它建设了一个5亿美元的超算中心。

微软这个超算中心装载了一万张英伟达GPU,训练GPT-3消耗了它355个GPU年的算力。

如果中国也要开发自己的GPT-3,凭借现在的技术能做出来?

答案是:我们已经具备一定的条件了。

AI软件方面,国内有百度、阿里等开源框架,中国的NLP(自然语言处理)技术起步不算晚,甚至搜狗、第四范式、百度NLP算法已经多次占据测试榜首,且成功商业化。

训练AI的硬件中国也不缺乏,甚至在国际上还略有优势。据2020年6月最新数据,中国拥有全球超算Top500中的226台,占比达45.2%,超过其他任何国家。

开放计算的优势不仅仅是降低成本、节省电费、提高投资回报率,更重要的是,它作为一种新的协作模式,可以推动AI等前沿技术的标准化与产业化。

在GPT-3诞生前的几个月,浪潮已经有了这样改造AI产业的想法。4月9日,IPF2020浪潮云数据中心合作伙伴大会上,浪潮首次提出了“智算中心”的概念。

浪潮认为,智算中心应该满足三大条件:开放标准、集约高效、普适普惠。就是每家企业都能以更低门槛用上高性能计算资源。

在今年7月29日公布的全球权威AI测试基准,MLPerf v0.7训练榜单上,浪潮NF5488A5服务器创下了单服务器最快性能记录,高居榜首。

浪潮还东南大学合作,据张竞慧教授介绍,东南大学依靠算力中心推动前沿科学研究,依托(CPU Openstack GPU)架构,提供高性能计算、云计算以及人工智能计算等共享服务,处理太空观测高分辨率影像,已经在物理学顶级期刊PRL上发表了多篇论文。

在金融领域,交通银行通过浪潮AIStation开发平台,资源利用效率提升30%;在智能制造领域,百度与浪潮合作开发的装置,将2~3天的钢质检系统工作量减少至2小时,识别准确率超过99%。

此外浪潮的智算中心与5G结合,提供了云端训练、边缘推理的新应用场景。

浪潮智算中心建设的脚步没有停歇,目前正在济南建设的“中国算谷”,致力于成为全球算力产业新高地,带动山东传统企业智能化改造和升级,计划建成E级计算系统。

AI时代的“发电厂”

AI模型发展一日千里,模型越来越大,对算力要求也越高,硬件进步给算法带来福利。

OpenAI去年的报告指出,AI计算量每年增长10倍。从2012年至今,最先进AI模型对计算量的需求已经增长了30万倍,若按照摩尔定理,与此同时芯片算力只增长了7倍。

对算力的爆炸式一方面靠AI加速芯片的改进,另一方面靠硬件的“暴力”堆砌。

然而单个用户难以自建强大算力,则需要智算中心来帮忙。未来,智算中心会像发电厂一样,产生大量的算力输送到“千家万户”。

电力时代有充足的发电量,就能驱动更多、更强的电气设施。AI时代有更多低廉的算力资源,才能催生出更多像GPT-3一样“暴力”AI模型,推动AI的产业化。

如果中国也要研发像GPT-3一样的AI模型,用这样的AI模型驱动产业变革,那么一定要降低算力资源的TCO。

浪潮希望在这个中发挥主导作用,所以推出智算中心。浪潮也具有这样的底气,因为他们已经占据了中国50%的AI计算中心算力,未来一定会是“新基建”的AI基石。

在这方面,国外已经有许多先进的经验,英特尔、微软、谷歌都在以开放的姿态融合更多新的AI硬件,把更强大的算力贡献给产业。

回到国内,如果浪潮能把智算中心的算力供给全行业使用,以国内庞大市场,一定能催生更强大AI模型的诞生。

到时候,不仅能产生与GPT-3类似的AI模型,我们还会看到过更多AI技术的商业化,让我们的生活处处充满AI。

— 完 —

量子位 QbitAI · 头条号签约作者

关注我们,第一时间获知前沿科技动态

花粉社群VIP加油站

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
北辰吖(采蜜高手)
文章
506
主题
0
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索