萧箫 发自 凹非寺量子位 报道 | 公众号 QbitAI

虽然GPT-3没有开源，却已经有人在复刻GPT系列的模型了。

例如，慕尼黑工业大学的Connor Leahy，此前用200个小时、6000RMB，复现了GPT-2。

因此，训练GPT-3大小的模型，软件理论上是可行的。

但硬件上的问题，目前作者们还在思考明确的解决方案。如果将来真的做出了GPT-3大小的模型，他们打算先从谷歌那多要点免费资源，如果不行的话，就再说……

当然，在TPU和GPU上训练的方式有所不同。

如果使用TPU训练的话，需要注册一个谷歌云平台，创建存储空间，然后再搞个虚拟机，将模型放到TPU上训练。

不过，如果你的GPU硬件足够OK，也可以选择直接训练GPT-Neo，就不用设置一系列谷歌云了。

此外，也可以用谷歌Colab来训练项目，它免费提供TPU-V8S处理器，训练GPT的3XL（1.5B参数）版本绰绰有余。

然后，指定硬件名称、数量，就可以开始训练模型了。

不过，对于GPT系列的项目复现，有网友并不看好。

网友认为，GPT-X系列项目，就像是一个由几百人组成的自动化团队，这几百人只会用谷歌搜索来干活，而且还没办法写出最新的新闻事件报道。（因为训练数据无法一直更新）

它虽然是个非常有趣的研究，但目前却还没有一个“杀手级”应用，来让GPT-3项目的存在变得更有意义。

当然，也有人认为，复现这一项目还是有意义的。

即使只是“几百个只会用搜索引擎干活的团队”，他们也需要快速给出某个问题的答案。

如何在大量零碎信息中，高效地选出最优解，本身就是GPT-X项目的价值之一。毕竟如果只是几百个“会用谷歌搜索”的人组成的团队，是无法像GPT-3一样，快速得出最佳答案的。

目前，GPT-Neo的所有项目和代码已开源。

想要上手一试、或是对项目感兴趣的小伙伴，可以行动起来了~

项目地址：https://github.com/EleutherAI/gpt-neo

参考链接：https://www.eleuther.ai/gpt-neohttps://news.ycombinator.com/item?id=25819803

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

花粉社群VIP加油站