萧箫 西风 发自 凹非寺

量子位 | 公众号 QbitAI

马斯克组局xAI“钻研宇宙本质”，创始成员高深又神秘。

相比专注于AI领域本身，这些成员大多具有基础学科背景，接触AI之前或是在研究基础数学，或是在搞物理。

这也与杨格在推特说的、他在xAI要进行的研究方向一致：

此外，他还研究起了神经图灵机，并结合可微拓扑学中的思路，提出“Lie Access Neural Turing Machine”，发表于ICLR。

再次回哈佛，杨格师从丘成桐教授。

2017年，杨格顺利从哈佛毕业，拿到了数学学士学位和计算机科学硕士学位。并获得了2018年摩根奖荣誉提名（Honorable Mention for the 2018 Frank and Brennie Morgan Prize for Outstanding Research in Mathematics by an Undergraduate Student）。

毕业后，老师丘成桐曾问杨格“你毕业去哪儿”，他说“我要去谷歌”。

丘成桐说“谷歌这种很差的公司就不要去了，我有个朋友叫沈向洋，我马上给他打电话”。

后来，沈向洋让菲尔兹奖获得者Michael Freedman面试了杨格：

面试之后（Michael）说这个小孩不得了，那时候他才刚刚本科毕业，但在哈佛至少是前五名（的水平）。

我（沈向洋）当时就跟杨格讲，你把谷歌的Offer拿来给我看一看，我给你加一块钱，就来微软吧。

最后杨格选择了微软。而进入微软后杨格也获得了沈向洋的高度评价：

微软研究院平时只招博士生的，杨格作为一个本科毕业生进了微软研究院，不仅进了微软研究院，过去这五年还做得无比优秀，特别是在GPT发展过程中做了举足轻重的贡献。

进入微软后，杨格的重要成果之一就是持续开发上面提到的“Tensor Programs”框架，其中还用GPT-3对所提出的超参数迁移方法进行了验证，相关论文已收录于NeurIPS、ICML等顶会：

其中引用量最高为415，这也是他在微软的工作，杨格在这个项目中担任主要指导（Primary mentor）。

目前，杨格个人主页和推特主页等均已更新，已离开微软研究院，加入xAI，接下来将继续做数学工作。

杨格做出了新一轮的选择，但从第一次休学过后，他再也没有放弃对数学的热爱。

在这次的论坛上，杨格也被问到，当时去从事音乐后又转到数学研究，是怎样一直坚定走到现在的？

杨格回答道：

其实就是个人爱好，在我大二休学之前，我一直都是数学比较好的人，可能会觉得一辈子在这种（数学研究中）。之后虽然我去搞音乐，但有段时间自己思考后，发现其实我个人还是很热爱数学。

这里面可能有外在动机（motivation extrinsic）和内在动机（motivation intrinsic）。像数学答卷老师给你100分，你觉得很高兴，这是外在的。这种外在和内在混在一起，可能感觉不到自己真心的爱好，但是后来休息一段时间以后，感觉（对数学）是发自内心的热爱，之后就走了这么长的路。

还记得前段时间杨格给大伙儿推荐的300多本（大部分是数学）书吗？

不少网友看过之后，表示“书单实在太长了，不是普通人能看完的”，还有网友调侃“能不能用GPT帮我总结一下”……

论坛结束后，我们也和杨格聊了聊，了解了他对ChatGPT等大模型的一些看法。

提问：看到您前段时间推荐了大概300本多书，有很大一部分是数学书，您认为AI是否有可能把它直接总结成一个核心的要点给我们？平时在日常生活中，您是不是也会用GPT-4一样的模型，去帮助做一些数学的基础研究什么的？

杨格：我觉得AI的总结能力（summarization）现在应该挺好的了，做简单的总结应该没问题。但你要再深入理解它里面的道理，像是一些数学道理的话，可能AI现在的帮助还不是那么大。

日常生活的话，是会经常用到（大模型）。

提问：可以透露一下主要是用在哪些方面吗？

杨格：我觉得最有用的方法就是写程序吧。比如有些程序你确实可以自己写，但自己写的话，一是可能要花几个小时，二是觉得这种东西不是特别有趣，所以像这种工作你就可以用ChatGPT来帮你做。

提问：相当于您完成核心思考，然后ChatGPT帮您实现代码的工作。

杨格：其实就是实现它已经在网上看到很多很多遍、所以它能写得很好的一些程序。

但如果现在你想写一个复杂的程序、像是有什么逻辑性的程序的话，让ChatGPT来做可能还不一定做那么好。但如果是那种你写了几百遍的程序了，你不想再写，就可以用ChatGPT完成。

参考链接：[1]https://arxiv.org/abs/2203.03466[2]https://github.com/microsoft/mup[3]https://mp.weixin.qq.com/s/s7MGUCHoEfyXhUcQAScltw

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

花粉社群VIP加油站