尽管成立只有短短四年时间，OpenAI 已经成为世界领先的 AI 研究实验室之一，在 AI 研究领域与谷歌人工智能实验室、DeepMind、微软研究院、艾伦人工智能研究所相媲美。

而且，因其由埃隆 · 马斯克，以及投资家萨姆 · 阿尔特曼、天使投资人彼得 · 泰尔等传奇人物共同创立，OpenAI 无疑还是硅谷大亨们的宠儿。

所有这些都赋予了 OpenAI 非凡的使命，它的目标是要成为第一个创造出通用人工智能（Artificial General Intelligence，简称 AGI）的研究机构，让机器具备人类的学习和推理能力。该实验室的目的，是要确保这项技术被安全地开发出来，并造福全世界。

OpenAI 想成为 AGI 领域的领头羊，为此，它精心打造了自己的形象。在这个由财富公司占主导的科技领域，它以一个非营利组织的形象出现，其首次声明就表示，它将以这样的身份“为所有人带去价值而非股东”，它的章程宣称 OpenAI 的“主要信托责任是针对全人类的。”OpenAI 还表示，安全实现 AGI 是第一要义，如有其他研究组织能很快实现，它也会放下竞争并与其合作。曾经，这套说辞对投资者和媒体十分受用。

但是最近一年来，OpenAI 却饱受批评，先是发布最强 “通用”NLP 模型 GPT-2 而不开源；研发战略缺乏变化和多样性，单纯依赖大量的计算资源投入迭代产品；再就是接受微软 10 亿美元投资，从而转为“有限盈利” 企业......

图｜OpenAI 悬挂在办公室的公司徽标（来源：CHRISTIE HEMM KLOK）

值得一提的是，目前已不再参与 OpenAI 事务的马斯克，在本报道推出后，发推文称，“OpenAI 应该更加开放”，“所有开发高级 AI 的组织都应受到监管。”

图｜Greg Brockman，格雷格 • 布罗克曼，联合创始人兼 CTO（来源：CHRISTIE HEMM KLOK）

布罗克曼表示：“我们花了很长时间与员工进行内部沟通，从而让整个公司都接受一套新观念。即使我们改变了结构，使命和要做的事情也必须和原来一样。”

这种转型发生于 2019 年 3 月，OpenAI 通过设置 “利润上限” 部门（回报达到投资的 100 倍之后才会分配利润）来摆脱其非营利组织的属性。此后不久，它宣布微软为其投资了十亿美元（尽管它没有透露这是微软云计算平台 Azure 的现金和信用分成）。

不难预料，此举引发了一波指责，外界认为 OpenAI 背离了初衷。声明发出后不久，一名用户在 Hacker News 上发帖质问，怎么实现 100 倍的利润上限，他们写道：“谷歌的早期投资者获得了大约 20 倍的资本回报，贵公司的赌注是将拥有一个比谷歌回报更高数量级的公司结构…… 而且不造成‘权力不正当集中’？这如何实现？如果不依靠资源集中，那权力又为何物？”

图 | Jack Clark，杰克 • 克拉克，政策总监（来源：Christie Hemm Klok）

去年 5 月，OpenAI 改变了之前的说法，并宣布了 “阶段式发布” 计划。接下来几个月，OpenAI 推出的 GPT-2 模型功能越来越强大。

在此期间，OpenAI 还与数个研究组织合作研究 GPT-2 算法滥用存在的潜在威胁，并制定了相应对策。最终，OpenAI 在 11 月发布了 GPT-2 的完整代码，并表示“目前还没有证据表明 GPT-2 会被用作他途。”

虽然人们一直指责 OpenAI 将 GPT-2 作为宣传噱头，但 OpenAI 予以否认。相反，它认为这是一次深思熟虑的实验，经过一系列的内部探讨和辩论才达成共识。

政策团队在后续 6 个月发布的博客内容中提到了这一点，这些观点都是大家开会一致决定的，当时我也在场。

“我认为章程绝对是我们取得成功的关键所在，”政策研究科学家 Miles Brundage 在谈到谷歌文档时表示。

不过 OpenAI 在宣传 GPT-2 时遵循了以前的模式，这也使广大 AI 社区普遍感到担忧。多年来，人们一直认为 OpenAI 在发布研究成果时存在炒作嫌疑。评论家也不止一次地指责 OpenAI 发布的研究成果有些夸大其词。

基于这些原因，这个领域的许多人都倾向于与 OpenAI 保持一定的距离。

图 | Ilya Sutskever，伊尔亚 • 苏茨克维，联合创始人和首席科学家（来源：Christie Hemm Klok）

大多数研究人员介于这两个极端之间，但 OpenAI 一直以来都几乎完全处于第一个技术理论中。它的大多数突破都是来源于将大量的计算资源投入到其他实验室。

布罗克曼和 Sutskever 否认这是他们唯一的策略，但实验室严密保护的研究表明并非如此。一个名为 “前瞻”(Foresight) 的团队进行了一些实验，以测试他们能在多大程度上推动人工智能能力的发展，方法是训练现有的算法，使用越来越多的数据和计算能力。对于领导层来说，这些实验的结果证实了他们的直觉，即实验室的全投入、计算驱动的策略是最好的方法。

在大约六个月的时间里，这些结果都没有向公众公布，因为 OpenAI 将这些内容视为自己的主要竞争优势。员工和实习生被明确告知不要透露这些信息，而离开的员工则签署了保密协议。

直到今年 1 月，这个团队才不动声色地在人工智能研究的一个主要开源数据库上发表了一篇论文。那些经历过保密工作的人不知道该如何应对这种变化。值得注意的是，另一篇来自不同研究人员的类似结果的论文已于一个月前发表。

（图源：Christie Hemm Klok）

随着时间的推移，领导层已经偏离了最初的信念——开放是建立有益的 AGI 的最佳方式。现在，保持沉默成为 OpenAI 研究人员的习惯，这包括在没有交流小组明确许可的情况下，绝不与记者交谈。

在我第一次去 OpenAI 办公室之后，当我开始联系不同的员工时，我收到一封来自其公关主管的电子邮件，提醒我所有的采访要求都必须通过她。我拒绝了她的请求，我说这样做会破坏别人告诉我的事情的有效性。她就指示员工随时向她汇报我的举动。克拉克曾是一名记者，后来他在信中表扬员工在记者 “四处打探” 时，能把消息捂得严严实实的。

OpenAI 的一名发言人在回应这一高度保密的声明中，提到了该公司宪章的一部分内容。“我们预计，基于安全和安全问题，我们将减少在未来的传统发布，”该部分说，“同时增加共享安全、政策和标准研究的重要性。”

该发言人还补充道：“此外，我们的每一次发布都要经过一个预估风险过程来权衡，我们希望缓慢发布我们的结果，以了解潜在的风险和影响，然后再公之于众。”

其中一个最大的秘密就是 OpenAI 正在进行的下一个项目。消息人士对我说，它基于该公司 4 年来的研究成果：一个使用大量计算资源对图像、文本和其他数据进行训练的人工智能系统。

一个小团队已经投入前期工作，并期望其他团队最终会加入进来。在宣布此事的公司全体会议上，不允许实习生参加。熟悉该计划的人士给出了一种解释：领导层认为，这将是最有希望达成 AGI 的方式。

推动 OpenAI 战略的是达里奥 • 阿莫德，他曾是谷歌员工，现在担任研究总监。

达里奥 • 阿莫德将实验室的策略分为两部分。他将第一部分比作投资者的“投资组合”，这一部分规定了该公司计划如何达到先进的人工智能能力。

OpenAI 的不同团队正在进行不同的押注。例如，语言团队的押注是一个理论，该理论假设人工智能可以通过单纯的语言学习延伸出对世界的重大理解。相比之下，机器人团队提出了一个相反的理论，即智能需要物理机体来发展。

就像在投资者的投资组合中一样，并不是每一次押注都有同等的权重。但是出于科学严谨的目的，所有项目都应该在被抛弃之前进行测试。达里奥 • 阿莫德以 GPT-2 非常逼真的自动生成文本为例，试图证明为什么保持开放的思想很重要。他说：“纯粹的语言是这个领域甚至我们中的一些人都有些怀疑的方向。”“但现在人们会说，‘哇，这真的很有前途。’”

随着时间的推移，不同的赌注越押越高，它们将激发更强烈的工作热情。然后它们会交叉糅合，目标是让越来越少的团队最终蜕变为 AGI 的单一技术方向。这正是 OpenAI 最新的绝密项目应该已经在进行的过程。

图 | Dario Amodei，达里奥 • 阿莫德，研究主任（来源：Christie Hemm Klok）

达里奥 • 阿莫德解释说，战略的第二部分集中在如何使这种不断发展的人工智能系统保证安全。这包括确保它们反映了人类的价值观，能够解释其决策背后的逻辑，能够在不伤害他人的情况下学习。

每一个致力于安全目标的团队都试图开发出可以在项目成熟时跨项目应用的方法。例如，可解释性团队开发的技术可以用于揭示 GPT-2 句子结构或机器人动作背后的逻辑。

达里奥 • 阿莫德承认，这部分策略有点随意，较少建立在该领域的既定理论上，更多是建立在直觉上。他表示：“到某个时候我们将建造 AGI，到那时，我希望这些系统在世界上的运行是让人满意的。”“任何我目前感觉不太好的事情，我都会专门为之创建并招募一个团队。”

在宣传和保密之间，达里奥 • 阿莫德说这话的时候看起来还是很真诚的。失败的可能性似乎使他不安。

“我们处在一个尴尬的境地：我们不知道 AGI 长什么样，”他说。“我们不知道什么时候会实现。”然后，他小心翼翼地补充道：“任何一个人的心智都是有限的。我发现最好的办法是聘请其他安全研究人员，他们通常会有不同的视野。我想要那种变化和多样性，因为那是你捕捉一切的唯一方式。”

问题是，OpenAI 实际上几乎没有什么“变化和多样性”。

实验室的一位发言人说，在 120 多名员工中，25% 是女性和非二元性别者。她说，执行团队中有两名女性，领导团队中有 30% 是女性，不过她没有明确指出团队中的个人信息。比如布罗克曼和阿尔特曼在内的四名高管都是白人。我在领英等网站上找到了 112 名员工，其中绝大多数是白人或亚裔。

（图源：Christie Hemm Klok）

罗格斯大学的布里特 • 帕里斯回应称：“他们正试图利用成熟的技术手段让 AI 解决社会问题。但看起来他们没能真正理解什么是社会所需要的。他们只是觉得把目标定位在这里有利可图。”

布罗克曼表示认同，OpenAI 要实现其使命，技术和社会专业知识都是必不可少的。但他不同意从一开始就兼顾这两方面。他说：“要如何将伦理道德和其他观念引入其中？什么时候把这些加入 AI 中，怎么加进去？有一种策略是，从一开始就尽可能地把你需要的东西都塞进去，但我认为这种方法成功几率很低。”

他说，我们首先要弄清楚的是 AGI 到底应该是什么样子。只有了解了这个，才能够“确保我们会理解它带来的后果”。

去年夏天，在 OpenAI 转向利润上限模式和微软注资 10 亿美元后的几周，公司领导层向员工保证，这些变化不会在功能上改变 OpenAI 的研究方式。微软与实验室的价值观非常一致，并且都认为任何商业化的研究都是遥遥无期的；解决基本问题仍然是 OpenAI 工作的核心。

这些保证在一段时间内似乎是有效的，项目继续和往常一样进行。许多员工甚至不知道微软向他们做出了什么承诺。

但近几个月来，商业化压力开始加剧，能赚钱的研究听起来不再那么遥不可及了。Altman 私下与员工分享他的 2020 年实验室愿景时，传达的信息很明确：OpenAI 需要赚钱来做研究，而不是用研究来赚钱。

领导层表示，这是一种艰难但必要的权衡，因为 OpenAI 缺乏富有的慈善捐赠者，他们不得不做出这种权衡。相比之下，非营利组织 AI2 正雄心勃勃地推进人工智能基础研究，（至少在可预见的未来里）它的资金来源是已故亿万富翁保罗 • 艾伦留下的自筹资金。

然而事实上，OpenAI 面临这种权衡，不仅仅是因为它没有太多资金支持，还因为它的战略选择，它试图第一个碰触到 AGI 领域。这种压力迫使它做出的决定越来越偏离初衷。它急于通过大肆宣传来吸引资金和人才维持自己的研究，以期保持住领域优势，并追求一个计算量很大的战略。这不是因为它是通往 AGI 的唯一途径，而是因为它看起来是最快的途径。

不过 OpenAI 仍然是人才和前沿研究的基地，它不乏真诚地为人类利益而努力工作的员工。换句话说，它仍然拥有最重要的元素，仍然有机会来改变现状。

前远程学者罗德斯表示，“在我看来，OpenAI 确实存在一些问题，”她迟疑地开始说，“其中一些可能来自它所面临的环境；而有些来自它倾向于吸引的那类人，有些则来自它忽略的那类人。”

“但对我个人来讲，他们是在做一些正确的事，”她说，“我能感觉到那里的人非常认真努力。”

花粉社群VIP加油站