花粉乐分享平台宣传视频
> 乐学堂 > > GPT-3的不为人知的故事是OpenAI的转型
GPT-3的不为人知的故事是OpenAI的转型
来源:AI国际圈
2023-07-10 14:30:33
373
管理

文 | AI国际站 唐恩

编 | 艾娃

本文由AI国际站 原创出品,未经许可,任何渠道、平台请勿转载,违者必究。

一个可以自动进行网站开发的程序。代表自然写信的机器人。由AI撰写的博客,该博客在Hacker News上流行。这些只是关于GPT-3的最新故事,这是人工智能研究实验室OpenAI的最新成果。GPT-3是有史以来最大的语言模型,它引发了关于AI如何迅速改变许多行业的许多讨论。

OpenAI首席执行官兼联合创始人Sam Altman

OpenAI在该组织的联合创始人之一萨姆·奥特曼(Sam Altman)的领导下开始了市场投资者的工作,萨姆·奥特曼(Sal Altman)从著名的加速器Y Combinator的总裁一职卸任,成为OpenAI的首席执行官。在Altman之前,Greg Brockman是该组织的代表。Brockman是OpenAI的联合创始人兼CTO,是一位经验丰富的科学家和工程师。

但是在技术投资领域,声誉和产品管理技能比科学天才更受重视。而奥特曼正是这种投资者信任他们的钱的人。在Y Combinator任职期间,他帮助创立了许多成功的公司,包括Airbnb和Dropbox。在2019年5月接受TechCrunch采访时,奥特曼说:“我们从未获得任何收入。我们目前没有赚钱的计划。我们不知道我们一天怎么能创收。”

但这并没有妨碍投资者将资金投入OpenAI。微软在七月份向该公司投资了10亿美元,因为他知道奥特曼会以某种方式找到使投资获利的方法。

OpenAI任务的改变

但是,技术投资公司与诸如OpenAI之类的科研实验室之间存在根本的冲突。OpenAI的既定使命是确保人工智能(AGI)“主要是通过尝试构建安全的AGI并与世界分享利益,来造福全人类。”

但是AGI是一个崇高的目标,根据专家估计,它至少有几十年的路程。科技投资者以其数十年的耐心而闻名。如果他们在几年之内没有获得投资回报,他们就会感到疲倦(看看过去几年来,尽管发布了机器人的病毒式YouTube视频,著名的波士顿动力公司如何在投资者之间进行交易)。

OpenAI如何在AGI研究与使资助者满意之间取得适当的平衡?

“ OpenAI正在产生一系列功能越来越强大的AI技术,这需要大量资金才能获得计算能力。支付成本的最明显方法是制造产品,但这将意味着改变我们的关注重点。相反,我们打算许可我们的一些AGI之前的技术,而Microsoft则成为我们将其商业化的首选合作伙伴。” OpenAI在宣布微软投资的博客文章中写道。但是有明显迹象表明,OpenAI至少部分地成为了一家产品公司。

GPT-3的商业版本

2020年5月,微软宣布 “与OpenAI合作并专门为OpenAI创建世界排名前五的超级计算机”。因此,微软利用OpenAI的才能来创建Altman所说的“我们的梦想系统”。该超级计算机将帮助OpenAI训练其深度学习模型,但还将为Microsoft Azure云计算平台的其他客户提供服务。

不到两周后,GPT-3论文的第一版在arXiv预印服务器上发布。与之前的GPT-2不同,GPT-3不会向公众发布。相反,OpenAI选择了商业版本,开发人员可以在其中通过应用程序编程接口(API)购买对GPT-3的访问。该OpenAI API公布,被做了6月11日,虽然一些开发商给予提前获得了技术。

这使GPT-3与Microsoft的Cognitive Services异常相似,后者是一个基于黑盒子的基于云的AI平台,可为开发人员提供API访问计算机视觉,自然语言处理和其他AI功能的功能,而无需提供在后台运行的模型的实际细节。 。

这至少将帮助OpenAI返还Microsoft在公司中进行的一些投资。微软也将从合作伙伴关系中受益匪浅,因为它可能会更深入地使用该技术,并将能够将其与Bing,Office 365,Outlook.com和Teams等产品集成。

GPT-3的商业发行使OpenAI成为AI产品公司更近了一步。这距非盈利性AI科学研究仅一步之遥。

淡化AI警告

当他们开发GPT-2时,由于担心 “技术的恶意应用”(例如传播垃圾邮件和虚假新闻),OpenAI团队决定不向公众发布AI 。相反,他们采用了分阶段的方法,发布了较小版本的AI模型并评估了结果,然后才发布较大的模型。虽然我当时认为性能良好的语言模型不足以造成假新闻冲击,但我也支持在发布技术之前暂停和思考技术后果的总体思路。

GPT-3比GPT-2大三个数量级。深度学习语言模型中的关键问题之一是内存范围。随着AI生成的文本变长,AI开始失去连贯性。实验表明,较大的神经网络通常具有较长的内存跨度,这意味着GPT-3中被滥用的可能性比GPT-2大得多。

然而,这一次,OpenAI并没有为GPT-3成为制造垃圾邮件机器人和假新闻生成器的武器而大声疾呼。相反,OpenAI高管试图淡化有关GPT-3的警告。7月,萨姆·奥特曼(Sam Altman)在一条推文中取消了“ GPT-3炒作”。GPT-3的宣传太多了。令人印象深刻(感谢您的赞美!),但仍然存在严重的弱点,有时还会犯非常愚蠢的错误。人工智能将改变世界,但是GPT-3只是很早的一瞥。我们还有很多事情要解决。

奥特曼的评论基本上是正确的,因为人工智能在达到人类智能之前还有一段路要走。GPT-3的许多实验表明,尽管取得了令人着迷的进步,但语言模型仍然难以解决一些表征智能的基本任务。但是,尽管如此,奥特曼的评论具有公司高管向投资者保证一切都在控制之下的特点。

OpenAI作为产品公司

自发布以来,GPT-3受到了技术界的广泛好评。许多开发人员和企业家都发布了GPT-3推文,生成了诗歌,模因,推文和网站模型。

一位开发人员甚至设法使用GPT-3生成用于深度学习模型的Python代码。

我只是使用GPT-3为机器学习模型生成代码,仅通过描述数据集和所需的输出即可。这是无代码AI的开始,这些帖子中有许多只是有趣的实验。GPT-3不太可能很快取消任何工作。AI研究人员和科学家指出,深度学习模型显然无法解决人类容易解决的抽象认知问题。

但是GPT-3具有明显的优势,并可能成为AI业务的转折点。深度学习系统的关键限制之一是它们是狭窄的AI系统。他们在特定任务上表现良好,但在推广到其他领域时表现不佳。要创建新的深度学习应用程序,您必须从头训练模型或使用转移学习对参数进行微调,以适应新任务的预训练模型。

这种限制阻碍了AI服务作为平台的部署。尽管GPT-3仍然处于狭窄的AI领域,但事实证明,它可以对许多任务执行零击学习。这意味着您可以使其适应许多新应用程序,而无需重新调整其参数。

这种功能已经催生了许多使用AI模型创建新服务的想法。Debuild.co是使用GPT-3创建Web应用程序的公司。这是描述Google主页外观的句子,这是GPT-3几乎完美地为其生成代码的句子。帮助租户研究潜在房东的公司Augrented,正在探索使用GPT-3总结法律声明或其他纯英语版本的信息的方式,以帮助租户捍卫自己的权利。

另外,OthersideAI正在使用GPT-3向用户提供创意工具。GPT-3将改变您的工作方式。介绍OthersideAI的快速响应.只需编写您想传达的要点,即可自动以您的个人风格编写电子邮件。

GPT-3最终可能会成为一个新平台,在此平台上将创建新的业务和生态系统。这对于Altman是成功的,但是它将进一步将OpenAI吸引到成为产品/服务公司的领域。这与发布开源AI模型并让开发人员使用它来做自己的事情完全不同。

现在,OpenAI必须满足客户需求,扩展其基础架构,处理合规性问题等等。随着AI模式成为新诞生的初创公司的生死攸关的力量,OpenAI还必须应对经营深度学习业务的一些具体挑战。OpenAI仍然必须处理诸如消除有害偏差和处理模型衰减之类的问题。这些都是昂贵的任务,尤其是在处理1750亿参数的深度学习模型时。

而且OpenAI仍然必须弄清楚如何做所有这些事情,同时还要保持盈利。尽管奥特曼(Altman)是一位非常成功的企业家,但他将无法独自经营公司的运营。随着OpenAI进一步涉足产品管理领域,它将需要Microsoft的更多帮助。

OpenAI已经依靠Microsoft的云基础架构来训练和运行其模型。但是它可能很快需要技术巨头的帮助来处理合法性,客户支持,隐私和安全性,产品扩展性等等。

OpenAI的未来

旧金山OpenAI总部

OpenAI的故事描绘了科学AI研究的挑战。目前,人们普遍认为,更大的深度学习模型将导致更先进的AI系统。这意味着AI研究实验室将需要大量资金来获得人才并训练他们日益庞大的深度学习模型。目前,唯一愿意发放此类现金的组织是大型高科技公司。但是技术投资者也希望获得投资回报,这迫使研究实验室不得不使用其部分资源来创造有利可图的产品。随着时间的流逝,较大的公司可能会完全将实验室纳入自己的商业目标。

在Google收购DeepMind 之后,我们已经看到了这种现象。AI实验室必须将资源分配给AGI研究部门和致力于创造可盈利产品的“应用AI”部门。但是该公司尚未将其所有者承担的成本平摊。

至于OpenAI,该公司现在走的很好。该公司越是将其AI服务商业化而陷入困境,坚持原定使命的难度就越大。它是否会坚持人类人工智能研究的透明,开放源代码性质,还是会倾向于采用商业实体的围墙式方法,将其研究作为公司的机密和知识产权予以严密保护?它是否会坚持其“ 对人类的主要信托义务 ”,还是投资者(以及潜在的未来所有者)的满意将成为其主要关注点?时间会证明一切。

花粉社群VIP加油站

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
北孤岛ご(花粉渠道)
文章
717
主题
0
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索