花粉乐分享平台宣传视频
> 乐学堂 > > 将GPT-3变得更好:新增模型微调功能
将GPT-3变得更好:新增模型微调功能
来源:AI时代前沿
2023-05-05 15:32:48
315
管理

OpenAI的GPT-3自然语言模型变得更快,使用成本更低,这要归功于一个集成了微调的新API特性,用户可以自定义他们的模型,从他们的工作负载中产生更好的结果。

通过对API进行自动微调,开发人员现在可以为他们的企业应用程序创建定制的GPT-3版本。据独立的人工智能研究和部署公司称,开发者只需在OpenAI命令行工具中使用一条命令就可以开始使用定制API。自定义版本将开始培训,然后立即提供给API。

OpenAI称:“你可以使用现有的任何形状和大小的数据集,或者根据用户反馈增量添加数据。”通过微调,一个客户将正确输出率从83%提高到95%。而另一个客户通过每周添加新数据,另一个将错误率降低了50%。

根据OpenAI的说法,自定义GPT-3 API功能已经在测试阶段,用户对其工作负载进行了测试,包括内容生成、分类和文本摘要,用户对其评价良好,认为其计算成本更低,训练速度更快,结果也不同。

OpenAI API微调项目的首席工程师、应用团队的工程师Rachel Lim说:“人们已经要求进行微调有一段时间了,因为它基本上解锁了基础GPT-3模型无法实现的新功能。如果你看看GPT-3之前的模型,很多模型都必须经过微调才能发挥作用。所以现在有了GPT-3(众多大型语言模型中的第一个),它是同类模型中第一个无需微调就可以使用的模型。但想象一下,如果你在上面添加一层微调,它就会变得更加强大,能够解决更多的用例。”

微调会带来更好、更可靠的结果。在Twitter上展示一个很酷的演示程序与一个高质量的应用程序之间存在巨大的差异,在高质量应用程序中,付费用户希望得到一定的质量和健壮的结果。因此,我们发现微调通常会推动产品更加成熟,从而能够更可靠地为特定客户的应用需求提供服务。

微调使用训练数据来“引导”一个模型,或者调整它来从信息中推断出“权重”。这些权重被模型用来进行预测。

这可以让你在给模型下指令之前就操控它,比如英语、德语、英语、德语、英语、德语。现在,它已经知道这是一种应该使用英语、德语、英语、德语、英语、德语的模式。正因为如此,不必再给它一些样本数据。例如,你只要说‘英语’,它就知道接下来应该是‘德语’。

微调功能是必要的,因为许多用户需要比标准GPT-3模型更精确的结果。

去年11月,OpenAI宣布取消在GPT-3上运行工作的等待名单,使其AI建模能力立即可用于开发人员和企业,以解决他们最具挑战性的语言问题。

2020年6月,OpenAI首次推出了其强大的GPT-3自然语言模型,并提供了一个有限的测试容量,开发者可以在未来注册使用其基础设施和功能。

第一个版本GPT-1于2018年发布,第二个版本GPT-2于2019年发布。随着2020年GPT-3的发布,自然语言处理(NLP)在企业中获得了比以往任何时候都更强大的功能和用例。

最新的OpenAI API,包括GPT-3,现在已经很容易获得,包含了大量的安全改进,包括指导系列模型,更好地遵循人类的指导,专门的端点,更真实的问题回答,和一个免费的内容过滤器,以帮助开发人员减轻意外滥用。

到目前为止,GPT-3主要用于英语语言建模。

微软于2020年9月从OpenAI独家授权GPT-3,扩大了两家公司之间的现有关系。该许可协议涵盖了微软所有产品和服务的GPT-3使用。今年5月,微软首次宣布将GPT-3集成到其产品——微软Power Apps软件中,该软件旨在让企业员工更容易地构建无代码和低代码应用程序。

微软的授权协议并不是排他性的安排。根据OpenAI的说法,其他人仍然可以通过OpenAI的API使用GPT-3模型。

今年5月,OpenAI成立了一个1亿美元的人工智能创业基金,为那些正在开发有趣的人工智能技术的初创公司提供投资。该公司表示,该基金将帮助几家处于早期阶段的初创企业,这些企业的领域包括医疗保健、气候变化、教育,以及人工智能工具可以通过使用个人助理和语义搜索帮助人们提高效率来增强人们能力的领域。

OpenAI表示,如今,包括迪士尼、IBM、Twitter、Salesforce、思科和英特尔在内的许多企业都在使用GPT-3进行开发。

花粉社群VIP加油站

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
华为绍天(采蜜高手)
文章
540
主题
0
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索