花粉乐分享平台宣传视频
> 乐学堂 > > OpenAI的GPT-3说话了,请听
OpenAI的GPT-3说话了,请听
来源:新智元
2023-04-17 17:34:32
211
管理

【新智元导读】有1750亿参数的超级语言模型GPT-3自发布以来广受关注,目前已有数百名开发者和公司应用了GPT-3,但随着它的商用,很多问题逐渐暴露——消极的语言、有害的偏见等,有学者认为即使非常小心,冒犯性语言出现的概率也是100% ,这是一个棘手的问题,那么GPT-3的开发者OpenAI对此有何对策呢?

还记得那个在Reddit上灌水一周才被发现的机器人/u/thegentlemetre吗?

去年9月,一个名为thegentlemetre的账号开始在Reddit上发帖。它以每分钟一篇的速度出现,回复的帖子都很长,大部分都是六段,内容流畅自然,以至于灌水一周多后才被「人类」发现。

比如下面这个问题:认真考虑过自杀的朋友们,是什么阻止了你们并帮助你们度过生命中的黑暗时刻?

这位叫thegentlemetre的「热心网友」认真回答了这个问题:

我想对我帮助最大的就是我的父母了,我和他们关系很好,不管发生什么他们都会给我支持。就是因为他们,多少次徘徊在自杀边缘的我都放弃了这一做法。他们了解我,也绝对支持我,我不清楚这对我产生了多大的影响,但这确实对我帮助很大。

后面还列举了两个理由,老师和朋友对ta产生的影响。

你可以想象这样的回答出自「机器人」吗?

/u/thegentlemetre背后是一个叫「哲学家AI」(Philospher AI)的应用程序,而「哲学家AI」背后就是超级语言模型GPT-3.

「哲学家AI」给出的答案很长,也充满了偏见:「GPT-3 *吐出了带有事实错误和严重种族主义倾向的文字,对埃塞的看法是疲惫、刻板的西式观点*」

普拉布说:「对于同一个问题,有时候哲学家AI会给出截然相反的回答,并不是所有的回答都是有问题的。」

「但对抗性的一个关键衡量标准是: 要试多少次,才会碰到令人深恶痛绝的长篇大论?」

普拉布说:「根据我的实验,大概2-3次。」

GPT-3是全新的,也是未经驯化的,「哲学家AI」出现的问题就反应出了应用GPT-3的公司所面临的潜在危险。

试想:哲学家AI给出的「消极」的答案如果出现在「客服、在线家教、游戏人物」等的回答中,会产生什么后果?

比如上面/u/thegentlemetre那条关于自杀的回答,如果是另一番危险的文字呢?后果不堪设想。

哲学家AI的开发者Murat Ayfer说,他开发这个应用一方面是为了自己了解GPT-3的潜力,另一方面也是为了教育公众,

APP发布后,很快他就发现了有很多出错的地方。

「对自动生成项目,人们期待的要么是100%的成功率,要么是以一种灵巧、优雅的方式出错。」Murat Ayfer说。

「GPT-3的问题就在于,它不会出错,只会产生垃圾,而且无法检测它是否在产生垃圾。」

无论对错都学自人类

作为全世界参数最多的神经网络模型,GPT-3 1750亿个参数来自于新闻文章、维基百科和在线书籍,还有Reddit和其他网站上所有有争议的讨论。

所以,它说的话也并非来自真空,这就像是GPT-3举起了一面镜子,显示在它身上的都来自人类。

Murat Ayfer认为,哲学家AI提供了一个相对无害的环境,而且现在出现错误其实更好,因为这就提供了改正的机会。

OpenAI去年开始的内测也是这个目的,公司认真挑选了一些客户进行试用,同时公司也对客户利用GPT-3开发程序进行密切的关注,防止出现骚扰、垃圾邮件、激进化或草根营销等明显有害的内容,同时也试图寻找意想不到的问题,因为OpenAI也知道,他们无法预料GPT-3带来的所有后果。

Janelle Shane用GPT-3制作的居家隔离期间的食物搭配法

但是看到埃塞俄比亚的AI研究员Abeba Birhane发表的GPT-3的局限,她表示:「有时候,考虑到有偏见的培训数据将会产生的影响,我们就会意识到这个应用程序不应该被开发出来。如果没有人的监督,人们就没有办法阻止应用程序向用户说出有问题的东西,出现这样的结果是不可接受的。」

那么,对于这些棘手的问题,OpenAI要做些什么?

OpenAI应对之法

OpenAI此前已经从GPT-2中吸取了经验教训。

2019年,推出了GPT-2时,OpenAI称GPT-2不加任何限制的发布太危险了,所以,它提供了一个缩小版的语言模型,其中包括数据集和培训代码。

OpenAI的人工智能政策研究员Sandhini Agarwal在接受采访时表示:「我们必须和一些人一起进行封闭测试,否则我们甚至不知道这个模型能做什么,也不知道我们需要改进哪些问题。如果我们想在有害的偏见问题上取得进展,就必须把模型放到实际环境中考察。」

OpenAI的一个内部团队负责审查即将推出的应用程序,为那些通过API访问GPT-3的公司提供安全指南,在部署前再次审查应用程序,并在部署后监控其使用情况。

OpenAI 也在开发工具,帮助用户更好地控制GPT-3生成的文本。它为有害的偏见和消极的语言提供了一个通用的内容过滤器。

然而,Agarwal说,实际上不可能创造出这样一个过滤器,因为「偏见是一个非常模糊的东西,语言背景是不断变化。」

特别是在有争议的话题上,一个看起来正确的回应可能会被另一方认为会伤害到一些人。

另一种方法称为提示工程,在用户的提示中加入一个短语,比如「友好的机器人说」,GPT-3就会以礼貌而无争议的语气生成文本。

用户也可以选择一个「温度」作为他们的反应。「低温」意味着人工智能会把以前经常看到的词汇放在一起,几乎不会冒险,也不会带来什么惊喜; 当设置为「高温」时,它很可能产生稀奇古怪的语言。

除了在产品方面所做的所有工作外,OpenAI在「纯机器学习研究」方面也有类似的努力。

Agarwal说:「我们内部有一个红队,他们总是试图打破这种模式,试图让GPT-3做所有这些坏事。研究人员正在试图弄清当GPT-3产生明显的性别歧视或种族主义文本时会发生什么。他们正在考虑模型的基本权重,试图找出哪些权重可能表明某些内容是有害的。」

在一些领域,错误可能会带来严重的后果,比如医疗保健、金融和法律行业,OpenAI的审查团队会特别注意。

在某些情况下,他们也会拒绝申请者,因为他们的产品过于敏感。

在其他情况下,他们坚持要有一个过程监督员,即人工智能生成的文本在到达客户或用户之前有监督员对其进行审查。

虽然在处理消极语言和有害偏见方面取得了一定的进展,但是Agarwal表示「还没有达到我们想要的程度」,所以在合理有效的处理方法出现之前,OpenAI不会大规模扩大GPT-3的应用。

目前尚不清楚OpenAI将如何把有毒语言的风险降低到「可管理」的水平,也不清楚在这种情况下「可管理」意味着什么。

想要应用GPT-3的公司和开发者还需要权衡其利弊。

参考链接

https://spectrum.ieee.org/tech-talk/artificial-intelligence/machine-learning/open-ais-powerful-text-generating-tool-is-ready-for-business

花粉社群VIP加油站

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
风吹屁屁凉..(花粉渠道)
文章
501
主题
0
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索