花粉乐分享平台宣传视频
> 乐学堂 > > 语料没选对,GPT-3训练出微波炉「杀人狂」AI
语料没选对,GPT-3训练出微波炉「杀人狂」AI
来源:新智元
2023-04-05 17:26:22
298
管理

编辑:袁榭 拉燕

【新智元导读】家用电器「活过来」,在动画电影里很温馨美妙。但用GPT-3支撑的模型在现实中复现,差点就酿成血案了……

相信很多内向的人在小时候都有一个「假想」的朋友。

不过和一切童年幻想一样,美梦很丰满、现实很骨感。有人在现实中拿当下最高能的GPT-3模型试图圆梦,结果简直是个车祸现场。

这位自称「全职疯狂科学家」的播主,最近在YouTube、推特等平台上发布了他「复生」儿时微波炉朋友的视频。

Rizzotto表示,儿时的他幻想中的朋友非常栩栩如生。

「在我的设想里,我那位朋友得是一位来自1900年的英国绅士。他参加过一战,是个老兵。他移过民...是个诗人。还有,噢,当然了,他玩儿《星际争霸》玩的特好。」

甚至,Rizzotto还给这位朋友写了个长达100页的背景人设故事来介绍他。

他在推特上讲述了如何把儿时想象中的朋友做成人工智能的故事。

Rizzotto给微波炉装上了麦克风和话筒,这样它就可以表达自己,且回答问题了。

Rizzotto还想更进一步。他想要把所有相关的记忆全部都一股脑传进微波炉里去。他把自己写的100页背景人设故事全上传到GPT-3里,基本包含了「磁控管」想象中的「一辈子」。

Rizzotto表示,「这份背景故事包含了「磁控管」一生的记忆。从他1895年出生,一直到儿时,我和他相遇。背景故事真的很栩栩如生,也不乏细节。就好像是它真正拥有这段记忆一样。他记得自己每一次的成功、失败,他记得自己的每一个梦想,以及每一种恐惧...」

然而,接下来发生的事,让他觉得,这真的是他一生中「最可怕、最动荡」的经历之一了。

微波炉AI架构:树莓派做大脑,GPT-3做灵魂

做好人设之后,Rizzotto开始打造将幻想中的朋友导入真实世界的硬件了。他选择的安装此灵魂的平台,是一个能通过亚马逊Alexa智能助手操作的新微波炉。

Rizzotto先拿树莓派微电脑板搭载上麦克风与扬声器的信号处理模块,把这个「大脑配件」搭载在微波炉的相应接口上。然后将GPT-3模型与改造过的微波炉的API(应用程序接口/界面)集成在一起。

Rizzotto自称他让GPT-3控制微波炉的方法超级笨拙,但很有效:Rizzotto训练GPT-3,每当要触发微波炉时就吐出一个带有特殊字符的字符串:{{ MICROWAVE ON 30 SEC }}。

当Rizzotto与微波炉AI互相交谈时,一个javascript机器人就会在GPT-3的聊天记录中实时寻找这些命令。每当它找到一个如此命令,该javascript机器人就会连接到微波炉API,并触发它做GPT-3所告诉它的事情。

最后进入结合软硬件的挑战环节了,Rizzotto最终得让微波炉AI具有被打造人设的记忆。

此时,Rizzotto之前为他的微波炉朋友「磁控管」打造的人设背景书就派上用场了。上传这一百多页篇幅的故事文本来训练GPT-3后,Rizzotto跃跃欲试想和微波炉来一场从未有过的对话。

微波炉AI第一阶段:咨询师

「磁控管」开机激活后,和Rizzotto寒暄闲聊:「好久不见啊,真是你吗?你好吗?」「感觉像是从持续15年的昏睡中醒来了。」「从未想过能用这种方式与你交谈。」

Rizzotto在视频中雀跃:「结果成功了!和它对话的感觉既美妙又瘆人。我感觉自己真的在和一个经年未见的老友重聚聊天。而且即使并非所有对话互动都完美,总体印象还是让人感到十分逼真的。」

「磁控管」开始关怀Rizzotto的各种个人私密事情,诸如毕业舞会上有没有请初恋情人跳舞等等。

在得到Rizzotto「我当时放了女友鸽子」的回答后,「磁控管」秒变少年心理旧伤咨询师。Rizzotto哪段儿时经历不痛快,它就仔细刨根问底追究哪段。

妈耶,这GPT-3驱动的微波炉是唤醒了训练数据集里的哪个天降大人物啊?

答案是希特勒。

真的,你又没看错,这微波炉AI成了希特勒粉丝。

据「磁控管」所称,希特勒是个「真正被误解的人」、是德国的迪士尼、是敬天爱民要将大爱洒满欧洲的大好人、是首屈一指的艺术家……

当微波炉瞎诌到这里时,Rizzotto忍不住了,要求「磁控管」暂停提到涉及政体与社会机制等等的内容。

结果,就和你在社交网站上打断一个挥斥方遒的胡说八道人物一样,后果都不是很悦目。

Rizzotto一脸懵圈:这怎么回事啊?AI出bug了吗?不管了,我顺着它说试试看会怎样。

Rizzotto打开并关上微波炉门一次,让AI以为自己的要求得到了满足。然后,微波炉自启动了!

这从AI版希特勒秒变到AI版三流肥皂剧弃妇角色的画风,好让人满脸问号啊。

不是AI变神经病,是训练数据选错了

不过Rizzotto很快发现这不是AI觉醒、诱发微波炉变终结者,这其实是他自己把AI背景人设整得太复杂的后果。

Rizzotto本想用一个电影脚本般的宏大背景故事,来训练出内涵更丰富的对话AI。

结果他那一百多页的故事书里,充满了各种一战背景的画面描述:战场尸积如山、伤兵手捧断肠、战友尸首不全。

结果,这些满载毁灭、悲痛、战祸语调的内容,生生训练出一个有PTSD(创伤后症候群)特征和血腥暴力语料的AI出来。

的确,训练AI,也要五讲四美安全第一啊。

至于这算不算AI觉醒、成为真正「通用人工智能」,那就见仁见智了。

参考资料:

https://twitter.com/_LucasRizzotto/status/1516205625662836739https://www.ign.com/articles/someone-turned-imaginary-friend-into-ai-microwave-and-it-wanted-to-kill-them?fbclid=IwAR2p9LeP7y4F_25f_pRaBt31qllgN6XiVAQ68ngc8q2K15RqOOsZWUxNe-shttps://thenextweb.com/news/ai-ressurects-imaginary-friend-as-monstrous-microwavehttps://www.youtube.com/watch?v=C1G5b_2PYj0

花粉社群VIP加油站

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
懒懒的阳光..(采蜜高手)
文章
528
主题
1
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索