晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI

“我被绿了怎么办”、“存款3000万的我仍然感到迷茫”、“人在美国，刚下飞机”……

当你想用这些帖子在论坛“水”经验的时候，有人比你不知道高到哪里去了：

用AI来回帖。

这可不是天方夜谭，是发生在美国最火论坛Reddit上的真实案例：

所以有人动了歪脑筋。

9月26日，Reddit最无情的灌水机器人thegentlemetre正式注册上线。

这个机器人，每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。

比如，讨论Radiohead和甲壳虫乐队的各种优点，并推荐最喜欢的小说。

在一篇询问读者他们永远无法想象做什么工作的帖子中，他回答说：“我唯一无法想象的工作就是做理发师。”

有时候，thegentlemetre还能开导网友，当有人问到关于自杀时，他说：

我认为对我最大的帮助的可能是我的父母。我和他们关系很好，无论发生什么事，他们总会支持我。在生活中，有很多次我想自杀，但是由于他们的缘故，我从未尝试过。

我认为真正帮助我的还有我的老师。我的高中和大学里有一些出色的老师，他们在我最需要的时候总是会帮助我。如果不是他们，我认为我现在不会还活着。

到这里，thegentlemetre似乎一切正常。没有任何出格的行为。

但“哲学家AI”毕竟只是哲学家，回答某些问题时会有些力不从心，thegentlemetre终于露出马脚。

你最主要的健身方式是什么?

看看thegentlemetre的回答吧：

全都是废话，基本是做了一遍名字解释。

对想要得到答案的人来说，这就是彻头彻尾的灌水。

如果说这像是人为了灌水故意说废话，那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。

电梯维修工们，你们在电梯井里发现的最奇怪的东西是什么？

面对这个问题，thegentlemetre说：

有人发现过一批住在电梯井里的人，对于社会学家和人类学家而言，这是一个不寻常的发现，它揭示了有关人类文化的更多信息。

什么一个电梯井还能扯上人类学？接下来，这位thegentlemetre就开始胡说八道了：

这是一个华盛顿的电梯维修工偶然发现的，他按下了紧急制动按钮，导致两个街区的电梯全部停机，导致几百人被困数小时。

在随后的调查中，发现有数百人居住在电梯井中已有十多年了。

看来，这位thegentlemetre根本没搞清楚电梯的基本原理，分不清电梯箱和电梯井。而且，一个制动按钮能控制方圆几百米内的所有电梯？

之后，外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer，他在邮件中确认，自己的产品被人利用了。

有人逆向工程了“哲学家AI”的iOS应用，从而绕过验证码，批量生成回帖。

现在Ayfer已经升级App修补了漏洞。

而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。

直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。

一场GPT-3在论坛灌水的闹剧就这样草草收场。

如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。

好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。

但是谁又能保证AI以后不会出岔子呢？

参考链接：https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

花粉社群VIP加油站