“降低人工智能灭绝的风险”，应该与其它社会规模的风险（如大流行病和核战争）一样，成为全球的优先事项。

图灵奖得主Bengio和Hinton，同时警告AI可能灭绝人类！

5月31日，一封签署名单多达350人的公开信迅速传播开来，信中核心只有一句话：

“降低人工智能灭绝的风险”，应该与其它社会规模的风险（如大流行病和核战争）一样，成为全球的优先事项。

这次的签字人有：特斯拉创始人马斯克、2018年度图灵奖得主约书亚·本希奥、苹果联合创始人斯蒂夫·盖瑞·沃兹尼亚克、《人工智能：现代方法》作者斯图尔特·罗素。

而这一切的开始其实源自2014年，“未来生命研究所”打响的第一枪。

斯图尔特·罗素、史蒂芬·霍金和泰格马克联合在赫芬顿邮报上发表的《超越我们对超级智能机器的自满》一文，表达了作者对迅速发展的AI潜在的风险与隐忧。

而这篇文章的发布也引发了媒体对AI安全报道的热潮，伊隆·马斯克、比尔·盖茨等科技领袖纷纷加入讨论。

也许你不难发现，有一个人的名字总是和人工智能的发展史重叠，他到底是何许人也？

斯图尔特·罗素是最早和霍金等人发表了署名文章号召大家警惕人工智能可能给我们带来威胁的人，并共同发起了英国剑桥大学生存风险研究中心（Board of the Centre for the Study of Existential Risk），并成为人工智能领域唯一科学家任职理事会成员。

他也是历史上第二位获得过两项IJCAI主要奖项（卓越研究奖、计算机与思想奖）的科学家（国际人工智能联合会议（简称为IJCAI）是人工智能领域中最主要的学术会议之一）。

作为当今世界上人工智能领域的权威专家，他曾与谷歌研究总监彼得·诺维格合著出版了人工智能领域里的“标准教科书”《人工智能：现代方法》，该书被100多个国家的1500多所大学使用。

这本书几乎是为全世界范围的人工智能教育提供了标准范本，推动了人工智能知识的快速普及，为人工智能教育做出了重大贡献。今年年初，该书的第四版中文版也与中国读者见面。

人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁，唯恐它将对社会造成不可挽回的破坏。

那此时，我们不禁要问：AI觉醒前夜，ChatGPT真的会是那个最优解么？

近日钛媒体集团合伙人、区块链知名媒体数据平台链得得（ChainDD）总裁——李非凡与《人工智能：现代方法》作者——斯图尔特·罗素，一起开启了一场谈AI论未来的尖峰对话，共同探讨关于人工智能技术的现状发展以及未来趋向。

人们期望着人工智能将我们从繁琐的劳动中解放出来，却又恐惧人工智能将我们“取而代之”，未来我们应当如何去驾驭它们呢？

以下为直播实录精编处理版本，内容精编自6月7日「钛空时间｜共读时刻」直播栏目，

那 ChatGPT 是不是真正的“人工智能”

李非凡表示，在中国，很多人对于人工类智能产品的最初记忆，都来自于像微软小娜、亚马逊 Alexa、苹果 Siri 这样的智能语音助手，目前看来，ChatGPT 在“智能”方面已经领先于这些智能助手，并以此向罗素博士提问：如何看待 ChatGPT 在这个领域所带来的颠覆性革命？以及这些“古老”的人工智能交互类产品是否是一种“失败”？

对此，罗素博士表示，他并不认为 Siri 这类的产品是一种“失败”，他认为，技术是会随着时间的推移不断发展的。罗素博士举例道：“比如说，我们买一辆新车，新车往往会比旧车好一点，但是我们并不会说旧车是失败的，因为我们在这个领域使用的技术是具有延续性的。”

在他看来，像 Alexa，还有 Siri 这些智能语音助手，是更早期的技术，它们更多的是基于预先计算好的问题和答案，也就是大家过去称之为“聊天本”，这些技术的本质，是基于一个问题模板的列表，当人们问类似问题时，就会产生标准答案。

罗素博士认为和 Siri 这类的产品相比，ChatGPT 这种新型技术是完全不同的，这个新型技术是大家所说的“语言模型”，它并不是基于一套问题的答案。它只是一个通用工具，会根据前面的单词序列预测下一个单词，可能是一次谈话，也可能是一篇放进去的报纸文章，然后用 ChatGPT 对它进行分析。然而这些功能，是不可能用 Alexa 做到的，因为 Alexa 只是设计用来回答很基本问题的工具。

对于 “ChatGPT 不是真正的人工智能”这个观点，以及未来 5 年内大家能看到的真正的人工智能是什么？这个问题，罗素博士表示，他认为 GPT-2 很明显没有实现太多的内部改善，它能够生成看似可信的文本，但它在回答问题等方面表现得却不是特别好。

罗素博士表示，关于新一代大语言模型的有趣之处就在于，即便在 5 年前，语言模型也已经算是人工智能科学研究的一个小分支，那个时候它们就可以有助于提高语音识别的准确性。

再者，硅谷的公司有大量的算力基础支撑，也有承担风险的意愿。

正如 OpenAI 公司创始人山姆·阿尔特曼所说：“当大家谈论的是创造通用人工智能，就会有足够多的人愿意投入大量资金，进行一场赔率相当高的长期赌注，我认为一开始成功的几率很小，但是他们也的确成功了，所有这些东西在硅谷汇集到一起，而这是世界上任何其他地方都做不到的。”

罗素博士表示，在很多大学和创业公司中他都看到了这种心态：对于任何有趣的想法，都应该自由地去追求它，而不应该先去寻求老板的认可。

罗素博士举例：“比如我可以说我已经 49 岁了，这句话看起来像一个正常人说的话，但其实它是假的，因为我已经 61 岁了而并不是 49 岁，我的意思是，能“像人一样说话”才是 ChatGPT 所关注的，但它不在乎这句话是否是事实。”

所以罗素博士认为有必要对规章制度进行一些修订，否则规则本身就已经禁止了大语言模型在公共场合的使用，与此同时，他也认为大语言模型存在的一个大问题，就是它能否很好地去遵守任何一项合理的规则。

他解释道，在大多数国家，除非是有执照的医疗专业人员，否则提供医疗建议是非法的。因此OpenAI 表示 ChatGPT 和 GPT-4 不能用于提供医疗建议。但是 OpenAI 没有办法强制执行这一点，因为它们不明白它是如何运作的，所以没有办法去执行这个规定。但是 OpenAI 团队可以做的是，每次 ChatGPT 给出医疗建议，他们会对 ChatGPT 反馈说“你做错了”。

在他看来，各国政府正在积极做出回应，尤其是中国政府已经做出了很好的回应。美国参议院查尔斯·舒默也已经提议计划引入一些法规，虽然目前还不知道要引入的法规是什么，但欧盟制定了《人工智能法》草案，将对这些人工智能系统的使用方式施加非常严格的规定。

他相信人工智能未来将会产生巨大的价值，它们可以改善各类人群的能力，它们可以被用作个人助理，可以用来帮助大家处理海量信息。

所以这可能将是这个世界一个巨大的变化，这也将是教育体系的一个巨大变化，现在教给孩子们的很多东西可能都与人类科学无关，还有很多本该教给孩子的东西，也并没有教。

而教育体系恰恰是世界上所有体系中更新速度最慢的体系，就改变的能力而言，它甚至比医疗保健体系的更新还要慢。

李非凡认为，现在每个人都疯狂地赞美和追逐人工智能，伴随 ChatGPT 的发展，中国人工智能行业的热浪也迅速升温，连幼儿园的学生都能谈起一些关于人工智能的事情，对此钛媒体也冷静地表达了自己的观点：自嗨满足于过去， 而科技看的永远是“下一个”。那面对疯狂这个行业现在需要什么样的冷静和理性的声音？

对于这个问题罗素博士认为：“如果你是一个投资者，这将是一个非常重要的问题。创造真正通用人工智能所需花费的金钱成本，我们称通用人工智能为 AGI，这是几千万亿美元级别的投资领域。”

他表示，在美国每个月大约有 100 亿美元投入研发 AGI 的创业公司当中。这看起来是很大一笔钱，但与所预期创造的价值相比，这些投资都只是沧海一粟。

但问题是目前这种建立越来越大的语言模型的方向，是否能抵达真正的通用人工智能？他个人觉得是不会的。他还补充道，不仅他这么认为，OpenAI 的现任首席执行官和联合创始人山姆·阿尔特曼在演讲中也发表了同样的观点。

对此观点罗素博士也给出了他的原因：因为大语言模型不具备让人变得更聪明的能力。

所以他认为想要抵达真正的通用人工智能，需要在两个方向上投入大量的努力：

​第一，如何把已经建立起来的东西，比如 ChatGPT，变成可以在实际环境中使用的工具。

罗素举例道：“比如我是一家保险公司，我想使用语言模型与我的客户交流，那么语言模型必须告诉客户产品的真相，它必须按照规定推荐给每个用户合适的保险产品，如果它违反了这些规定，那么保险公司将面临政府的巨额罚款。因为保险业受到严格监管，所以目前不能在这些领域中使用大语言模型，所以大家要付出巨大的努力来驯化这个“野兽”，如何将一只野狗驯化成一只行为规矩的家犬，这是众多人工智能领域的公司正在努力的一个大方向。”

第二，如果大语言模型不是创造 AGI 的答案，那么什么才是？它们是拼图的一部分，但不是整个拼图。

这个的困难在于大家并不真正理解它们是拼图的哪一部分，甚至不知道这些碎片的形状，也不知道上面的图案是什么。所以也并不知道还需要什么，才能创造出通用人工智能，这些都是更为基础的研究问题。

李非凡以几个月前，自己公司做的嵌入人工智能功能的元宇宙产品为例，向罗素博士提出问题，他表示，由硅基生命形式为主导的人类世界首次在虚拟游戏中实现，NPC 成为虚拟世界的原住民，人类玩家则变成了这个世界偶尔出现的访客，对于这样的事情罗素博士有怎样的看法？

对此罗素博士认为，虚拟现实这种沉浸式的体验，可能性还没有得到充分利用。他认为这是有巨大潜力的，这种沉浸式体验可以形成一种比书籍、电影或音乐更强大的艺术形式。

它可以涵盖所有这些形式，甚至更多，因为它能以各种有趣的方式回应人们，说到这里，罗素博士也希望艺术家们能利用这一点，尝试开始探索在这个领域能做些什么，这样大家就不会仅仅把虚拟现实，想象成一个只去打怪升级的地方。

与此同时他认为还有很多有趣的商业模式与虚拟现实和元宇宙有关，例如：使用由人工智能系统驱动的虚拟人NPC这样的非玩家角色，利用这些角色来做生意，说服大家买东西。

但罗素博士也表示，这其中也很多具有欺骗性的，它们假装自己是人类，假装和你交朋友。它们花几个小时、几天或几周的时间来了解，谈论家庭，谈论个人，了解家庭情况，然后它们可能随口提到自己刚买了一辆新车很不错，然后安利给大家。这种商业模式或许非常有效，但却是完全建立在欺骗的基础上。所以对此他认为作为人类，知道与自己互动的是人还是机器是大家的基本权利，欧洲人工智能法案中也将对此有相关规定，并作为基本规则之一。

程序是有意识的还是无意识的并不重要，重要的是，它每一步都下得很好，而我什么都做不了，我输了这场比赛。这在现实世界里也是一样的。无论是在象棋盘上，还是在围棋盘上，或者在现实世界中，重要的是系统做了什么，我们能否采取足够的手段来确保我们保持对系统的控制，即使这个系统比我们更智能，我们也必须设法避免冲突。

因为如果创建的 AI 没被设计好，追求的目标与我们关心的目标不一致，那么大家就会面临真正的问题。”

李非凡提出在社会范畴内，像自动驾驶领域发生的一些交通事故会造成人员伤亡，有没有一个标准框架来评判人工智能判断造成的损害与它应该承担的责任？

对此罗素博士认为，以自动驾驶汽车的标准来说，这应该是生产商要负有的责任，这被称为严格责任。这意味着谁有过错并不重要，只要自动驾驶汽车撞死了人，那么生产商就要承担起责任。

他本人作为一家法国公司的董事会成员，他表示，这家公司也在从事这一领域，而法语的数据同样不够多，世界上没有足够的法语文本来训练一个相当于 GPT-4 的模型。因此他认为对于目前的情况，一种选择是尝试将所有英文文本翻译成法语，然后用法语训练 GPT-4，但这样效率低且成本也极其昂贵。所以综合来看，不应该过分强调将大语言模型作为公司之间成败衡量标准，人们一直在竞争，比如有 1000 亿个参数，或者有 5000 亿个参数，而这种“竞争”是没有益处的。

他表示，对中国公司来说，西方评论界经常说的一个观点是，因为中国的人口要更多，他们有更多的数据，数据才是最重要的，但在他个人认为这是无稽之谈。

2.迅速修改和更新人工智能规则

经合组织OECD有一个人工智能事件数据库，人们可以向其提交人工智能系统造成问题的不良行为报告，当收到这些报告时，可以更新相关规定。罗素博士认为能相当迅速地制定和修改 AI 规则才是关键点，因为当通过任何一项法规之后，很可能六个月后它就会变得无关紧要。

罗素博士表示，他可以保证，世界各地很多人工智能专家、监管机构、政客、公司都正在对这个话题进行着热烈的讨论。OpenAI、微软、IBM 等公司自己都主动站出来表示：政府需要对这个行业进行监管，这是一个重要的新消息，以前大多数科技公司一直在说“不要监管，监管扼杀创新”。现在它们说不，“在我们再次杀人之前请监管我们”，这就是大家所处的境况。

钛空时间新书推荐——《人工智能：现代方法》

原价：￥198

钛空舱特惠价：¥139

本书全面、深入地探讨了人工智能（AI）领域的理论和实践，以统一的风格将当今流行的人工智能思想和术语融合到引起广泛关注的应用中，真正做到理论和实践相结合，赶紧下单购买吧！

「钛空时间｜共读时刻」是钛空时间特约读书栏目。这里是新兴企业家、新一代创变者的精神阵地，以读书、知识、文化为纽带链接每一个独特的个体，解构每一个独特灵魂的思考轨迹。

我们每期邀请特约嘉宾通过共读一本好书来探究事件本质，以先进的思想和前沿的视野，为大家捕捉行业新动态，打开创新新思路，掌握发展新方法！

花粉社群VIP加油站