澎湃新闻记者 邵文

影视剧《西部世界》中AI角色

“现在的大型神经网络可能已经有了点自主意识。”近日，OpenAI首席科学家Ilya Sutskever推文中的一句话激起千层浪。

关于AI能否有自主意识的大型争论在学术界已经停歇好久，但目前Sutskever的这则推文已经“引战”了学术界的多位大佬。其中最被关注的是图灵奖得主、Meta首席科学家杨立昆（Yann LeCun）的回应。

在面对诸多争议后，Sutskever回应道，“自我是（最）大的敌人。”

使用者与聊天机器人Samantha的聊天记录

此后，OpenAI重新配置了GPT-3，更新后的模型称为InstructGPT，意在表明它更善于遵循使用者的指示。

对于Sam的反击，立昆也继续开炮，“一个人可以建造更快的飞机并打破飞行高度记录。出色的工程壮举说不定就让你天天能上新闻头条，没准也还可能也有点用。但如果一个人的目标是突破大气层飞上太空轨道，那就必须研究低温罐、涡轮泵等，而不是一些华而不实的东西。随便问问Elon Musk和Sam就知道了。”

在此之后，Sutskever连发两条推文，“无意识选择相信一个明显的谎言以让自己短时间内感觉更好，并不是一个好的生活策略”，“因为感知=行动，高级深度学习智能体可能也会陷入同样的陷阱”。

“人工智能之父”图灵曾预言，具备人类智能水平AI将出现在2000年。雷·库兹韦尔“奇点理论”则预测，人工智能的发展将在2050年达到奇点，届时人工智能将产生意识，并迅速超越人类智能。

那么回到当下，实际上现在对于什么是意识，出现了哪些特征即表明了AI有了意识都还未有定论。

以下附2018年图灵奖得主Yoshua Bengio近日列出的关于AI未来可确定的几点判断：

· 可以构建像人类一样聪明的人工智能。我们的大脑是复杂的机器，其工作原理正变得越来越好理解。我们是活生生的证据，证明某种程度的智能是可能的。

· 构建比人类更聪明的AI是可能的。人类有时会受到认知偏见的困扰，这些偏见阻碍着我们的祖先向智人进化过程中可能需要的推理能力。而我们可以合理假设，我们将能够构建出没有这些缺陷（如需要社会地位、自我或属于一个群体，毫无疑问地接受群体信仰等）的人工智能。此外，AI可以访问更多的数据和内存。因此，我们可以自信地说，构建比人类更聪明的AI是有可能的。

· 尽管如此，现在也还远不能确定我们是否能够像一些文章所声称的那样构建比我们自己更智能的AI。各种计算现象都遇到了指数级的难度墙（臭名昭著的NP计算难度），而我们还没有发现智能的极限。

· 人类和人工智能科学越进步，它就越有可能为社会带来巨大的利益和危险。人工智能的应用可能会增加，总体上可以极大地推动科学和技术的发展，但工具的力量是一把双刃剑，必须制定法律、法规和社会规范，以避免或至少减少这些工具的滥用。

· 为了防止被权力、金钱或仇恨欲望蒙蔽的人类利用这些工具损害其他人类，我们无疑需要改变法律并在机器中引入同情心，同时也要加强人类固有的同情心。

· 由于我们真的不知道人工智能或其他领域（例如生物技术）的技术进步会有多快，因此最好立即着手更好地监管这些强大的工具。事实上，人工智能已经存在有害用途，无论是在军队中的使用，如可以识别某人的脸并进行射击的杀手无人机，还是在人工智能系统中做出有偏见的决定并歧视女性或部分种族的人。一般来说，对计算的监管很差，必须改变这一点。我们必须规范这些新技术，就像我们对航空或化学所做的那样，以保护人类和社会。

· 此外，应该鼓励对社会明显有益的人工智能应用，无论是在健康、应对气候变化、反对不公正还是增加获得知识和教育机会。在所有这些领域，政府可以发挥关键作用，将人工智能研究和创业的力量引导到对社会有益的应用，因为在这些应用中，盈利的愿望并不总是足以刺激所需的投资。

责任编辑：李跃群

花粉社群VIP加油站