编辑：编辑部

【新智元导读】最近，全世界都燃起一股围剿ChatGPT的势头，除了业内大佬，欧盟各国和白宫也纷纷出手。然而，恐怖的是，GPT-4已经悄悄拥有了自我进化的能力。

GPT-5的威胁，已经黑云压顶。

GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。

最近，似乎全世界都在围剿ChatGPT。

前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。

据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」

而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」

拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。

「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」

他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。

受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。

ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。

盖茨是人工智能的坚定支持者。

3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。

其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。

然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。

这恰恰印证了GPT-4是有「反思」能力的。

最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。

论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。

同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。

论文地址：https://arxiv.org/abs/2303.17580

论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。

有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。

Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：

Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。

如此看来，GPT-4打败自己，想要成为超级AI。

而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。

其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。

参考资料：

https://www.youtube.com/watch?v=5SgJKZLBrmg

https://www.reuters.com/technology/bill-gates-says-calls-pause-ai-wont-solve-challenges-2023-04-04/

https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/

https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/

https://www.cnbc.com/2023/04/04/italy-has-banned-chatgpt-heres-what-other-countries-are-doing.html

花粉社群VIP加油站