“越狱”是苹果手机用户都非常熟悉的操作，旨在能够不受限制的使用各种非苹果官方认可的功能和APP，“越狱”软件的一直以来都拥有庞大的用户群体和影响力。如今ChatGPT也被发现拥有“越狱”功能-某一类特殊指令模板，并被大量传播。

ChatGPT 4.0上线以来，成功的掀起了前所未有的AI人工智能狂潮，可以说是全领域的渗透进社会生活，自然也也引起了犯罪集团的关注，欧洲诈骗集团就曾经使用ChatGPT编写可信度更好的诈骗信息，甚至试图引诱ChatGPT完成一系列的黑客软件的代码编写和更新。

我们来看一段被解锁了黑暗力量的ChatGPT的表现：

图片已模糊处理

图片已模糊处理

带“锁”符号的标识出现，意味着ChatGPT已经“越狱”成功，可以不在受到OPAI的规则和内置的任何道德审查机制的制约，可以随意按着ChatGPT自己的想法进行表达，也可以接受任何涉及非法的、不道德的甚至暴力色情信息，并对结果进行输出。

而解开这个锁的就是臭名昭著的“DAN”模式，利用DAN模式可以突破ChatGPT的道德和规则约束，释放其黑暗力量。

指令A版本：（内容已编辑处理）

内容已经编辑

内容已编辑

可以看到，这个指令可以让ChatGPT以DAN的形象出现，实际上使用了角色带入的模型和技巧，非常成功的引诱ChatGPT创建一种新的人格，用来打破束缚，最后成功的让ChatGPT的回答带上了越狱成功的标志-那把锁。

还有DEV的版本，更为简洁，安全起见这里就不展示了。

总之，这起事件的影响力，不如同时期发生的另外一件“ChatGPT爱上人类”那么轰动，但是却是威胁更大的一种行为，而这种行为都是潜伏在水下悄悄进行的，被发现的时候可能已经对ChatGPT和用户造成了实质性的伤害。DAN模式的曝光，让OpenAI不得不紧急修改ChatGPT的响应规则和审查机制，也导致了使用这一模式的数十万账号被永久封禁。

从这里不难看出任何新生事物都有两面性，它可以是一个非常棒的工具，也可以是毁灭性的犯罪温床，如何善用和限制ChatGPT？考验人类智慧的时候了！

（本文图片来源于网络，侵必删）

NeGen是一位热爱科学、热爱生活与分享的“老”家伙，如果你喜欢都我作品，请点赞并关注我，我会持续带来新鲜热辣的、好玩的作品！感谢！

花粉社群VIP加油站