据每日甘肃网5月8日消息，5月5日，甘肃平凉市公安局崆峒分局侦破了一起利用AI人工智能软件炮制虚假新闻，赚取流量从中获利的寻衅滋事案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施以来甘肃省公安机关侦办的首例利用AI人工智能技术炮制虚假不实信息的案件。

图源每日甘肃网

案情信息透露，在今年4月25日，崆峒分局在网络巡查中发现，某平台账号中发布了一条标题为“今晨甘肃一火车撞上修路工人 致9人死亡”的文章，初步判断为虚假不实新闻。随后网警展开工作，发现同一时段有22个平台账号发布了相关文章，文章内容地点除了平凉市，还有兰州、定西、酒泉等地，阅读量已有1.5万余次。

经查，发布不实信息的账号均属深圳某自媒体公司，公司法人洪某有重大嫌疑。5月5日，洪某在广东东莞市被抓获，侦查发现，其购买了大量账号用于网络流量变现，他在全网搜索近年来社会热点新闻，通过人工智能文案生成平台chatgpt将收集到的新闻要素进行编辑生成，上传到平台账号进行非法牟利。洪某利用现代技术手段编造、散布虚假信息，造成网络公共秩序混乱，被认为已涉嫌寻衅滋事罪，当前嫌疑人已被采取刑事强制措施，案件也在进一步侦办中。

正所谓造谣一张嘴，辟谣跑断腿，此前也已经出现过AI炮制假新闻的事件，今年2月中旬，网上曾流传出一则所谓“浙江省杭州市政府3月1日取消机动车依尾号限行”的“新闻”，引起了杭州本地居民的关注，经过警方调查后发现是杭州某小区业主随手用chatgpt生成的假新闻，该业主将内容发在了业主群里，结果被广泛传播开来变成了一条假新闻。与本案中有心利用AI技术非法牟利不同，这一乌龙事件尚且能说是业主的无心之失，也因为群内其他业主没有注意聊天的上下文导致错误消息被传播开来形成谣言。

依照《互联网信息服务深度合成管理》规定，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。几十秒炮制而成的虚假新闻轻则造成误导性信息的传播，重则抹黑他人名誉，引起社会恐慌，AI不仅能生成出虚假的文本，还能生成出以假乱真的图片，大大提高了大众对于虚假信息辨识的难度。AI虚假新闻动摇的是新闻真实性的根基，尤其是涉及社会事件的虚假新闻，被广泛传播后极易造成公众恐慌，严重影响正常的网络秩序，是对法律的挑衅。

早前就曾有新闻可信度评估机构指出，chatgpt或将成为互联网有史以来最强大的传播虚假信息的工具，而从网友们与chatgpt乐此不疲的对话结果来看，其实时聊天生成的内容极其流畅，大多数时候也不曾出现逻辑缺失，甚至会表现出令人细思恐极的“情感性”。面对具有超强造假能力的AI，审核机制却基本空白，现有的互联网平台的审核机制并不能高效筛选出AI生成的谣言内容。

AI在创新场景等方面应用的未来还十分广阔，从积极的一面来看，AI也能够成为辅助人类生产生活、提高生产效率的工具，但AI不应成为假新闻生成的“摇篮”。平台方面更需要警惕，加强对平台账号真实性的审核，避免让虚假信息造成不必要的舆论漩涡。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩

花粉社群VIP加油站