内容一览：深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，如今针对这一技术的管理规定终于发布了。

关键词：Deepfake 深度合成 监管条例

近期，网信中国发布《互联网信息服务深度合成管理规定》，称该规定已经国家互联网信息办公室审议通过，并经工业和信息化部、公安部同意，将自 2023 年 1 月 10 日起施行。

实际上，早在今年 1 月，国家网信办就发布了《互联网信息服务深度合成管理规定（征求意见稿）》，公开征求群众意见，时隔 11 个月，如今靴子终于落地，近期一路高歌猛进的 ChatGPT，在国内发展或被按下暂停键。

本次正式发布的管理规定，进一步明确了深度合成技术的范围及使用规范，涵盖文本、图像、音频、视频等多种模态的相关技术。

深度合成内容制作与传播数量高速增长

深度合成内容数量庞大、鉴别难度高，国内外关于建立健全监督管理机制，曾做出多次尝试。

2019 年 11 月，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合发布《网络音视频信息服务管理规定》，明确规定「不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息」。

2019 年 12 月，国家网信办通过并公布了《网络信息内容生态治理规定》，禁止使用深度学习和虚拟现实技术从事任何非法活动。

2020 年 12 月，中共中央印发了《法治社会建设实施纲要（2020-2025 年）》，要求对深度伪造等新技术制定和完善规范管理办法。

此外，美国、欧盟也针对深度合成技术，出台了多部相关法律法规。

2019 年 12 月，美国国会众议院通过「2020 财年国防批准法」，要求政府向立法机构通报涉及跨国、有组织、带有政治目的的 Deepfake 虚假信息行为。

欧盟则公开要求科技巨头们采取措施，加强对 Deepfake 的打击，否则将处以巨额罚款，最高可被罚全球营业额的 6%。

从上线不到一周就被迫下架的 ZAO APP，到真假奥巴马，再到蚂蚁呀嘿，深度合成技术在不断发展，政策法规也需要与时俱进。

以上 4 张奥巴马图像均通过 Deepfake 生成

只有推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，才能促进互联网信息服务健康发展，维护网络空间良好生态。

花粉社群VIP加油站