受访专家：中国科学院自动化研究所多模态人工智能系统全国重点实验室研究员 赫 然

二〇二二年十一月十五日，在第二十四届中国国际高新技术成果交易会上，参观者体验AI“换脸”。新华社记者 毛思倩摄

中国规范深度合成技术的新规定《互联网信息服务深度合成管理规定》自1月10日起施行。

法新社报道称，新规定要求深度合成服务提供者对使用者进行真实身份信息认证，同时要求对深度合成内容进行合理标识，避免公众混淆。

“算法监管的先行者——中国，近期将注意力转向治理深度合成。”《华尔街日报》网站报道称，所谓深度合成，就是由人工智能软件生成或编辑内容，可以让人们看起来完成了一些从未做过的事情。

深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。合成的虚拟内容有极佳的视觉、听觉等效果，具有“以假乱真”的特点。深度合成技术的代表性研究——2014年提出的生成对抗网络（GANs）、2020年提出的生成式预训练模型（GPT-3），大幅提升了多媒体数据合成的逼真程度，推动了“人工智能生成内容”和“元宇宙”等一系列新型智能应用形态。目前，深度合成技术已衍生出面部替换、表情操纵、语音合成、文章生成、智能对话等不同技术分支，在教育、影视、传媒等领域扮演着越来越重要的角色，对升级传统内容制作方法、改善制作效果、提高制作效率有积极作用。但同时，该技术也可能被不法分子用于深度伪造，如伪造公众人物发言，进行诽谤、诈骗等，给国家安全和社会稳定带来挑战。

智能技术本身是中立的，但技术的使用蕴含价值取向。针对深度合成技术带来的风险和安全挑战，中国正在积极探索治理路径。

2022年11月25日，中国国家互联网信息办公室会同工信部、公安部发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律、行政法规制定，是中国第一部针对深度合成人工智能技术治理的专门性规章。《规定》一方面为防范深度合成的潜在风险提出了科学且系统的治理方案，另一方面有效统筹了深度合成的风险管理与技术创新，有利于促进深度合成相关人工智能技术健康有序发展。

《规定》厘清了深度合成技术定义与应用范围，确定了生成合成类算法的监管对象，明确了深度合成服务提供者、技术支持者和使用者及应用程序分发平台的各方责任，提出建立健全行业标准和自律管理制度。

《规定》有效衔接现行法规制度，在延续互联网信息服务算法治理思路的基础上，对利用深度合成技术危害国家安全和人民利益、侵害公民合法权益和隐私的行为及法律责任作出了全面、具体的规定，进一步细化了现行算法应用的监管规则，给出了合成类算法服务的监督管理样板。

实现网络综合治理、构建网络生态，是世界各国面临的共同课题。《规定》的出台，是中国加强互联网智能技术依法治理、规范产业服务健康发展、推进人工智能伦理进步、引导科学技术向上向善的重要举措，具有一定的全球示范效应。同时，《规定》的多项内容处于国际领先地位，具有针对性、前瞻性和引导性和可操作性。近期，美国人工智能实验室OpenAI最新发布的对话式大型语言模型ChatGPT引起广泛关注。该算法模型可以智能书写情书、辞职信、文章等，也可以模仿特定人物的风格发布推文。使用这类算法模型提供智能写作、对话服务也应当遵守《规定》。

下一步，中国在规范深度合成技术方面还可进行三方面探索：一是在技术基础研究方面，可进一步研究智能合成类算法的机制机理和深度合成鉴别等关键技术，推动深度合成技术管理能力和技术保障措施建设，提升视频、图像、音频、虚拟场景生成等应用服务领域的合成效果。二是在安全与监管方面，可研究深度合成与鉴别的博弈对抗机制，研究媒体数字水印、算法模型水印和内容安全溯源等深度合成标识技术，建设面向移动互联网全媒体的监测管理平台，加强技术和人工审核交互的人机混合监管方式，建立深度合成服务提供者的安全可控技术保障方案以及辟谣投诉机制。三是可开展深度合成相关智能算法标准和安全评估标准等的研究与制定，进一步支撑技术服务规范和安全能力建设等工作。

中国积极探索规范深度合成技术，有利于引导以深度学习为主的新兴智能技术健康发展，促进人工智能算法在音频、视频、图像和文本等多媒体信息处理领域的应用。随着深度合成技术应用的普及和拓展，深度合成检测分析技术也将顺势而来。通过深度合成与检测分析技术的对抗演练良性迭代，深度合成技术将有望实现安全、可靠、可控发展，推动新兴人工智能技术应用落地。

（瞭新社）