随着人工智能技术的快速发展，数字产业化进程不断加快，产业数字化、智能化水平进一步提升。多媒体深度合成技术是人工智能技术的重要研究和典型应用领域，涉及深度学习、虚拟现实、预训练大模型等生成合成类算法，国内外著名高校、科研机构、互联网公司和人工智能企业纷纷展开相关技术研究。随着其与互联网信息服务的深度融合，在变革互联网信息制作模式、智能生产新闻媒体内容、改善人机交互体验、繁荣数字经济等方面产生巨大影响。同时我们应该清醒地认识到，利用该技术进行违法和不良信息的制作、复制、发布、传播等行为，对维护网络安全、社会经济稳定、公共利益带来巨大挑战。习近平总书记在党的二十大报告中强调，“健全网络综合治理体系，推动形成良好网络生态”。2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），《规定》深入贯彻《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，聚焦突出问题，有效规范深度合成服务，加强网络内容建设，强化对人工智能技术、服务、内容、平台的综合治理能力。

一、坚持维护国家利益和站稳人民立场，强化算法治理能力

《规定》落实总体国家安全观，坚持以人民为中心，对利用深度合成技术危害国家安全和利益、损害国家形象、侵害公民合法权益和隐私的行为，作出全面、具体的回应，对现行算法应用安全监管规则进一步细化，为营造风清气正的网络空间提供制度保障和治理依据。

（一）有效衔接现行法规制度，健全我国算法综合治理体系。在《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律法规框架下，深刻把握深度合成服务存在的安全风险，与《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等相关规定制度紧密衔接，理清深度合成技术定义与应用场景，明确服务提供者的信息安全主体责任，延伸互联网信息服务算法治理思路，给出生成合成类算法服务安全管理样板，完善了我国互联网信息服务算法综合治理体系。

（二）构建多方共同治理格局，创新人工智能伦理监管的中国方案。《规定》统筹各方力量，构建政府监管、企业履责、行业自律、社会监督的多元共治体系，将网络信息内容生态治理和深度合成服务管理有机结合，通过贯穿深度合成服务事前事中事后的监管模式，针对不同的深度合成活动给出规范要求，进一步明确深度合成服务提供者、技术支持者和使用者以及应用程序分发平台责任，鼓励推动行业自律和出台标准规范，要求社会监督和申诉渠道畅通，及时处理公众诉求，对深度合成服务管理提出了兼具针对性、指导性、规范性的中国方案。

（三）聚焦违法和不良信息治理，引导深度合成服务向上向善。针对利用深度合成服务制作、复制、发布、传播违法信息等行为，《规定》划定“红线”，规定不得利用深度合成服务开展法律法规禁止的活动，要求深度合成服务提供者制定和公开管理规则、平台公约，完善服务协议，依法依约履行信息安全管理责任。发现违法和不良信息的，依法采取处置措施，保存有关记录，及时向有关主管部门报告。

（四）促进智能技术健康有序发展，引领相关信息产业落地应用。《规定》的发布进一步提升了我国网络空间信息安全治理能力，引导以深度学习为主的新兴智能技术健康发展，有效促进围绕音频、视频、图像和文本的多模态人工智能算法在应用管理方面的积极探索。随着深度合成技术应用的普及和发展，深度合成检测技术也将顺势而来，通过深度合成与检测的技术演练与应用对抗，能促进构建良性迭代的深度合成信息服务生态，共同推动新兴人工智能技术应用落地。

二、界定各方责任要求，构建深度合成服务治理体系

《规定》明确各方在深度合成活动全流程的主体责任，在《互联网信息服务算法推荐管理规定》已有规定基础上，明确指导性极强的生成合成标识方法，要求完善管理制度和技术保障措施。

（一）明确义务要求，强化主体责任。《规定》分析梳理了深度合成活动边界，明确了深度合成技术定义，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定，如深度合成服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。同时，《规定》对具有舆论属性或者社会动员能力的深度合成服务提供者提出了更严格的监管要求。

（二）监管针对性强，涵盖技术管理要求。《规定》针对利用生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息，明确了算法备案、安全评估、显著标识等强制性要求及适用情形，如规定深度合成服务提供者和技术支持者若生成或编辑生物识别信息，必须进行算法安全评估。此外，《规定》针对各类生成合成技术应用，还提出要加强制度建设、技术保障措施安全可控、制定和公开管理规则、完善服务协议、建立健全辟谣机制等要求。

（三）细化标识规则，明确具体规范要求。《规定》对《互联网信息服务算法推荐管理规定》关于生成合成类算法标识相关要求作出细化，明确采取技术措施添加不影响用户使用的标识，如可能导致混淆或者误认的，还应当在合理位置、区域进行显著标识等要求，规定任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。

三、强化支撑体系建设，推动深度合成治理走深向实

随着数字化、智能化进程的加快，互联网信息服务综合治理不断细化、深入，规范深度合成活动对营造健康安全的网络空间和加强社会治理有着重要意义。为推动《规定》落实，下一步建议加强如下工作：

一是强化智能监管平台支撑。加大科技攻关力度，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设。加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台。研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。紧密结合国际前沿，建设自主可控的深度合成算法安全应用体系与技术生态。

二是强化人工智能安全评估支撑。抓紧建立深度合成安全评估机制，组织研究制定深度合成安全评估相关标准规范，基于《规定》要求和深度合成类算法机制机理特点，对评估流程、方法、内容等制定规定，明确提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当进行安全评估。组建专业队伍对相关深度合成服务提供者和技术支持者评估情况进行检查，以评促建，完善行业标准，加强行业自律，加快推进深度合成服务规范化。

三是加强科普宣贯工作支撑。配合国家人工智能算法综合治理工作部署，面向互联网企业、重点行业企业和相关管理部门等进行《规定》的宣贯培训，督促企业提升深度合成技术服务水平；推进多模态人工智能相关学科研究全面开展，培育高层次人才，鼓励相关科研机构、高校与企业建立广泛合作机制；加强科普教育，提升音视图文多媒体深度合成技术透明度，引导社会各界积极参与社会监督，共同推进深度合成服务综合治理，强化多方治理成效。

作者：徐波 中国科学院自动化研究所所长