网络安全检测|网络安全服务|网络安全扫描-香港墨客投资移动版

《互联网信息服务深度合成管理规定》（下文简称为《规定》）于2022年11月25日发布，标志着深度合成服务成为了我国算法治理中率先专门立法的算法服务类型。中共中央印发的《法治社会建设实施纲要（2020—2025年）》中提出完善网络信息服务方面的法律法规，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。近年来，深度合成技术应用广泛、形式多样，在影视、传媒、教育等领域有大量应用形式，可实现特效制作、元宇宙场景、虚拟仿真教学等功能。随着各类商业化产品普及，深度合成的信息内容也在网络上大量涌现，越来越多的社会公众接触到了深度合成技术。《规定》确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。

一、规范深度合成服务的重要意义

深度合成服务是生成合成类算法的应用服务，属于我国《互联网信息服务算法推荐管理规定》中规定的生成合成类、排序精选类、检索过滤类、个性化推送类、调度决策类算法推荐服务中的一种。深度合成技术应用领域十分广泛，可以被用来生成和编辑文本、生成音乐、合成人声，如代替人创作诗歌和撰写词曲，自动生成伴奏音乐与合成歌声等。深度合成技术也可以被用来进行人脸生成、人脸替换、人脸操控，可被用来制作电影特效，或者生成以假乱真的人物视频。深度合成技术还可被用来进行图像生成、图像增强等，如2021年被广泛关注的FacePlay应用，只需要用户上传一张人脸照片，就可以生成不同服装场景的图片和视频。深度合成技术也极大地丰富了虚拟数字空间的信息内容，为更加多样化的传播行为提供了可能性。2021年10月，脸书宣布更名为“Meta”即元宇宙，即是利用深度合成技术创建虚拟世界，用户可以通过现实头戴设备与其他用户实现互动。

随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。深度合成技术诞生之初，由于技术的不成熟，尚存在合成的视频中人物微表情不自然、图像边缘有锯齿等明显痕迹。但近年来在网络传播的深度合成视频内容，人物动作的逼真度、自然度，以及视频整体的清晰度、流畅度都可以达到以假乱真的水平，用户已经难以鉴别。

深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。如将深度合成技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

由此可见，深度合成技术的快速发展为数字时代发展带来了令人期待的可能性，但也带来了令人担忧的巨大风险。习近平总书记指出，“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。”规范和引导利用深度合成技术提供的互联网信息服务，最大限度地保护公民、企业合法权益，维护国家安全、政治稳定与社会公共秩序，促进技术向上向善造福社会，成为了立法立规的紧迫任务。

二、构建深度合成服务安全监管制度

《规定》共分为五章，分别从总则、一般规定、数据技术管理规范、监督检查与法律责任、附则等部分，构建了深度合成服务的安全监管制度。在中华人民共和国境内应用深度合成技术提供互联网信息服务的，适用本规定。

《规定》注重保障互联网信息内容安全，特别是新闻信息安全。规章对深度合成服务提供者提出了明确的要求。一是深度合成服务提供者要落实信息安全主体责任，加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，一旦发现违法和不良信息，应当依法采取处置措施；二是针对深度合成信息内容的特殊性，深度合成服务提供者应当建立健全辟谣机制，并设置便捷的用户申诉和公众投诉、举报入口；三是深度合成服务提供者要履行对服务使用者的管理义务，包括进行真实身份认证，保证用户实名使用深度合成服务，以及提示服务使用者落实个人信息保护要求等。