互联网信息服务深度合成管理规定思维导图

应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

互联网信息服务深度合成管理规定

总则

1.立法目的和依据

2.适用范围

在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务）

3.主管机关

4.原则

遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善

5.行业自律、业务规范

一般规定

6. 禁止行为

一般禁止行为

虚假新闻及新闻转载的特殊规定

依法转载互联网新闻信息稿源单位发布的新闻信息

7. 信息安全主体责任

建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。

8. 依法依约履行管理责任

制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务

9.深度合成服务使用者真实身份信息认证

10.内容管理责任

加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核

建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志

发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施

11.辟谣机制及保存记录、报告义务

12. 用户申诉、公众投诉、举报机制

13.互联网应用商店等应用程序分发平台的安全管理责任

应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施

数据和技术管理规范

14. 数据安全及个人信息保护

训练数据管理

提供人脸、人声等生物识别信息编辑功能的提示、告知、单独同意

15.技术管理

加强技术管理，定期审核、评估、验证生成合成类算法机制机理

自行或委托安全评估

（一）生成或者编辑人脸、人声等生物识别信息的； （二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

16. 标识及日志保存

信息内容应添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息

17.显著标识

应当显著标识的情况

1、可能导致公众混淆或者误认的， 2、应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况； 3、生成或显著改变信息内容功能的五种情况 （一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务； （二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务； （三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务； （四）沉浸式拟真场景等生成或者编辑服务； （五）其他具有生成或者显著改变信息内容功能的服务。

应当提供显著标识功能并提示使用者可显著标识的情况

18.不得采用技术手段删除、篡改、隐匿标识及显著标识

监督检查与法律责任

19.具有舆论属性或者社会动员能力的深度合成服务提供者、技术支持者的备案、变更、注销备案、公示

按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

20.具有舆论属性或者社会动员能力的新产品、新应用、新功能的安全评估

21.监督检查

监督检查部门及配合、支持、协助义务

对存在较大信息安全风险的可采取的措施——暂停信息更新、用户账号注册或者其他相关服务等措施

22.行政与治安、刑事责任

附则

23.定义

深度合成技术

利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术

深度合成服务提供者

深度合成服务技术支持者

深度合成服务使用者

训练数据

被用于训练机器学习模型的标注或者基准数据集

沉浸式拟真场景

应用深度合成技术生成或者编辑的、可供参与者体验或者互动的、具有高度真实感的虚拟场景

24.同时从事网络出版服务、网络文化活动和网络视听节目服务的多头管理

25.实施日期

2023年1月10日