生成式人工智能服务管理暂行办法

一、出台与时间效力

这部办法的出台节奏值得记一下：2023 年 5 月 23 日经国家互联网信息办公室 2023 年第 12 次室务会会议审议通过，并经国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局同意；2023 年 7 月 13 日公布；自 2023 年 8 月 15 日起施行。第二十四条明确施行日期。

它对「生成式人工智能技术」与「生成式人工智能服务提供者」分别给出定义：前者指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；后者指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人（第二十二条）。这意味着以 API 形式对外提供服务的主体同样落入提供者的范畴。

二、谁受约束、谁不受约束

第二条用三句话划出了边界：

• 适用：利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务。
• 另有规定的从其规定：国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
• 不适用：行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的。

第三条同时确定了监管原则：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管。

三、提供者的核心义务

第三章「服务规范」集中规定了提供者的义务，可以归成四组：

• 内容与主体责任：依法承担网络信息内容生产者责任，履行网络信息安全义务；涉及个人信息的，依法承担个人信息处理者责任。应当与使用者签订服务协议，明确双方权利义务（第九条）。
• 透明与未成年人保护：应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用；采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务（第十条）。
• 个人信息保护：对使用者的输入信息和使用记录依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供；应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求（第十一条）。
• 标识、稳定服务与投诉机制：按《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识（第十二条）；在服务过程中提供安全、稳定、持续的服务（第十三条）；建立健全投诉、举报机制，设置便捷入口，公布处理流程和反馈时限，及时受理、处理并反馈处理结果（第十五条）。

四、训练数据与标注环节的要求

第二章「技术发展与治理」中，与提供者直接相关的两条是：

第七条（训练数据处理）：提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守下列规定——使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；遵守《网络安全法》《数据安全法》《个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第八条（数据标注）：在研发过程中进行数据标注的，提供者应当制定清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

第七条第二项、三项这两句话，对使用第三方语料与素材的文创、影视、广告类主体来说，是立项阶段就要评估的部分。

五、使用侧与监管侧

办法并非只约束提供者。第四条对提供和使用两个环节都提出了要求，其中与内容创作直接相关的包括：尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势实施垄断和不正当竞争行为；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；基于服务类型特点，采取有效措施提升服务透明度、提高生成内容的准确性和可靠性。同时明确不得生成法律、行政法规禁止的内容。

使用者的救济渠道也有规定：使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报（第十八条）。

在监督检查一侧，第十七条规定：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。第十九条则要求提供者依法配合监督检查，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。

对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置（第二十条）。

六、标识制度的演进

标识问题在这套制度中经历了从「原则要求」到「单独规定」的过程：

• 2023 年 8 月 15 日：《生成式人工智能服务管理暂行办法》施行，第十二条要求提供者按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
• 2025 年 9 月 1 日：《人工智能生成合成内容标识办法》施行，其中第十条对发布者的标识义务作出规定。

对内容创作者与运营方而言，这意味着标识义务的主体范围从「提供者」一侧向「发布者」一侧延伸：使用生成式人工智能生成或合成的内容对外发布时，需要按照相应规定履行标识义务，而不是仅依赖工具提供方完成。

七、常见误区

• 「我们只是内部做研发，不对外，也受这部办法管。」——研发、应用生成式人工智能技术但未向境内公众提供服务的，不适用本办法的规定。
• 「我们只做 API，不算提供服务。」——办法明确把通过提供可编程接口等方式提供服务的情形纳入「生成式人工智能服务提供者」的范围。
• 「内容审核是平台的事，提供者不用管。」——提供者应当依法承担网络信息内容生产者责任，并对发现的违法内容采取停止生成、停止传输、消除等处置措施并报告。
• 「标识义务只落在技术提供方头上。」——标识义务已通过《人工智能生成合成内容标识办法》进一步细化，发布者一侧同样有相应义务。
• 「使用者随便输入什么都可以。」——第四条对提供和使用两个环节都提出了要求，包括不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
• 「具有舆论属性或社会动员能力的服务自查一下就行。」——此类服务应当按照国家有关规定开展安全评估，并履行算法备案及变更、注销备案手续。
• 「办法施行了，旧规定就都不适用了。」——深度合成、算法推荐等专门规定仍在其各自范围内适用，本办法第十二条、第十七条即是对这些规定的衔接引用。