2023年7月10日，欧博abg国家互联网信息办公室（“网信办”）等七部门联合发布了《生成式人工智能服务管理暂行办法》（“《暂行办法》”），旨在促进生成式人工智能行业健康发展和服务的规范安全应用。《暂行办法》将于2023年8月15日正式生效，是监管生成式人工智能这一突飞猛进的业务领域的重要规定。本文将对《暂行办法》的关键性条款进行解读，并提出我们对该业务的观察与阐释。

背景介绍

随着生成式人工智能技术和产品进入市场，该技术将引领未来经济生产力的深刻革命。在生成式人工智能产品风靡的数月内，全球监管机构纷纷加快了监管步伐，颁布规则以限制公司和个人在日常运营中使用生成式人工智能服务的。许多司法辖区出台了一系列旨在规范生成式人工智能创作的指导意见草案，引发了激烈的政策辩论。

同其他国家一样，中国在人工智能和算法治理方面一直非常积极，甚至远早于近期的生成式人工智能监管浪潮。2021年9月，多个监管部门联合发布了一份政策声明，承诺三年内建立互联网信息服务算法应用的监管框架。同年，由网信办牵头的多部委联合发布了一项基于算法的在线推荐技术的规定（即《互联网信息服务算法推荐管理规定》），该规定涵盖了向个人用户进行推送、推广和内容排序在内的广泛的在线服务。

基于此，政府又于2022年9月发布了针对深度合成技术应用管理的规定（《互联网信息服务深度合成管理规定》），以监管自动生成音频、视觉和文本内容的深度合成技术。除了监管人工智能和算法的具体规定外，《个人信息保护法》《数据安全法》和《网络安全法》这三大法律也构成了生成式人工智能监管框架的重要基础。

继推荐算法和深度合成技术的管理规定出台后，此次有关生成式人工智能的监管措施是政府针对特定人工智能技术的第三次尝试。网信办在今年早些时候发布了《生成式人工智能服务管理办法（征求意见稿）》（“《征求意见稿》”，更多我们对《征求意见稿》的解读请点击这里），最终公布的《暂行办法》放宽了一些监管要求。以下我们将解读《暂行办法》的适用范围，以及有关研究与创新、内容管理、信息披露与透明度、培训、问责、权利保护以及行政许可和责任等方面的关键条款。

关键条款与解读

I.《暂行办法》的适用范围

第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。

《暂行办法》在两项例外情况下不适用：

国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。这项豁免表明，相关部门可以加强在各自领域内对生成式人工智能服务的管理。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，欧博官网不适用《暂行办法》的规定。这一例外情况表明，以下两种情况下《暂行办法》可能不适用：

如果海外组织和个人(“服务提供者”)只向中国以外的用户提供生成式人工智能服务，则无须遵守《暂行办法》。然而，如果生成式人工智能服务向中国公众提供，则《暂行办法》即适用，网信办将通知其他部门采取技术措施和其他必要措施，以应对海外服务提供者的不合规行为。

如果服务提供者仅从事生成式人工智能的开发，而并非向公众提供服务，则不适用《暂行办法》。然而，《暂行办法》对“公众”一词的解释尚不明确。

使用生成式人工智能提供内容生成服务的服务提供者需对使用该产品生成的内容负责。值得注意的是，通过应用程序编程接口（API）向公众提供内容生成服务的公司也将被视为服务提供者。这可能意味着，即使没有运营生成式人工智能服务，但提供通过API访问此类服务的服务提供者，也将适用《暂行办法》的规定。

II. 对生成式人工智能发展的鼓励

与《征求意见稿》相比，最终版本更加关注产业发展和监管之间的平衡，而不仅仅是对该技术的限制。

《暂行办法》的第五条和第六条明确表示中国支持生成式人工智能领域的创新和国际合作，特别是在算法、框架、芯片和支持软件平台等基础技术方面。《暂行办法》还强调采用安全可信的芯片、工具、数据资源等。

在对生成式人工智能技术的监管方面，《暂行办法》强调基于生成式人工智能服务的“分类”和“分级”进行监管（第三条）。然而，中国目前尚未建立覆盖不同级别人工智能的治理体系，目前尚不清楚中国是否将采取类似于欧盟人工智能监管体系中风险导向的治理方法。

III. 内容治理

《暂行办法》要求服务提供者对生成式人工智能生成的内容负责，包括确保该内容符合：

中国的法律、法规、政治结构、道德价值观和社会经济秩序；

不具有歧视性；并且

准确真实。

如果生成了不符合规定的内容，服务提供者必须防止生成此类内容、停止传播或优化训练模型，并报告给主管部门。

服务提供者还需要在内容中显著标注生成式人工智能相关信息，以向公众告知。

IV. 公开透明

《暂行办法》提出服务提供者需要响应监管部门要求，提供可能影响最终用户信任和选择的必要信息，例如训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。

此外，服务提供者必须公开生成式人工智能服务的目标用户群、应用场景和目的。

V. 人工智能训练

《暂行办法》规定了训练生成式人工智能模型的具体合规要求，包括：

合法数据来源：服务提供者需对用于训练生成式人工智能的数据来源的合法性负责，包括确保数据不侵犯知识产权、符合网络安全和个人信息保护法律法规、增强训练数据的真实性、准确性、客观性、多样性；服务提供者应使用来源合法的数据和基础模型；数据包含个人信息的情况下，除非法律法规明确允许或个人信息主体已同意，否则不得将个人信息用于训练生成式人工智能模型。

人工标注：服务提供者必须制定明确、具体、可操作的标注规则，对标注人员进行培训，并通过抽样核验标注内容的准确性。

防止歧视：在设计算法、选择训练数据集、生成和优化模型以及提供服务时，服务提供者必须采取措施，防止生成基于民族、信仰、国别、地域、性别、年龄、职业、健康等因素的歧视性内容。

VI. 政府评估、备案和伦理审查

《暂行办法》要求，如果生成式人工智能服务具有舆论属性或社会动员能力的，在向公众提供该类生成式人工智能服务前，服务提供者应当申请安全评估和完成算法备案，这两项工作均由国家网信办负责监督和协调。国家网信办对于推荐算法也采取了同样的要求。

虽然《征求意见稿》没有明确论及伦理问题，但中国政府也打算加强对技术的伦理审查。中央政府于2022年发布的《关于加强科技伦理治理的意见》指出，人工智能是政府在制定法律、法规、标准和指南时重点关注的三大关键领域之一。此外，我们也注意到，近期公布的《科技伦理审查办法（试行）（征求意见稿）》也要求，对于涉及数据和算法的科技活动，应审查其安全性、公平性、透明度、可靠性和可控性。

VII. 规范生成式人工智能服务的使用

服务提供者必须通过以下方式管理服务的使用：

采取措施防止未成年用户过度依赖或沉迷于服务；

引导用户科学理性认识和依法使用生成式人工智能服务；以及

如发现用户违反法律法规、商业道德或社会公德，暂停或终止向其提供服务等。

值得注意的是，《征求意见稿》要求用户提供真实身份信息，最终版本删除了该条款。

VIII. 权利保护

服务提供者应当公平竞争，尊重他人合法权利，包括不侵犯他人肖像权、名誉权、隐私权、个人信息权益、商业秘密等。特别是，《暂行办法》要求服务提供者保护用户的输入信息和使用记录，按照最小必要原则收集和存储个人信息，建立公众投诉和请求处理机制，并及时受理和处理个人提出的更正、删除或补充个人信息的请求。

服务提供者还应当与注册其服务的生成式人工智能服务使用者（即用户）签订服务协议，以区分明晰各自的权利和义务。

IX. 行政许可与外商投资

《暂行办法》规定，如适用，服务提供者需要获得相应的行政许可。当前并无专门针对生成式人工智能创设的行政许可。如有需要，服务提供者可以关注互联网信息服务许可/备案、公安联网备案、网络文化经营许可证、网络出版服务许可证、信息网络传播视听节目许可证等许可项目。

此外，外商投资人工智能生成服务时应遵守相关法律法规。目前，我们尚未发现任何现行法律法规就人工智能的外商投资要求做出规定。

X. 违法责任

《征求意见稿》规定，如果服务提供者限期拒不改正或违法情节严重的，除责令暂停或终止其人工智能生成服务外，还可处以最高10万元人民币的罚款。然而，最终版本删除了有关罚款的规定。

因此，对服务提供者违反《暂行办法》的行为，将依据《个人信息保护法》《网络安全法》《数据安全法》《科学技术进步法》以及其他治安管理和刑事法律进行处罚。由此可见，《暂行办法》规定的处罚并没有超出现行法律法规所规定的范围。

结语

除了明确表示政府支持人工智能的发展之外，《暂行办法》还对人工智能的内容管理、数据隐私和安全以及透明度等方面规定了全面的义务。值得注意的是，《暂行办法》是在此前的深度合成和算法管理规定的基础上制定的，代表了中国数据治理监管架构的另一个分支。在提供生成式人工智能服务的整个过程中，服务提供者都需要履行上述义务，并在必要时申请相关备案、评估和审查。