生成式人工智能服务安全基本要求》（征求意见稿）要点解读

《生成式人工智能服务安全基本要求》（征求意见稿）要点解读

近日，全国信息安全标准化技术委员会发布了《生成式人工智能服务安全基本要求》（征求意见稿）（以下简称 "《基本要求草案》"） ¹。这是中国首个专门针对生成式人工智能提出具体安全要求的国家标准，《基本要求草案》一旦正式颁布，将可用于指引企业遵守《生成式人工智能服务管理暂行办法》（ "《暂行办法》"）的要求。

《基本要求草案》就生成式人工智能服务面临的语料安全、模型安全、安全措施、安全评估、备案申请等安全问题提供了基本的指引。对此，我们结合中国现有的人工智能治理法律框架、相关领域的司法实践以及我们实务中的经验，在后文中详细探讨这些要求。

一、现有法律框架概述

目前，中国尚未制定专门的人工智能法。人工智能领域的监管规则分散在多个法律（例如《个人信息保护法》（ "《个保法》"）、《数据安全法》和《网络安全法》）、法规、政策和标准中。

国家网信办和其他部门已发布了以下三个规定来规范人工智能服务。这些规定虽有不同主题，但也存在重叠：

• 2021年的《互联网信息服务算法推荐管理规定》；
• 2022年的《互联网信息服务深度合成管理规定》；
• 2023年的《生成式人工智能服务管理暂行办法》。

此外，其他领域的一些规定也深刻影响着中国人工智能行业，例如：

• 《关于加强科技伦理治理的意见》；
• 《科技伦理审查办法》；
• 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。

二、《基本要求草案》的范围