中国在人工智能安全评估框架方面已经取得了重要进展,相关政策和标准正在逐步完善和落地。
可以从以下几个层面来理解：
国家层面的治理框架： 2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等七部门发布了《生成式人工智能服务管理暂行办法》，这是中国首个针对生成式AI的专门法规，自2023年8月15日起施行。 虽然它主要侧重于服务管理，但其中明确提出了对生成式AI服务进行安全评估的要求，特别是针对具有舆论属性或社会动员能力的服务,需要开展安全评估并履行算法备案手续。
专门的“安全评估”技术标准： 全国网络安全标准化技术委员会（TC260）已经发布了多项关于AI安全的标准和指南。
- 《网络安全技术 生成式人工智能服务安全基本要求》：这是目前最核心的配套技术文件，它详细规定了生成式AI服务在语料安全、模型安全、安全措施、词库/拒答库等方面的具体指标和测试要求，这相当于一个实操性的安全评估标准。
- 《人工智能安全治理框架》1.0版：2024年9月，全国网络安全标准化技术委员会正式发布了这一框架，它从技术层面的内生安全与应用层面的衍生安全两个维度，提出了安全风险防范和治理的总体思路,为各方开展安全评估提供了方法论指导。
评估流程的制度化： 根据《生成式人工智能服务管理暂行办法》，提供具有舆论属性或社会动员能力的生成式AI服务，必须按照《互联网信息服务算法推荐管理规定》进行安全评估，这一评估工作通常由属地网信办组织或委托专业机构（如中国信通院等）实施。
行业与测评机构的标准： 除了国家层面的通用标准，各大测评机构（如中国信通院）也推出了针对具体大模型产品的评测标准，覆盖内容安全、数据安全、隐私保护、鲁棒性等多个维度。
- 框架和法规已经出台（如《生成式人工智能服务管理暂行办法》和《人工智能安全治理框架》）。
- 技术评估标准也已形成（如《生成式人工智能服务安全基本要求》）。
- 具体的评估流程在对公众提供生成式AI服务时是强制性的,需要完成备案和安全评估。
如果你需要获取最新的具体文件全文或评估细则，建议使用联网搜索功能，查询“全国网络安全标准化技术委员会”官网或者“国家网信办”官网的最新发布，以获取最权威的第一手资料，随着技术发展,相关的评估细则也在不断更新中。
