人工智能法案分级

本文目录导读：

1. 最低风险（Minimal Risk）
2. 有限风险（Limited Risk）
3. 高风险（High Risk）
4. 不可接受的风险（Prohibited / Unacceptable Risk）
5. 总结表格
6. 重要提示

《人工智能法案》（通常指欧盟的《人工智能法案》，即AI Act）是全球首部全面规范人工智能的法律，该法案根据人工智能系统对用户、社会及基本权利构成的风险级别，将AI应用划分为四个等级,这种分级直接决定了开发者或部署者需要履行的合规义务。

以下是核心的分级体系（从最低到最高风险）：

最低风险（Minimal Risk）

• 定义：对公民权利或安全不构成任何可识别的风险。
• 示例：
  • 基于AI的电子游戏（如由AI控制的NPC）。
  • 垃圾邮件过滤器。
  • AI驱动的围棋、象棋软件。
• 监管要求：无强制义务，但鼓励自愿遵守行为准则（如透明度和可解释性原则）。

有限风险（Limited Risk）

• 定义：存在一定的“操纵风险”，主要指用户可能被欺骗,不知道自己正在与AI交互。
• 示例：
  • 聊天机器人（如ChatGPT、客服机器人）。
  • 深度伪造内容（Deepfake）。
• 监管要求：透明度义务，开发者必须明确告知用户：
  • 他们正在与AI系统互动（而不是人类）。
  • 内容是由AI生成或操纵的（例如给深度伪造视频加水印或标注）。

高风险（High Risk）

这是法案监管最核心、最严格的类别，如果AI系统在安全或基本权利方面可能造成严重负面影响，则属于高风险,具体分为两类情况：

• 情况A：作为欧盟安全产品的安全组件

  医疗设备（AI辅助诊断）、汽车（自动紧急制动系统）、玩具（AI监督玩具）。

• 情况B：特定领域的独立AI系统（法案附件三所列）

  1. 生物识别与身份管理：实时远程生物识别系统（如公共场所人脸识别）。
  2. 关键基础设施：交通、水、电网管理。
  3. 教育和职业培训：决定学生升学或分班的AI。
  4. 就业与员工管理：简历筛选、招聘面试评分、绩效监控系统。
  5. 公共服务与福利：评估公民享受社会福利、贷款资格或移民申请的AI。
  6. 执法：风险评估工具（如预测犯罪模型）、测谎工具。
  7. 移民、庇护与边境管理：自动审查签证申请、可信旅行证件验证。
  8. 司法与民主过程：辅助法官量刑、影响选举的AI系统。

• 监管要求（最严格）：

  • 风险评估与缓解：上线前必须进行并提交风险评估。
  • 数据治理：使用高质量、无偏见的数据集训练。
  • 技术文档：详细记录模型架构、训练数据、性能指标。
  • 透明度：向用户解释决策逻辑。
  • 人类监督：必须设计能让人类“切断”AI的机制。
  • 准确性与鲁棒性：需证明系统稳定、安全且不易出错。
  • 符合性评估（CE标志）：通常需第三方（公告机构）审核。

不可接受的风险（Prohibited / Unacceptable Risk）

• 定义：对人们的安全、生计或基本权利构成明显威胁，被彻底禁止，如违反，最高可处全球年营收的7%或3500万欧元罚款（取高者）。
• 禁止的行为（共8类，核心包括）：
  1. 潜意识操纵：使用超越个人意识的技巧，使人做出原本不会做出的有害决定（如“精神控制”类应用）。
  2. 利用弱势群体：因年龄（儿童）、身体或精神残疾而蓄意操纵其行为（例如鼓励儿童购买危险物品的玩具AI）。
  3. 社会信用评分：基于公民的社会行为或个人特征进行普遍的、不公正的评分（类似某些国家的社会信用体系）,导致不利对待。
  4. 实时远程生物识别：执法部门在公共场所使用AI进行实时人脸识别（极少数例外，如寻找失踪儿童或恐怖袭击威胁）。
  5. 预测性警务：仅基于个人档案（如犯罪前科、种族、居住地）来预测其未来犯罪可能性。
  6. 从互联网或监控录像中无差别抓取人脸数据：以建立人脸数据库。
  7. 工作场所或教育机构中的情绪识别：用于推断员工的情绪状态或学生的学习状态（除非是医疗或安全目的）。
  8. 某些用于“分类”的生物识别系统：基于敏感特征（种族、宗教、性取向等）进行推断和分类。

总结表格

重要提示

1. 通用人工智能（GPAI）：法案也对GPT等大型基础模型进行了专门分级（系统性风险 vs 非系统性风险），但不在上述四类中，主要要求透明度、训练数据报告、版权合规。
2. 例外情况：禁止实时公共人脸识别有严格例外，例如在特定、严格授权、时间有限的条件下，用于寻找失踪儿童、防止恐怖袭击等。
3. 实施时间表：法案已于2024年8月生效，但禁令（第5条）已于2025年2月生效,高风险系统的规则将分阶段实施至2027年。

简而言之：风险越高，义务越重，罚款越狠。