大多数企业现在同时在至少三个 AI 治理框架下运营:EU AI Act(强制)、NIST AI RMF(自愿但事实上被期望)和 ISO 42001(自愿但越来越多地被采购方要求)。这些框架之间的重叠是实质性的。分歧在于执行力、术语和范围。而它们中任何一个所要求的与企业实际实施的之间的差距,就是风险所在。
这不是又一个框架提案。这是对当前框架格局为什么让企业暴露于风险中的分析,以及统一的治理架构在实践中长什么样。
当前格局:三个框架,一个问题
EU 人工智能法案
EU AI Act(法规 2024/1689)在生效时成为全球首个综合性 AI 监管法规。其基于风险的分类体系将 AI 系统分为四个层级:禁止的做法、高风险系统、有限风险系统和最小风险系统。
高风险系统(包括用于招聘、信用评估、执法和关键基础设施的 AI)面临最严格的要求:合规评估、技术文档、人类监督机制和持续监控。高风险系统的完整合规框架于 2026 年 8 月生效。
一个关键细节:该法案适用于任何在欧盟市场投放 AI 系统或以影响欧盟公民的方式部署 AI 的组织。这种域外管辖意味着欧盟以外的公司如果服务欧盟客户也必须合规。2026 年 5 月的简化协议被一些组织解读为监管放松,但正如多位法律分析师指出的,合规截止日期仍然具有约束力,执行机制正在强化。
NIST AI 风险管理框架
NIST AI RMF 于 2023 年 1 月发布,提供了一个围绕四个功能组织的自愿框架:治理(Govern)、映射(Map)、测量(Measure)和管理(Manage)。它旨在帮助组织在整个系统生命周期中识别、评估和管理 AI 风险。
在实践中,NIST 框架已经成为美国企业的事实标准。联邦机构越来越多地要求承包商采用 NIST 对齐的 AI 风险管理。企业采购团队在供应商评估中引用它。即使没有正式采用它的组织也发现他们的 AI 治理工作趋向于其结构。
2024 年的生成式 AI 配置文件(NIST-AI-600-1)将框架扩展到涵盖生成式 AI 特定的风险,2026 年 4 月关键基础设施 AI 信任配置文件的概念说明标志着持续的扩展。
ISO/IEC 42001
ISO 42001 于 2023 年 12 月发布,是首个 AI 管理系统(AIMS)国际标准。它遵循其他 ISO 管理体系标准(如信息安全领域的 ISO 27001)所使用的 Plan-Do-Check-Act 结构。
关键区别:ISO 42001 认证的是组织拥有正确的结构和流程。这是管理系统审计,不是产品审计。EU AI Act 按系统逐个评估合规,要求根据风险分类和组织角色进行校准。NIST 管理组织层面的风险管理。
重叠与分歧
框架之间的重叠实质上大于分歧。这是构建统一合规计划的关键洞察。
三个框架都要求风险评估。三个框架都涉及人类监督。三个框架都要求 AI 系统属性的文档化。这种趋同不是巧合。这些要求反映了每个主要框架已经收敛到的负责任 AI 治理的基础要素。
一个适当文档化的人类监督控制,可以同时满足 EU AI Act 第 14 条和第 22 条、NIST AI RMF MAP-3.5 和 MEASURE-3.2,以及 ISO 42001 附件 B 的 B.3 和 B.4 节。这就是基于控制的合规架构所提供的:一个控制,满足多个框架条款。
分歧主要在范围和义务方面。EU AI Act 是用例和角色特定的。合规按系统逐个评估。NIST 管理组织级风险管理。ISO 认证管理系统。一个组织可能在 EU AI Act 下同时是提供者和部署者,对不同系统承担不同义务。在 NIST 下,组织风险管理流程覆盖所有 AI 系统。在 ISO 下,管理系统认证适用于整个组织。
义务也不同。EU AI Act 合规对范围内的组织是强制性的,有重大罚款。NIST AI RMF 是自愿的但在美国市场事实上被期望。ISO 42001 是自愿的但越来越多地被企业采购团队要求。
治理缺口:为什么框架不够
2026 年最重大的治理挑战是现有框架没有设计来解决的问题:在现实世界中采取行动的自主 AI Agent。
EU AI Act 在 Agent AI 系统爆发之前就谈判完成了。它的风险类别假设的是辅助人类决策的 AI 系统,而不是独立做出和执行决策的系统。NIST 的 AI RMF 同样侧重于 AI 预测和建议的风险管理,而不是自主多步骤行动的风险管理。
这个治理缺口产生了三个紧迫的挑战。
责任归属问题
当一个 AI Agent 自主执行一个造成损害的多步骤工作流时,归责是不清楚的。是模型提供商、Agent 框架开发者、部署组织还是终端用户?现有法律框架假设有一个人在决策环中。Agent 系统越来越多地在没有人的情况下运作。
清单问题
大多数企业严重低估了其 AI 部署的数量。治理分析引用的哈佛商业评论研究表明,平均组织使用的 AI 系统是领导层意识到的 2-3 倍。这个清单缺口意味着治理框架只覆盖了实际 AI 使用的一小部分。
问题因嵌入式 AI 的扩散而加剧。当 AI 能力内置到 SaaS 产品、企业工具和开发环境中时,员工在没有任何正式部署决策的情况下使用 AI。这些"影子 AI"系统完全落在治理框架之外。
速度问题
AI 能力演进的速度快于治理流程适应的速度。一次模型更新可能以使先前风险评估失效的方式改变系统行为。一个新的 Agent 能力可能创造出已有政策未覆盖的用例。为相对静态的软件系统设计的治理框架难以跟上 AI 变化的速度。
缺失的架构:基于控制的合规
对框架碎片化的实际响应不是另一个框架。而是一种基于控制的合规架构,将组织控制同时映射到多个框架要求。
该方法的工作方式如下:
控制清单。识别适用于 AI 系统的组织控制集(技术的、程序的和治理的)。这些包括访问控制、监控系统、文档模板、审批工作流、测试程序和升级协议。
框架映射。对每个控制,文档化它满足哪些框架要求。一个数据血缘追踪控制可能解决 EU AI Act 第 10 条(数据治理)、NIST MAP-2.1(映射数据源)和 ISO 42001 第 8.2 节(运营规划)。
差距分析。识别现有控制未覆盖的框架要求。这些差距代表合规风险。
统一文档。构建满足每个控制领域所有适用框架中最严格要求的文档。
这种方法将框架视为对同一治理问题的重叠视角,而不是独立的合规练习。它减少了重复,同时确保没有框架的独特要求被遗漏。
Agent AI 治理前沿
新加坡提出了迄今为止最先进的 Agent AI 治理框架。它包括:
Agent 身份卡:为每个 AI Agent 指定能力、限制、授权行动域和升级协议的标准化披露格式。
分级自主性层级:从"工具辅助"(0 级)到"完全自主"(4 级)的五层分类法,治理要求逐级提高。
运营方-部署方责任框架:在构建 AI Agent 平台的实体和在特定上下文中部署它的实体之间明确分配责任。
这个框架解决了 EU AI Act 和 NIST AI RMF 都没有充分覆盖的治理缺口:当 AI 系统不只是做出预测或建议,而是自主在现实世界中采取行动时会发生什么。
企业实践步骤
对于现在正在建设 AI 治理计划的组织,穿越框架格局的路径遵循一个结构化的顺序。
步骤一:进行 AI 系统清单盘点。识别组织中的每一个 AI 系统。按 EU AI Act 风险类别分类。文档化预期用途、数据源和决策范围。假设实际数量是领导层目前追踪的 2-3 倍。
步骤二:建立治理结构。指定 AI 治理负责人或委员会。定义角色和职责。按照 NIST AI RMF 治理功能将 AI 风险管理集成到现有企业风险框架中。
步骤三:构建基于控制的合规。将组织控制映射到框架要求。识别差距。优先考虑能同时满足多个框架的控制。
步骤四:填补 Agent 治理缺口。对于任何具有自主行动能力的 AI 系统,在当前框架要求之外应用额外的治理控制。考虑新加坡的分级自主性模型作为参考。
步骤五:为 2026 年 8 月做好准备。EU AI Act 高风险系统的完整合规框架届时生效。在招聘、信贷、执法或关键基础设施中部署 AI 的组织需要在截止日期前就位合规评估、技术文档和人类监督机制。
参考
- EU AI Act (法规 2024/1689): https://artificialintelligenceact.eu/
- NIST AI 风险管理框架: https://www.nist.gov/itl/ai-risk-management-framework
- NIST AI RMF Playbook: https://airc.nist.gov/airmf-resources/playbook/
- NIST 生成式 AI 配置文件: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- ISO/IEC 42001:2023: https://www.iso.org/standard/81230.html
- AI 治理与监管 2026 (Hung-Yi Chen): https://www.hungyichen.com/en/insights/ai-governance-regulatory-landscape-2026
- NIST、EU AI Act、ISO 42001 对比 (Trustible): https://trustible.ai/post/ai-governance-frameworks-compared/
- EU AI Act 合规检查器: https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
- NIST 关键基础设施 AI 信任配置文件: https://www.nist.gov/programs-projects/concept-note-ai-rmf-profile-trustworthy-ai-critical-infrastructure