Administrator
Published on 2026-08-27 / 4 Visits
0
0

加州 AB 1651 AI 披露:高风险认证需要两套账

加州 AB 1651 给州律师协会设置了一项边界很窄的 AI 披露义务。它真正值得迁移的地方,是把两个经常混在一起的问题拆开:结果是否经过有效核验,以及承担机构背书的材料是否交代了 AI 来源。前者适合记入日常生产账,后者需要在高风险认证节点单独记账。

证据核验日期:2026 年 8 月 27 日。本文明确区分已生效法条与据此抽象的工程框架,不构成法律意见。

核心结论

  • 加州州长 Gavin Newsom 于 2026 年 8 月 22 日签署 AB 1651,新增条款从 2028 年 1 月 1 日起实施。
  • 法案只覆盖加州律师协会自行开发或明确指示开发的特定考试和备考内容。
  • 正式考试使用 AI 生成内容,需要在考试前 60 天通过官网披露;官方备考材料需要在封面披露。
  • 自然人后续修改或审核,不会解除披露义务。
  • 这是一部针对州律师协会的来源披露法,并非面向所有加州企业的通用 AI 披露规则。已签署文本也没有写入明确罚款或私人诉权。
  • 企业可以把其中的控制逻辑抽象成两套记录:Practice Ledger 证明日常工作经过核验并有人负责,Gate Ledger 证明认证材料的 AI 来源与披露决定经得起审计。

AB 1651 实际规定了什么

法案在加州《商业与职业法典》中新增第 6060.15 条,覆盖普通律师资格考试、一年级法学生考试和律师考试。它规定的义务相当具体。

控制问题 已签署法案的答案
受约束主体 加州律师协会
内容范围 由协会开发,或在协会明确指示下开发的内容
考试资产 考题、实务技能测试、答案、评分规则,以及考试开发或管理中使用的相关内容
备考资产 样题、练习题、范文、精选答案、大纲、解析及协会制作、发布、背书或分发的其他材料
AI 生成内容定义 全部或部分由生成式 AI 产生的视觉或文本内容
人工复核是否豁免 不豁免,后续自然人修改或审核均不改变披露义务
正式考试披露 相关考试开始前 60 天发布在协会官网
备考材料披露 放在材料封面
实施日期 2028 年 1 月 1 日

加州已经存在一项更宽泛的通知规则。自 2026 年 1 月 1 日生效的《商业与职业法典》第 6046.6(e) 条要求,考试委员会在使用 AI 出题或评分时提供通知。AB 1651 从 2028 年起为受覆盖的州律师协会内容补上操作细节:官网披露提前 60 天,备考材料在封面披露,并明确规定人工复核不会抹掉触发项。

这套规则允许使用 AI,同时要求保留来源透明度。法案还给义务设置了明确的知识边界。参议院司法委员会审议时,加州律师协会提出:对于外部机构自行开发、协会无法观察内部流程的材料,协会无法可靠判断是否使用 AI。随后修正案把范围收窄到协会开发或明确指示开发的内容。

这个修正很关键。制度要求主体对可控制的生产链做出证明,而不是要求它猜测不可见的上游过程。披露义务由此从一句宽泛承诺,变成可以建立证据链的控制项。

已签署条款没有写明罚款、专门执法程序或私人诉权。法定义务依然存在,具体的证据保存、异常升级和发布门控则需要实施主体另行设计。

2025 年事故里有两条证据链

AB 1651 的直接背景是 2025 年 2 月加州律师考试。参议院司法委员会分析记录:171 道计分多选题中,有 23 道由 ACS Ventures 借助 AI 开发;这项使用事前没有报告给考试委员会、加州最高法院或公众。

加州州审计随后解释了 29 道与 23 道两种口径。ACS Ventures 使用开源生成式 AI 开发了实际上卷的 200 道题中的 29 道,其中 23 道进入最终 171 道计分题。审计发现,这 29 道 AI 题中有 45% 被标记存在统计表现问题,21% 被移出计分。审计同时明确,使用 AI 本身不构成固有问题。关键缺陷发生在治理层:开发周期仓促、合同保障不足、专家审查薄弱、供应商职责集中,重要决定也没有升级到治理机构。

加州最高法院随后批准了分数补救措施,同时明确表示,法院仍然关切考题开发流程,包括此前未披露的 AI 使用。法院要求 2025 年 7 月多选题恢复使用全美多州律师考试题库,并等待相关审计结果。

同一场考试还发生了大范围交付故障。加州律师协会 2025 年年报记录了技术、环境、监考和组织问题,随后采取退费、费用减免、补贴、分数补救和招生部门重组。2026 年 7 月,负责考试执行的 Meazure Learning 同意支付 525 万美元,并放弃 136 万美元未付发票,以解决协会提起的考试管理诉讼。

两组事实需要分开归因:

证据链 能证明什么 不能证明什么
考题开发记录、立法分析、法院材料 部分计分题使用了 AI,且此前没有披露 AI 导致考试平台和监考系统故障
考试事故记录、Meazure 和解 考试交付出现广泛故障,并产生补救成本 Meazure 制作了那 23 道 AI 题目

把它们揉在一起,会得到更戏剧化、也更脆弱的因果叙事。拆开之后,制度问题反而更清楚:内容来源与交付可靠性都重要,两者需要各自独立的验证接口。

两套账分别回答什么

一个是否使用 AI 的字段,无法同时承担质量、责任和来源治理。高风险工作流里至少存在两种承诺。

第一种承诺面向结果:最终产物经过核验、错误得到纠正、责任人理解并接受剩余风险。第二种承诺面向机构背书:用于授予资格、证明能力或代表官方立场的材料,按照规定的方法生产,并在需要时披露 AI 介入。

Practice Ledger:日常生产的核验账

Practice Ledger 服务于日常工作,核心问题是:组织能否证明这个结果适合投入使用?

字段 需要留下的证据
工作项与最终版本 记录与发布产物之间的稳定关联
AI 系统与参与范围 哪个系统参与了哪一类任务
来源边界 可使用的输入、禁止输入的数据和权威依据
核验方法 测试、查源、复算、同伴审查或其他能实际发现错误的检查
修正与未决例外 AI 输出与可靠证据出现偏差的位置
最终批准人 理解结果并承担责任的人

加州律师协会 2026 年生成式 AI 执业指引与这套逻辑一致。指引要求律师审查、验证和修正 AI 的输入与输出,并明确专业判断始终由律师承担。真正有效的控制需要记录核验如何发现错误,单独一个已人工审核字段信息量太低。

Gate Ledger:认证节点的来源账

Gate Ledger 服务于承担机构权威的节点,核心问题是:组织能否证明认证材料如何产生,并依照适用规则完成来源披露?

字段 需要留下的证据
Gate 与受控资产 考试、审计包、模型卡、官方评测、招聘测评或其他认证节点
AI 政策模式 禁止使用、允许使用并核验、允许使用并披露
AI 参与范围 生成、改写、评估、评分、翻译或格式处理
披露触发项与规则版本 为什么需要披露,以及使用哪一天的规则判断
发布载体与截止时间 官网、封面、申报文件、报告或发布说明
机构签署 哪个角色批准披露和发布
留存证据 输入来源、版本号、核验材料、披露文案和线上发布证明

AB 1651 只要求特定州律师协会内容完成公开披露,并没有规定这张表。Gate Ledger 是从法案逻辑中抽象出的工程模式:人工核验可以提高质量,但不会自动改写内容来源。

人工复核为什么需要同时出现在两套账里

人在回路经常把多种控制压缩成一句口号。实际工作中,审核者可能只读了一遍,也可能完成了查源、复算、修改、签字和披露审批。这些动作产生的证据强度完全不同。

一条完整的人审链路至少包含:

  1. 阅读输出;
  2. 依据权威材料核验事实;
  3. 重放计算、测试或推理;
  4. 修正产物;
  5. 承担专业责任;
  6. 审批适用的来源披露。

后五项才会形成可执行证据,而且仍然分别回答不同问题。核验决定产物是否可靠,责任记录决定谁承担结果,披露记录保留认证节点要求的来源历史。

AB 1651 把这种分离写得很清楚:人工修改和审核能够改善考题,却无法取消披露触发项。2026 年执业指引补上了日常生产的另一半:专业判断无法委派,核验强度需要足以支撑最终责任。

双账模型由此避开两个常见捷径:

  • 只有披露:能够说明用过 AI,却无法证明结果可靠。
  • 只有签字:只有核验方法足够具体时,签字才能证明真正承担责任;单独存在的来源披露义务仍需处理。

一套可以直接执行的发布闸门

分类对象应该是产物,而不是岗位。同一个人上午可能写日常备忘录,下午则发布代表机构立场的模型评测,两种工作需要不同的控制强度。

发布前依次执行:

  1. 分类产物。 判断它属于日常生产、认证节点,还是同时属于两者。
  2. 绑定规则版本。 记录本次判断采用的政策和法律时间快照。
  3. 记录 AI 参与。 留下系统、任务、实质程度和上游未知项。
  4. 完成独立核验。 使用查源、复算、测试、同伴审查或受控对照,确保检查本身能够失败。
  5. 明确责任主体。 批准人需要理解产物及剩余不确定性。
  6. 判断披露。 即使核验通过,也要单独检查 Gate 的披露触发项。
  7. 发布并验收披露。 检查真实官网、封面、申报文件或最终发布物。
  8. 对账。 Gate Ledger 中每项 AI 使用声明都应能下钻到 Practice Ledger 的核验证据。Practice Ledger 记录了高风险 AI 参与、Gate 却没有对应判断时,发布流程应自动阻断。

这套框架与已有两类控制互补:欧盟 AI 法案第 50 条的证据合同处理提供者与部署者之间的交接,关闭拦截仍保留日志处理执行策略变化后的证据留存。双账模型关注的是另一条边界:日常生产与机构认证之间如何切换控制模式。

常见问题

AB 1651 禁止在加州律师考试中使用 AI 吗?

法案允许使用 AI,同时对规定范围内的州律师协会内容设置披露义务。其他法律、采购合同或内部政策可能另行限制使用方式。

AB 1651 适用于所有加州企业吗?

不适用。第 6060.15 条约束加州律师协会及特定考试、备考内容。本文的企业双账框架属于工程化推演,并非法条范围。

人工审核后还需要披露吗?

需要。已签署文本明确规定,自然人后续修改或审核不会解除披露义务。

第三方供应商制作的材料是否属于披露范围?

最终范围取决于控制关系,而不是供应商身份。供应商在州律师协会明确指示下开发的内容属于覆盖范围。修正后的文本避免要求协会对完全独立开发、内部过程不可见的材料做出无证据声明。

第 6060.15 条从什么时候开始实施?

州长于 2026 年 8 月 22 日签署法案,第 6060.15 条从 2028 年 1 月 1 日起实施。

企业应该为 AI 辅助的认证材料记录什么?

最小记录包括受控资产、AI 参与范围、适用规则、核验证据、批准人、披露判断、发布载体、截止时间,以及披露确实出现在最终产物中的验收证明。

参考资料


Comment