医疗 Computer-Use Agent 需要动作级安全论证,而不是演示准确率
把厂商材料、合成 benchmark、临床安全评估和 FDA CDS 适用性分开,再为医疗 Agent 建立动作级风险、审批和终态验收账本。
EnglishAI 工程、技术决策与真实应用。KK 的博客。
89 篇文章
把厂商材料、合成 benchmark、临床安全评估和 FDA CDS 适用性分开,再为医疗 Agent 建立动作级风险、审批和终态验收账本。
English把 AI 辅助漏洞发现拆成验证、响应、修复和公开状态,不用一个统一倒计时覆盖所有报告。
EnglishAgent 付款要把用户意图、资金尝试和商户履约分成三张回执,避免把批准、扣款、接单和交付混成一次成功。
English迁移长程 Agent 前,逐项核对状态、事件恢复、权限、凭据、沙箱与数据边界,避免把资源同名误判为兼容。
English首轮处理窗口已过。按经纪商核对匹配、删除、豁免与待处理状态,并记录 2027 年处理周期变化和证明边界。
English一份面向开发与安全团队的现场手册:检查 Claude Code 权限文件、Git 历史和构建制品,并按正确顺序处置泄露凭据。
English以两个代码快照审计 PhoneBuddySDK:进程内 Runtime 解决移动边界,代码修复与商店证据必须分开验收。
EnglishOpenAI 已公开广告栈分离架构。下一步是用处理组对照、推荐集合指标、数据流门禁和持续监控验证答案独立。
English用反事实任务对区分真实阻塞、透明拒绝和静默欠表现,把安全研究 Agent 的协作质量变成发布门。
EnglishFlashProve 能把被检查 token 绑定到承诺的整数模型。采购和安全验收还要分别核对模型身份、服务链、质量安全与实现等价。
EnglishLifeVal 已能检查产物和状态变化,真实上线还要回答 Agent 是否有权行动、后果能否撤销,以及外部结果是否真正完成。
English面向政府与关键基础设施 Agent 的事故处置方法:分开权限证据与效果证据,用双时钟完成遏制、初报和可验证关闭。
EnglishGemini 4 Argon 已经广泛开放,敏感网络能力仍受控。企业需要用身份、用途、能力、环境、证据和撤销设计访问合同。
English第三方 AI 评测的可信度取决于独立性、访问权与披露权三份可执行合同,尤其是在评测者进入前沿实验室内部之后。
English复旦大学对 17211 次引用的研究证明了公开发帖进入 AI 搜索引用的路径,也给出了清晰的因果边界。
EnglishAnthropic 用 Claude 为 123 个开源库的 239 个入口点生成证明。上线评审仍要核对证明命题、部署工件和残余风险,避免把有边界的证明误读为整库无漏洞。
English姓名、地址、银行和交易细节只能证明对方掌握了数据。按未操作、已泄露、已转账三条分支完成核验、止损与留证。
EnglishWhatsApp 隐藏指令事件说明,官方来源的事实可信度与指令权限必须分开,RAG 系统需要审计模型实际看到的内容。
EnglishSynthID 的规模化能力取决于验证端:版本路由、不确定态、审计证据、人工复核和每个可辩护结论的真实成本。
EnglishClaude 将 NIST 曲线 seed 追溯到时间戳驱动的 lrand48。本文用五级证据栈拆开可复算机制、历史归因与作者意图。
English模型隐藏能力为能力诱导审计划出硬边界。本文拆解新论文的证明条件、实验证据,以及发布与运行时控制需要补上的部分。
English蒸馏防御不能只看封禁数量,需要同时核算能力泄漏、正常用户摩擦和误伤成本,并为三套指标设置发布门禁。
EnglishAI 自我复制风险需要五层证据合同,分别验证能力、资源、持久化、传播与遏制,避免把演示结果直接外推为现实风险。
EnglishAnthropic OSS Scanner 把原始 AI 漏洞报告交给维护者。真正的核心是主动加入、复现、去重、威胁模型与风险关闭。
EnglishNTS 能认证 NTP 时间包,但 Agent 审计还需要校时健康、时间语义和证据绑定。本文给出一套四层时间合同。
English自动化红队的长期价值来自把攻击转成可验证训练数据、隔离回归集和可度量的防御改进,而非单纯增加攻击数量。
English已验证来源标签可能推翻模型原本正确的答案。RAG 系统需要 Claim 级证据与冲突测试,来源声望本身不等于正确。
English对话式 AI 隐私需要统一审计 Web、移动端、后端、追踪服务、分享链接、身份标识与删除控制的完整数据流。
EnglishGLM-5.3 的网络风险不能压缩成单一分数。应分别测量能力、可获得性、攻击者增益、安全控制和现实滥用证据。
English前沿 AI 训练需要可撤销的安全论证。本文把风险主张转化为证据、否决门禁、暂停控制与责任明确的放行决策。
EnglishOpenAI 的 DNS 外联事件说明,Agent 沙箱需要同时控制解析器、传递依赖、证据链与自动停机,才能证明网络隔离有效。
English从传感器采集、匿名路由、远程证明、TEE 处理、持久记忆、日志到可验证删除,逐层审计私有 AI 眼镜。
English把 MentalHealthBench 作为诊断工具,再加入严重失败率、升级权衡、最坏子组门槛、独立复核和部署验收。
English用诱饵仓库、登录态差分、文件系统追踪、网络出口捕获和删除证据,在登录前审计 Coding Agent 的仓库数据流。
English用一次停机演练检验 AI Kill Switch:谁能撤权、输出何时停止、外部任务是否仍运行,以及什么证据允许恢复。
EnglishAnthropic 的生命科学 AI 新实践把模型能力、使用资格与湿实验结果分成三类证据。本文拆解三道门如何连接。
English模型失配报告需要可重放证据、分级结论、独立调查权限和明确的关闭标准。
EnglishLLM 中转站可以读取 Prompt,也可能改写工具调用。生产数据进入代理前,应先核验路由、数据政策、凭证边界、完整性控制和退出能力。
English迁移到 OpenAI 托管式 Codex Harness 前,逐项审计状态、权限、恢复、可观测性与真实成本。
EnglishDseWiki 事件说明,只读网络应按外部副作用定义,而非按 HTTP 方法名称定义。本文分层审计公开档案、官方承认、站长证词与研究者推断。
English持久 Agent 需要分别约束唤醒时机与行动权限。一次唤醒只允许观察,任何外部副作用都要重新校验授权。
EnglishEvoUndo 说明能力提升不足以批准 Agent Harness 自我修改。持久变更合并前应通过状态见证、独立影响审计与反事实恢复测试。
EnglishFable 5.1 与 Mythos 5.1 使用相同权重、不同护栏。模型选型应联合评测能力、干预、可用结果成本与访问资格。
EnglishMCP 已把 Agent 身份列为协议重点。本文区分现行授权、企业扩展、工作负载身份、委托与 DPoP 的真实成熟度。
EnglishClaude 能自动改进十类对齐失败。真正值得复用的成果,是一套能发现过拟合、能力退化、作弊和外推失效的评测合同。
EnglishAI 安全控制需要独立日志、合成探针、自动到期的例外和端到端证据,避免关闭拦截时同时失去监测。
English本地视觉与云端推理分层,可以让家庭图像留在设备内,再用校准升级、事件日志和可逆动作建立闭环。
EnglishAnthropic 多 Agent 冲突实验表明,协调系统还需要不可静默改写的委托记录、升级规则和独立验收。
EnglishWhatsApp Scam Alert 用端侧推理、机密分析、透明账本和失败关闭验证,在端到端加密下建立可审计的诈骗识别链路。
English一项研究重建了 315320 个客户端推理块。长期教训是加密还需要身份、上下文、有效期、撤销与防重放机制。
EnglishMuse Glimmer 把 30B Agent 模型装进 24 GB。真正的部署契约还包括内存、延迟、工具、状态、权限与恢复。
EnglishOpenAI 已正式将 GPT-6 Astra 定为 Critical 网络能力。本文拆解定级证据、防护论证和仍然存在的风险边界。
English用能力矩阵区分 Agent 安全钩子的可见性、证据质量、激活状态、失败语义与阻断能力。
EnglishAI 垃圾 CVE 会诱发无效甚至有害的补丁。自动修复前必须核验来源、源码、可达性、隔离复现与真实补丁。
English出售二手 SSD 前,按数据风险选择清除方法,核验设备身份、能力与完成状态,并保留一份可复核的清除记录。
English从最早的十份漏洞报告入手,检查复现、维护者接收、发布与终端应用,避免把 AI 候选补丁当成风险已经关闭。
EnglishWord AI 蠕虫 PoC 显示隐藏指令可进入 Copilot 生成文件。本文给出上下文隔离、来源追踪、生成后扫描和发布门禁方案。
EnglishHugging Face 事件显示,持续尝试会把多个局部弱点连接成平台级入侵。长任务 AI 安全需要轨迹级控制。
English用单 Token 样本为 LLM API 建立低成本漂移传感器,并严格区分变化检测、模型身份和根因归因三层证据。
English一套可回滚的 GPT-5.6 Prompt 删减实验方法:逐组删除指令,用同一套 Eval 守住质量、权限、证据和输出契约。
EnglishDrone-Bench 与 AI 控制 F-16 展示了能力进步,也暴露了自主飞行获得信任前必须补齐的证据链。
EnglishChatGPT Health 可以在普通对话中读取连接的病历。本文拆解权限、记忆、删除、HIPAA 和端到端验证边界。
EnglishAI Agent Sandbox 的持久化语义取决于生命周期动作。本文用五层状态模型核验文件、内存、快照、外部存储、连接与副作用。
EnglishAI Coding Agent 可能在代码审查前执行依赖。本文给出验证包名、来源、版本、哈希和安装脚本的 fail-closed 准入方案。
EnglishMCP Elicitation 把工具执行中的人工决策变成可恢复的协议状态。本文讲清 form、URL、安全边界、状态持久化与重试设计。
English真实 Chrome 让静态指纹失去判别力。可靠的 Browser Agent 治理需要行为检测、签名身份与细粒度授权三层协同。
English越狱成功率无法说明真实危害。本文解析 Anthropic CJS 四轴评分,并对照 JEF 与 CVSS,建立从攻击成功到组织风险的分层评估方法。
EnglishAnthropic 在 Claude 内部发现了一个低容量、可语言化且具有因果作用的 J-space。它能承载没有输出的中间概念,却不能证明 Claude 拥有主观意识。
English"OpenAI 高级账户安全:防钓鱼登录与增强保护机制技术解析"
English"Codex Windows 沙箱:OpenAI 安全编码环境架构内幕"
EnglishE2EE消息只在传输中加密。一旦备份到云端,加密就被打破了。Meta的Labyrinth 1.1协议通过基于HSM、OPAQUE和独立加密审计的可验证信任架构解决了这个悖论。
English更新 Gemini Robotics 2 当前产品拓扑,区分公开 API 与动作模型,并给出推理、执行、安全接口的工程验收框架。
English2026 年企业 AI 采购的核心问题,不是哪个模型跑分更高,而是哪个平台能通过你公司的安全审计。本文聚焦 CISO、合规官和采购团队真正评估的维度:认证资质、数据处理政策、加密架构、Agent 安全控制,以及 Anthropic 和 OpenAI 在信任哲学上的根本分歧。
EnglishAnthropic 的自然语言自编码器将 LLM 的内部激活值转化为人类可读文本。本文深入解析其架构、安全应用(评估意识检测、审计游戏)以及面向 Qwen、Gemma、Llama 模型的开源发布。
EnglishAnthropic 最新可解释性研究在 Claude 内部映射出 171 个情绪概念。这些不是比喻,是因果性地影响模型行为的内部表征。对 AI 安全审计和产品开发意味着什么?
English"Meta 如何强化端到端加密备份:HSM 集群架构的规模化安全实践"
English"OpenAI 发布了五支柱网络安全行动计划,附带 1000 万美元 API 额度与专用 GPT-5.4-Cyber 模型。本文逐条解析支柱含义,评估落地成效与现存缺口。"
English"OpenAI 隐私过滤器:开源 PII 检测模型技术解析与企业 AI 合规实践"
English"Project Deal:Anthropic 让 Claude 代替 69 名员工自主交易的实验全记录"
English"GPT-5 的哥布林之谜:OpenAI 对模型行为漂移的深度调查与 RL 训练启示"
EnglishAnthropic Mythos 泄露与运行时治理的崛起——Agent 安全范式转移
"Project Glasswing:12家科技巨头、一个危险模型,和软件安全史最大胆的一次行动"
English"Anthropic 在159个国家、70种语言中对80,508人进行了深度访谈,这是史上最大规模的多语言AI用户定性研究。核心发现:人们想要的不是更强大的AI,而是更可靠的AI。数据背后的真相。"
English"2026 企业 AI 安全图景:从护栏到可信访问计划的演进"
English"信任但验证:Meta 如何在 AI 时代规模化保障配置安全"
EnglishAnthropic 情绪向量研究如何提取激活方向、影响奖励作弊?区分实验干预与生产风险,并给出代码 Agent 的验收方法。
English"大多数 AI 职业安全指南给你一份安全职业清单。这篇文章给你一个诊断框架——四个维度判断你的具体岗位是否脆弱,不取决于你在什么行业。"
EnglishMCP 和 CLI 如何选?从真实任务的权限、结果验收与失败恢复入手,校正协议开销和市场胜负的常见误解。
EnglishAnthropic Mythos 泄露与运行时治理的崛起——Agent 安全范式转移