KK Blog

Menu

All Tags

#恢复演练 1 #灾难恢复 1 #备份 1 #RTO 2 #RPO 2 #Git 2 #BorgBackup 2 #Restore Testing 1 #Disaster Recovery 1 #Backup 1 #OpenAI经济研究 1 #职业边界 1 #跨岗位任务 1 #AI与工作 1 #Workforce Strategy 1 #OpenAI Economic Research 1 #Occupational Boundaries 1 #Task Crossover 1 #AI and Jobs 1 #LLM评测 1 #模型量化 1 #端侧AI 1 #LLM Benchmarks 1 #MLX 2 #iPhone AI 2 #Model Quantization 1 #On-device AI 1 #1-bit LLM 2 #PrismML 2 #Bonsai 27B 2 #版权 1 #演员肖像 1 #生产审批 1 #影视制作 1 #Netflix 1 #Copyright 1 #Talent Likeness 1 #Production Approval 1 #Content Production 1 #Netflix AI Guidelines 1 #Jensen-Shannon散度 1 #AI可观测性 1 #模型验证 1 #API漂移 1 #行为指纹 1 #LLM监控 1 #Jensen-Shannon Divergence 1 #AI Observability 1 #Model Verification 1 #API Drift 1 #Behavioral Fingerprints 1 #LLM Monitoring 1 #系统提示词 1 #Prompt工程 1 #System Prompts 1 #GPT-5.6 2 #LLM评估 2 #回归测试 2 #AI Agent测试 1 #CI/CD 1 #LLM Evals 2 #Regression Testing 2 #AI Agent Testing 1 #Claude Cookbook 2 #生产就绪 1 #软件测试 1 #Agent Swarm 1 #Production Readiness 1 #Software Testing 1 #SQLite 2 #Agent Swarms 1 #minisqlite 2 #无人机安全 1 #AI飞行控制 1 #Safety Case 2 #F-16 VENOM 2 #DARPA 2 #Project Pilot 2 #Drone-Bench 2 #Drone Safety 1 #AI Flight Control 1 #Prompt优化 1 #评估器 1 #LLM优化 1 #Prompt Optimization 1 #Evaluators 1 #LLM Optimization 1 #optimize_anything 2 #GEPA 2 #数据治理 1 #健康数据隐私 1 #医疗记录 1 #Data Governance 1 #EHR 2 #Apple Health 2 #Health Data Privacy 1 #Medical Records 1 #ChatGPT Health 2 #AI运营 1 #Agent评测 1 #人工升级 1 #Agent治理 1 #多 Agent 1 #证明验证 1 #数学证明 1 #推理优化 1 #基准测试 1 #CPU性能 1 #安全 1 #快照 1 #持久化 1 #状态管理 1 #Agent Evaluation 1 #Human Escalation 1 #AI Operations 1 #Agent Governance 1 #Enterprise AI Agents 1 #OpenAI Presence 2 #AI4Math 2 #Multi-Agent Systems 1 #Proof Verification 1 #Mathematical Proofs 1 #Inference Optimization 1 #tiktoken 2 #Hugging Face 2 #Benchmarking 1 #CPU Performance 1 #GigaToken 2 #Tokenization 2 #Durable Storage 1 #Security 1 #State Management 1 #Snapshots 1 #Persistence 1 #预训练模型 1 #推理性能 1 #多语言AI 1 #模型迁移 2 #开源AI 1 #AI产业 1 #中国AI 1 #开放权重 1 #Open Source AI 1 #Kimi 2 #DeepSeek 2 #Qwen 2 #China AI 1 #Open Weights 1 #Pretrained Models 1 #Inference Performance 1 #Multilingual AI 1 #Model Migration 2 #BPE 2 #Tokenizer 2 #GitHub Copilot 2 #Gemini CLI 2 #OpenAI Codex 2 #SKILL.md 2 #Agent Skills 2 #依赖安全 1 #沙箱 2 #包管理器 1 #安装前安全 1 #软件供应链 1 #AI Coding Agent 2 #Dependency Security 1 #Sandbox 3 #Package Managers 1 #Pre-Install Security 1 #Software Supply Chain 1 #AI Coding Agents 3 #银行生产力 1 #金融AI 1 #Banker Productivity 1 #Financial AI 1 #ChatGPT 4 #Singular Bank 2 #人机协作 2 #AI信心 1 #决策 1 #批判性思维 1 #自动化偏差 1 #AI建议 1 #Human AI Collaboration 1 #AI Confidence 1 #Decision Making 1 #Critical Thinking 1 #Automation Bias 1 #AI Advice 1 #软件架构 1 #可验证性 3 #Agent可靠性 2 #领域特定语言 1 #Software Architecture 1 #Verification 3 #DSL 2 #Agent Reliability 2 #Domain-Specific Language 1 #Model Context Protocol 2 #OAuth 2 #Human in the Loop 3 #MCP Elicitation 2 #长期记忆 1 #Agent可观测性 1 #Agent记忆 1 #因果评估 1 #教育AI 1 #学习成果 1 #教师AI 1 #Browser Agent 1 #Long-Term Memory 1 #Agent Observability 1 #AI Agent Memory 1 #Causal Measurement 1 #Claude for Teachers 2 #ChatGPT for Teachers 2 #Education AI 1 #Learning Outcomes 1 #AI for Teachers 1 #Web Bot Auth 2 #FP-Agent 2 #Cloudflare Precursor 2 #Bot Detection 2 #Browser Agents 1 #LLM安全 1 #LLM Security 1 #CVSS 2 #JEF 2 #CJS 2 #Jailbreak 2 #全局工作区 1 #Global Workspace 1 #LLM Interpretability 1 #Jacobian Lens 2 #J-space 4 #超级计算机 1 #Supercomputer 1 #以太网 1 #Ethernet 1 #RDMA 2 #OCP 2 #分布式训练 1 #Distributed Training 1 #网络协议 1 #Networking 1 #MRC 2 #前沿企业 1 #Frontier Firms 1 #AI素养 1 #组织转型 2 #AI技能缺口 1 #员工技能提升 1 #AI培训 1 #AI Literacy 1 #Organizational Transformation 2 #AI Skills Gap 1 #Workforce Upskilling 1 #AI Training 1 #OpenAI Academy 2 #On-Call自动化 1 #代码审查 1 #AI研究 1 #推理模型 1 #形式化验证 2 #单位距离问题 1 #离散几何 1 #AI数学 1 #AI Research 1 #Reasoning Models 1 #On-Call Automation 1 #Formal Verification 2 #Erdős 2 #Unit Distance Problem 1 #Code Review 1 #Discrete Geometry 1 #Ramp 2 #AI Math 1 #数据主权 1 #本地部署 1 #混合云 1 #AI Factory 2 #Data Sovereignty 1 #On-Premise AI 1 #Hybrid Cloud 1 #Dell 2 #身份验证 1 #钓鱼防护 1 #账户安全 1 #WebAuthn 2 #Authentication 1 #YubiKey 2 #Phishing 1 #FIDO 2 #Passkeys 2 #Account Security 1 #机器学习 1 #生产系统 1 #AI工程 1 #Agentic AI 6 #Machine Learning 1 #Production Systems 1 #AI Engineering 1 #Southeast Asia 1 #Elevation 1 #权限提升 1 #东南亚 1 #Sandbox Isolation 1 #沙箱隔离 1 #Shopee 2 #AI编码 2 #Windows Sandbox 1 #Windows 沙箱 1 #Codex 15 #Sea Limited 2 #生产力 1 #productivity 1 #Coase 2 #组织理论 1 #organizational theory 1 #工作未来 1 #货币政策 1 #monetary policy 1 #战略资源 1 #strategic resources 1 #token经济学 2 #地缘政治 1 #geopolitics 1 #AI转型 1 #财务规划 1 #企业财务 1 #AI Transformation 1 #Financial Planning 1 #CFO 2 #Enterprise Finance 1 #PwC 2 #AI规模化 2 #E2EE备份 1 #B2B Signals 4 #Labyrinth 2 #AI Scaling 2 #具身推理 1 #负责任扩展政策 1 #数据驻留 1 #机器人基础模型 1 #物理AI 1 #合规 1 #Responsible Scaling Policy 1 #Constitutional AI 2 #Embodied Reasoning 1 #Data Residency 1 #Motion Transfer 2 #SOC 2 2 #Robot Foundation Model 1 #Compliance 1 #Physical AI 1 #GPT-4 Enterprise 2 #Claude Enterprise 2 #劳动经济学 1 #AI采用 4 #观测暴露度 1 #AI劳动力市场 1 #Labor Economics 1 #监管框架 1 #AI 风险管理 1 #AI 合规 1 #AI 治理 1 #观察暴露度 1 #劳动力 1 #AI 采用 1 #AI 劳动力市场 1 #劳动力转型 1 #经济指数 3 #劳动力市场 1 #AI 研究计划 1 #经济未来 3 #Regulatory Framework 1 #Observed Exposure 1 #Workforce Transformation 1 #AI Risk Management 1 #Workforce 0 #AI Compliance 1 #Economic Index 2 #Labor Market 1 #ISO 42001 2 #AI Labor Market 1 #AI Research Program 1 #EU AI Act 2 #Economic Futures 2 #实时API 1 #全球规模 1 #Relay架构 1 #基础设施 1 #语音AI 1 #低延迟 1 #机械可解释性 1 #激活值口语化 1 #自然语言自编码器 1 #Global Scale 1 #Relay Architecture 1 #Pion 2 #Infrastructure 1 #NLA 2 #Realtime API 1 #Mechanistic Interpretability 1 #Low Latency 1 #Activation Verbalizer 1 #Kubernetes 2 #WebRTC 2 #Voice AI 1 #Natural Language Autoencoders 1 #稀疏自编码器 1 #多模态 1 #机器人 1 #音乐AI 1 #视频生成 1 #Multimodal AI 1 #AI Architecture 1 #Robotics 1 #Genie 1 #LLM Behavior 1 #Sparse Autoencoders 1 #Veo 1 #Gemini 2 #企业安全 1 #E2EE 备份 1 #硬件安全模块 1 #端到端加密 2 #Enterprise Security 1 #OPAQUE 4 #E2EE Backups 2 #Hardware Security Module 1 #HSM 4 #End-to-End Encryption 2 #WhatsApp 4 #垂直领域AI 1 #安进 1 #生物科技 1 #AI医疗 1 #药物发现 1 #生命科学 1 #Domain-Specific AI 1 #Moderna 2 #Amgen 1 #AlphaFold 2 #Biotech 1 #AI in Healthcare 1 #Drug Discovery 1 #Life Sciences 1 #GPT-Rosalind 2 #AGI 2 #数据中心 1 #Data Centers 1 #xAI 2 #Oracle 2 #人形机器人 1 #微软 1 #Nvidia 3 #英伟达 1 #英伟达GR00T 1 #GPU 2 #算力 1 #Compute 1 #具身智能 2 #AI基础设施 2 #AI Infrastructure 2 #AI机器人 2 #Stargate 2 #Humanoid Robots 1 #Atlas 2 #NVIDIA GR00T 3 #Physical Intelligence 4 #Boston Dynamics 2 #Embodied AI 2 #VLA 4 #AI Robotics 2 #Google DeepMind 4 #Gemini Robotics 4 #AI 政策 2 #国家安全 1 #可信访问 1 #AI 防御 1 #AI Policy 2 #National Security 1 #FedRAMP 2 #GPT-5.4-Cyber 2 #Trusted Access 1 #AI Defense 1 #开源权重 1 #数据合规 1 #PII 检测 1 #Agent 安全 1 #HIPAA 6 #GDPR 2 #AI 经济学 1 #自主交易 1 #Open Weight 1 #Data Compliance 1 #PII Detection 1 #Agent Safety 2 #Privacy Filter 2 #AI Economics 1 #Project Deal 2 #Autonomous Trading 1 #行为漂移 1 #奖励劫持 1 #强化学习 1 #RLHF 2 #Behavioral Drift 1 #Reinforcement Learning 1 #GPT-5 2 #AI 编程 2 #Claude Opus 4.7 2 #Frontier Math 2 #GPT-5.5 6 #开源安全 1 #零日漏洞 1 #网络安全 3 #Apple 2 #Microsoft 3 #Open Source Security 1 #Zero-Day Vulnerabilities 1 #Claude Mythos 2 #Cybersecurity 3 #Project Glasswing 2 #定性研究 1 #用户期望 1 #AI 安全 3 #多语言研究 1 #AI 采纳 1 #AI 用户研究 1 #Qualitative Research 1 #User Expectations 1 #Multilingual Study 1 #AI User Research 1 #护栏 1 #红队测试 2 #Guardrails 1 #Red Teaming 2 #Anthropic RSP 2 #OWASP LLM 2 #NIST AI RMF 4 #潜空间扩散 1 #生成式AI 2 #AI音乐 1 #Magenta 2 #Google 6 #SynthID 2 #Latent Diffusion 1 #Generative AI 2 #AI Music 1 #Lyria 3 #DeepMind 4 #视觉AI 1 #上下文工程 1 #AI原生工程 2 #提示词工程 1 #AI工作流 1 #AI治理 4 #AI战略 2 #企业AI 12 #认知技能 1 #AI采纳 2 #AI编程助手 1 #开发者生产力 4 #Context Engineering 3 #AI-Native Engineering 2 #Prompt Engineering 2 #AI Workflow 1 #Vision AI 1 #Cognitive Skills 1 #AI Governance 5 #AI Coding Assistants 1 #Opus 4.7 2 #AI Adoption 7 #Developer Productivity 4 #AI 战略 1 #企业 AI 2 #AI 产品 1 #API 2 #Claude Cowork 2 #Enterprise AI 14 #AI Products 1 #原型设计 1 #视觉协作 1 #AI 设计工具 1 #Figma AI 2 #Google Stitch 2 #Prototyping 1 #UI/UX 0 #Visual Collaboration 1 #AI Design Tools 1 #Claude Design 4 #Agent基础设施 2 #分布式推理 1 #边缘计算 1 #GPT-5.4 2 #Workers AI 2 #Distributed Inference 1 #Edge Computing 1 #Cloudflare 6 #AI编程 4 #SWE-bench 4 #LLM 12 #Benchmark 6 #AI Coding 7 #Sonnet 4.6 2 #渐进式发布 1 #站点可靠性 1 #金丝雀部署 1 #配置安全 1 #Progressive Rollout 1 #Site Reliability 1 #DevOps 2 #Canary Deployment 1 #Configuration Safety 1 #Meta 6 #AI Strategy 5 #Engineering Productivity 1 #LLM Cost 1 #Token Economics 3 #Context Infrastructure 2 #认知资产 1 #效率工程 1 #AI成本 1 #Token经济 1 #Sycophancy 1 #Reward Hacking 4 #Emotion Vectors 2 #Interpretability 4 #AI Safety 8 #情绪向量 2 #可解释性 5 #领导力 1 #组织重构 1 #AI原生 1 #企业转型 1 #组织设计 2 #Leadership 1 #Restructuring 1 #AI-Native 1 #Enterprise Transformation 1 #Organization Design 1 #自评 1 #技能 1 #职业替代 1 #未来工作 3 #职业 1 #Self-Assessment 1 #Skills 1 #Job Replacement 1 #Future of Work 4 #Career 1 #Agent 架构 1 #Agent Architecture 1 #OpenAI 46 #知识图谱 1 #数字化转型 2 #AI Agent 17 #企业软件 1 #Neo4j 2 #Knowledge Graphs 1 #Digital Transformation 2 #Enterprise Software 1 #SaaS 2 #Klarna 2 #Agent 基础设施 1 #互操作性 1 #钉钉 1 #飞书 1 #协议 1 #Agent Infrastructure 3 #Interoperability 1 #DingTalk 1 #Feishu 1 #Protocol 1 #AI Agents 18 #CLI 2 #MCP 4 #Software Engineering 4 #Constraints 1 #Claude Code 12 #Cursor 6 #软件工程 4 #约束系统 1 #工程化 1 #Harness Engineering 14 #安全架构 5 #运行时治理 2 #Agent安全 4 #AI安全 12 #Security Architecture 4 #Runtime Governance 1 #Agent Security 2 #AI Security 6 #学习曲线 1 #经济影响 1 #Learning Curves 1 #Economic Impact 1 #Claude 16 #Anthropic 40 #Programmers 1 #架构 2 #预防 2 #猝死 2 #健康 2 #认知 2 #程序员 1 #历史 2 #工程 3 #Agent 6 #AI 30 #Halo 0
最佳实践 #LLM监控#行为指纹#API漂移#模型验证#AI可观测性#Jensen-Shannon散度#AI安全

"单 Token 行为指纹：监控 LLM API 漂移"

用单 Token 样本为 LLM API 建立低成本漂移传感器，并严格区分变化检测、模型身份和根因归因三层证据。

Administrator Administrator Published on 2026-07-26
最佳实践 #ChatGPT Health#医疗记录#健康数据隐私#HIPAA#Apple Health#AI安全#EHR#数据治理

ChatGPT Health：连接医疗数据的信任边界

ChatGPT Health 可以在普通对话中读取连接的病历。本文拆解权限、记忆、删除、HIPAA 和端到端验证边界。

Administrator Administrator Published on 2026-07-25
调研 #Browser Agent#Bot Detection#Cloudflare Precursor#FP-Agent#Web Bot Auth#AI安全

浏览器指纹失效之后：行为检测、签名身份与误伤成本

真实 Chrome 让静态指纹失去判别力。可靠的 Browser Agent 治理需要行为检测、签名身份与细粒度授权三层协同。

Administrator Administrator Published on 2026-07-19
调研 #AI安全#Jailbreak#CJS#JEF#CVSS#Anthropic#红队测试#LLM安全

一次 AI 越狱攻击有多严重：CJS、JEF 与 CVSS 评分框架解析

越狱成功率无法说明真实危害。本文解析 Anthropic CJS 四轴评分，并对照 JEF 与 CVSS，建立从攻击成功到组织风险的分层评估方法。

Administrator Administrator Published on 2026-07-18
解读 #Anthropic#Claude#J-space#Jacobian Lens#可解释性#AI安全#全局工作区

Claude 内部的隐藏工作区：J-space 如何承载没有说出口的思考

Anthropic 在 Claude 内部发现了一个低容量、可语言化且具有因果作用的 J-space。它能承载没有输出的中间概念，却不能证明 Claude 拥有主观意识。

Administrator Administrator Published on 2026-07-18
洞察 #Claude Enterprise#GPT-4 Enterprise#AI安全#企业AI#合规#SOC 2#HIPAA#Anthropic#OpenAI#数据驻留#Constitutional AI#负责任扩展政策

"Claude Enterprise vs GPT-4 Enterprise：采购团队真正需要的安全合规对比"

2026 年企业 AI 采购的核心问题，不是哪个模型跑分更高，而是哪个平台能通过你公司的安全审计。本文聚焦 CISO、合规官和采购团队真正评估的维度：认证资质、数据处理政策、加密架构、Agent 安全控制，以及 Anthropic 和 OpenAI 在信任哲学上的根本分歧。 企业 AI 市场在 20

Administrator Administrator Published on 2026-05-13
解读 #AI#Anthropic#可解释性#情绪向量#稀疏自编码器#AI安全

"LLM 里的情绪概念：Anthropic 可解释性团队发现了什么"

Anthropic 最新可解释性研究在 Claude 内部映射出 171 个情绪概念。这些不是比喻，是因果性地影响模型行为的内部表征。对 AI 安全审计和产品开发意味着什么？

Administrator Administrator Published on 2026-05-09
调研 #OpenAI#GPT-5#可解释性#强化学习#奖励劫持#行为漂移#RLHF#AI安全

"GPT-5 的哥布林之谜：OpenAI 对模型行为漂移的深度调查与 RL 训练启示"

2025年11月，OpenAI的生产流量日志里出现了一个异常。一个特定的词在模型输出中出现的频率高得离谱。这个词是"哥布林"（goblin）。到2026年1月，GPT-5提及哥布林的频率比两个月前高出了**3881%**。没有任何提示词在引导这种行为。没有用户询问过奇幻生物。模型出于无人预料的原因，

Administrator Administrator Published on 2026-05-03
调研 #AI安全#Agent安全#运行时治理#Anthropic#安全架构

Anthropic Mythos 泄露与运行时治理的崛起——Agent 安全范式转移

2026 年 3 月 27 日，Anthropic 因 CMS 配置错误泄露了约 3,000 份未发布资产。其中一份草稿描述了代号 Mythos（内部称 Capybara）的下一代模型，声称在 coding、reasoning 和 cybersecurity 上有显著进展，且在网络安全能力上"far

Administrator Administrator Published on 2026-05-03
最佳实践 #AI安全#企业AI#NIST AI RMF#OWASP LLM#Anthropic RSP#红队测试#AI治理#护栏

"2026 企业 AI 安全图景：从护栏到可信访问计划的演进"

2026年2月，一个名为CodeWall的自主AI智能体，用两个小时渗透进麦肯锡的Lilli平台，带走了4650万条聊天记录、72.8万份文件和5.7万个账户的数据。攻击面不是传统意义上的零日漏洞，而是22个未认证的API端点加上一处SQL注入：一个通过常规渗透测试的系统里藏着的漏洞。真正让这次入侵

Administrator Administrator Published on 2026-04-21
Previous Next