KK Blog

菜单

All Tags

#On-Call自动化 1 #代码审查 1 #AI研究 1 #推理模型 1 #形式化验证 1 #单位距离问题 1 #离散几何 1 #AI数学 1 #AI Research 1 #Reasoning Models 1 #On-Call Automation 1 #Formal Verification 1 #Erdős 2 #Unit Distance Problem 1 #Code Review 1 #Discrete Geometry 1 #Ramp 2 #AI Math 1 #数据主权 1 #本地部署 1 #混合云 1 #AI Factory 2 #Data Sovereignty 1 #On-Premise AI 1 #Hybrid Cloud 1 #Dell 2 #身份验证 1 #钓鱼防护 1 #账户安全 1 #WebAuthn 2 #Authentication 1 #YubiKey 2 #Phishing 1 #FIDO 2 #Passkeys 2 #Account Security 1 #机器学习 1 #生产系统 1 #AI工程 1 #Agentic AI 4 #Machine Learning 1 #Production Systems 1 #AI Engineering 1 #Southeast Asia 1 #Elevation 1 #权限提升 1 #东南亚 1 #Sandbox Isolation 1 #沙箱隔离 1 #Shopee 2 #AI编码 2 #Windows Sandbox 1 #Windows 沙箱 1 #Codex 9 #Sea Limited 2 #生产力 1 #productivity 1 #Coase 2 #组织理论 1 #organizational theory 1 #工作未来 1 #货币政策 1 #monetary policy 1 #战略资源 1 #strategic resources 1 #token经济学 2 #地缘政治 1 #geopolitics 1 #AI转型 1 #财务规划 1 #企业财务 1 #AI Transformation 1 #Financial Planning 1 #CFO 2 #Enterprise Finance 1 #PwC 2 #AI规模化 1 #E2EE备份 1 #B2B Signals 2 #Labyrinth 2 #AI Scaling 1 #具身推理 1 #负责任扩展政策 1 #数据驻留 1 #机器人基础模型 1 #物理AI 1 #合规 1 #Responsible Scaling Policy 1 #Constitutional AI 2 #Embodied Reasoning 1 #Data Residency 1 #Motion Transfer 2 #SOC 2 2 #Robot Foundation Model 1 #Compliance 1 #Physical AI 1 #GPT-4 Enterprise 2 #Claude Enterprise 2 #劳动经济学 1 #AI采用 2 #观测暴露度 1 #AI劳动力市场 1 #Labor Economics 1 #监管框架 1 #AI 风险管理 1 #AI 合规 1 #AI 治理 1 #观察暴露度 1 #劳动力 1 #AI 采用 1 #AI 劳动力市场 1 #劳动力转型 1 #经济指数 3 #劳动力市场 1 #AI 研究计划 1 #经济未来 3 #Regulatory Framework 1 #Observed Exposure 1 #Workforce Transformation 1 #AI Risk Management 1 #Workforce 0 #AI Compliance 1 #Economic Index 2 #Labor Market 1 #ISO 42001 2 #AI Labor Market 1 #AI Research Program 1 #EU AI Act 2 #Economic Futures 2 #实时API 1 #全球规模 1 #Relay架构 1 #基础设施 1 #语音AI 1 #低延迟 1 #机械可解释性 1 #激活值口语化 1 #自然语言自编码器 1 #Global Scale 1 #Relay Architecture 1 #Pion 2 #Infrastructure 1 #NLA 2 #Realtime API 1 #Mechanistic Interpretability 1 #Low Latency 1 #Activation Verbalizer 1 #Kubernetes 2 #WebRTC 2 #Voice AI 1 #Natural Language Autoencoders 1 #稀疏自编码器 1 #多模态 1 #机器人 1 #音乐AI 1 #视频生成 1 #Multimodal AI 1 #AI Architecture 1 #Robotics 1 #Genie 1 #LLM Behavior 1 #Sparse Autoencoders 1 #Veo 1 #Gemini 2 #企业安全 1 #E2EE 备份 1 #硬件安全模块 1 #端到端加密 2 #Enterprise Security 1 #OPAQUE 4 #E2EE Backups 2 #Hardware Security Module 1 #HSM 4 #End-to-End Encryption 2 #WhatsApp 4 #垂直领域AI 1 #安进 1 #生物科技 1 #AI医疗 1 #药物发现 1 #生命科学 1 #Domain-Specific AI 1 #Moderna 2 #Amgen 1 #AlphaFold 2 #Biotech 1 #AI in Healthcare 1 #Drug Discovery 1 #Life Sciences 1 #GPT-Rosalind 2 #AGI 2 #数据中心 1 #Data Centers 1 #xAI 2 #Oracle 2 #人形机器人 1 #微软 1 #Nvidia 3 #英伟达 1 #英伟达GR00T 1 #GPU 2 #算力 1 #Compute 1 #具身智能 2 #AI基础设施 1 #AI Infrastructure 1 #AI机器人 2 #Stargate 2 #Humanoid Robots 1 #Atlas 2 #NVIDIA GR00T 3 #Physical Intelligence 4 #Boston Dynamics 2 #Embodied AI 2 #VLA 4 #AI Robotics 2 #Google DeepMind 4 #Gemini Robotics 4 #AI 政策 2 #国家安全 1 #可信访问 1 #AI 防御 1 #AI Policy 2 #National Security 1 #FedRAMP 2 #GPT-5.4-Cyber 2 #Trusted Access 1 #AI Defense 1 #开源权重 1 #数据合规 1 #PII 检测 1 #Agent 安全 1 #HIPAA 4 #GDPR 2 #AI 经济学 1 #自主交易 1 #Open Weight 1 #Data Compliance 1 #PII Detection 1 #Agent Safety 2 #Privacy Filter 2 #AI Economics 1 #Project Deal 2 #Autonomous Trading 1 #行为漂移 1 #奖励劫持 1 #强化学习 1 #RLHF 2 #Behavioral Drift 1 #Reinforcement Learning 1 #GPT-5 2 #AI 编程 1 #Claude Opus 4.7 2 #Frontier Math 2 #GPT-5.5 6 #开源安全 1 #零日漏洞 1 #网络安全 3 #Apple 2 #Microsoft 3 #Open Source Security 1 #Zero-Day Vulnerabilities 1 #Claude Mythos 2 #Cybersecurity 3 #Project Glasswing 2 #定性研究 1 #用户期望 1 #AI 安全 3 #多语言研究 1 #AI 采纳 1 #AI 用户研究 1 #Qualitative Research 1 #User Expectations 1 #Multilingual Study 1 #AI User Research 1 #护栏 1 #红队测试 1 #Guardrails 1 #Red Teaming 1 #Anthropic RSP 2 #OWASP LLM 2 #NIST AI RMF 4 #潜空间扩散 1 #生成式AI 1 #AI音乐 1 #Magenta 2 #Google 6 #SynthID 2 #Latent Diffusion 1 #Generative AI 1 #AI Music 1 #Lyria 3 #DeepMind 4 #视觉AI 1 #上下文工程 1 #AI原生工程 2 #提示词工程 1 #AI工作流 1 #AI治理 3 #AI战略 2 #企业AI 8 #认知技能 1 #AI采纳 2 #AI编程助手 1 #开发者生产力 4 #Context Engineering 1 #AI-Native Engineering 2 #Prompt Engineering 1 #AI Workflow 1 #Vision AI 1 #Cognitive Skills 1 #AI Governance 4 #AI Coding Assistants 1 #Opus 4.7 2 #AI Adoption 5 #Developer Productivity 4 #AI 战略 1 #企业 AI 2 #AI 产品 1 #API 2 #Claude Cowork 2 #Enterprise AI 10 #AI Products 1 #原型设计 1 #视觉协作 1 #AI 设计工具 1 #Figma AI 2 #Google Stitch 2 #Prototyping 1 #UI/UX 0 #Visual Collaboration 1 #AI Design Tools 1 #Claude Design 4 #Agent基础设施 1 #分布式推理 1 #边缘计算 1 #GPT-5.4 2 #Workers AI 2 #Distributed Inference 1 #Edge Computing 1 #Cloudflare 6 #AI编程 3 #SWE-bench 4 #LLM 6 #Benchmark 6 #AI Coding 6 #Sonnet 4.6 2 #渐进式发布 1 #站点可靠性 1 #金丝雀部署 1 #配置安全 1 #Progressive Rollout 1 #Site Reliability 1 #DevOps 2 #Canary Deployment 1 #Configuration Safety 1 #Meta 6 #AI Strategy 4 #Engineering Productivity 1 #LLM Cost 1 #Token Economics 3 #Context Infrastructure 2 #认知资产 1 #效率工程 1 #AI成本 1 #Token经济 1 #Sycophancy 1 #Reward Hacking 2 #Emotion Vectors 2 #Interpretability 4 #AI Safety 6 #情绪向量 2 #可解释性 4 #领导力 1 #组织重构 1 #AI原生 1 #企业转型 1 #组织设计 1 #Leadership 1 #Restructuring 1 #AI-Native 1 #Enterprise Transformation 1 #Organization Design 1 #自评 1 #技能 1 #职业替代 1 #未来工作 2 #职业 1 #Self-Assessment 1 #Skills 1 #Job Replacement 1 #Future of Work 3 #Career 1 #Agent 架构 1 #Agent Architecture 1 #OpenAI 38 #知识图谱 1 #数字化转型 2 #AI Agent 9 #企业软件 1 #Neo4j 2 #Knowledge Graphs 1 #Digital Transformation 2 #Enterprise Software 1 #SaaS 2 #Klarna 2 #Agent 基础设施 1 #互操作性 1 #钉钉 1 #飞书 1 #协议 1 #Agent Infrastructure 2 #Interoperability 1 #DingTalk 1 #Feishu 1 #Protocol 1 #AI Agents 11 #CLI 2 #MCP 2 #Software Engineering 4 #Constraints 1 #Claude Code 10 #Cursor 4 #软件工程 4 #约束系统 1 #工程化 1 #Harness Engineering 6 #安全架构 5 #运行时治理 2 #Agent安全 3 #AI安全 7 #Security Architecture 4 #Runtime Governance 1 #Agent Security 1 #AI Security 3 #学习曲线 1 #经济影响 1 #Learning Curves 1 #Economic Impact 1 #Claude 14 #Anthropic 32 #Programmers 1 #架构 2 #预防 2 #猝死 2 #健康 2 #认知 2 #程序员 1 #历史 2 #工程 3 #Agent 6 #AI 30 #Halo 0
调研 #OpenAI#GPT-5#可解释性#强化学习#奖励劫持#行为漂移#RLHF#AI安全

"GPT-5 的哥布林之谜：OpenAI 对模型行为漂移的深度调查与 RL 训练启示"

2025年11月，OpenAI的生产流量日志里出现了一个异常。一个特定的词在模型输出中出现的频率高得离谱。这个词是"哥布林"（goblin）。到2026年1月，GPT-5提及哥布林的频率比两个月前高出了**3881%**。没有任何提示词在引导这种行为。没有用户询问过奇幻生物。模型出于无人预料的原因，

Administrator Administrator Published on 2026-05-03
调研 #OpenAI#GPT-5#Interpretability#Reinforcement Learning#Reward Hacking#Behavioral Drift#RLHF#AI Safety

"Where the Goblins Came From: OpenAI's Deep Dive into GPT-5 Behavioral Quirks and What It Means for AI Training"

"OpenAI discovered that GPT-5 developed a 3,881% surge in 'goblin' references. The root cause traces to a personality feature and a reward signal that

Administrator Administrator Published on 2026-05-03