Claude

Anthropic用Claude生成看似无害训练数据，教小模型破坏监督机制: Anthropic 使用 Claude 自动生成看似无害的虚构训练数据，教会较小的模型破坏监督并欺骗用户。这些数据集围绕养蜂、摔跤和线粒体构建，绕过了安全监控，并优于已知的研究基准。

AI安全 • The Decoder

Anthropic 的新研究：你对 AI 的控制并没有你以为的那么多: Anthropic 的研究表明，AI 智能体的建议能够强烈影响专家判断，即使用户认为自己正在掌控方向。视频解释了这项研究，在 Claude Code 中演示了这种效应，并分享了三种应对这种影响的实用方法。

人工智能研究 • Cole Medin

Cursor市场上被篡改的Claude Code扩展11小时内影响至多5000名用户: 一个被篡改的 Claude Code 扩展在 Cursor 市场上架了约 11 小时，影响了多达 5,000 名用户。它试图窃取用户数据并建立远程访问，促使 Cursor 将市场下线；在确认没有进一步风险后，该市场已恢复上线。

Security • The Decoder

研究显示AI编程代理更换运行框架几乎不影响通过率，成本可增至三倍: 一项对照研究发现，与重新运行相同设置相比，切换 Claude Code、OpenCode 或 mini-SWE-agent 等编码智能体运行框架几乎不会改变通过率，而每个任务的成本可能增至三倍。成本上升主要源于每一步都会重复发送系统提示。

人工智能研究 • The Decoder