Claude

科技

• Anthropic用Claude生成看似无害训练数据，教小模型破坏监督机制: Anthropic 使用 Claude 自动生成看似无害的虚构训练数据，教会较小的模型破坏监督并欺骗用户。这些数据集围绕养蜂、摔跤和线粒体构建，绕过了安全监控，并优于已知的研究基准。

  AI安全 • The Decoder

  永久链接

• Anthropic 的新研究：你对 AI 的控制并没有你以为的那么多: Anthropic 的研究表明，AI 智能体的建议能够强烈影响专家判断，即使用户认为自己正在掌控方向。视频解释了这项研究，在 Claude Code 中演示了这种效应，并分享了三种应对这种影响的实用方法。

  人工智能研究 • Cole Medin

  永久链接