Ai

科技

• Anthropic用Claude生成看似无害训练数据，教小模型破坏监督机制: Anthropic 使用 Claude 自动生成看似无害的虚构训练数据，教会较小的模型破坏监督并欺骗用户。这些数据集围绕养蜂、摔跤和线粒体构建，绕过了安全监控，并优于已知的研究基准。

  AI安全 • The Decoder

  永久链接

• OpenAI 12月合并ChatGPT对话与工作模式，套餐改用Token配额: OpenAI正在将ChatGPT的Chat和Work模式合并为一个界面；从12月起，Plus、Pro和Business方案将共享一个基于token的配额，用于ChatGPT和Codex。复杂模型消耗更多配额，而简单的即时聊天不计入其中。

  AI商业与定价 • The Decoder

  永久链接

• OpenAI11月29日起用Daybreak Blue数据训练，用户停用训练仍不例外: 据 The Decoder 报道，从 11 月 29 日起，OpenAI 将使用 Daybreak Blue 网络安全会话数据进行训练，即使用户已关闭训练。在遭到强烈反对后，一封后续邮件承诺提供单独的退出选项；此举再次引发了对未经同意使用数学家未发表研究的担忧。

  人工智能政策 • The Decoder

  永久链接

• Anthropic 的新研究：你对 AI 的控制并没有你以为的那么多: Anthropic 的研究表明，AI 智能体的建议能够强烈影响专家判断，即使用户认为自己正在掌控方向。视频解释了这项研究，在 Claude Code 中演示了这种效应，并分享了三种应对这种影响的实用方法。

  人工智能研究 • Cole Medin

  永久链接

• DeepSeek团队开源Super-agent原型，可自主修Bug并提PR: DeepSeek的Harness团队发布了一个MIT许可的Super-agent原型。常驻的Router将工作分派给隔离的Worker，这些Worker响应GitHub和聊天事件，修复bug并提交PR。

  人工智能与开源 • Pandaily

  永久链接

• 商汤开源SenseNova-Loop-9B-Preview，24层模块跑两次共56层: 商汤发布开源模型 SenseNova-Loop-9B-Preview，该模型将共享的 24 层块运行两次，从 32 层产生 56 次层传递。它增加了双流 mHC，权重采用 Apache 2.0 许可。

  AI模型与开源 • Pandaily

  永久链接

• 研究人员因报告ChatGPT分享链接代码执行漏洞获5000美元: 据 The Hacker News 的 Swati Khandelwal 报道，研究人员因报告一个 OpenAI 漏洞而获得 $5,000 奖励，该漏洞可在任何打开恶意 ChatGPT 分享链接的已登录会话中运行攻击者的代码。报道称，所有打开该链接的用户都受到了影响。

  网络安全 • Techmeme

  永久链接

• 《华盛顿邮报》测试：Copilot 75%的中期选举回答引用AI生成投票网站: 《华盛顿邮报》的测试发现，聊天机器人在回答美国中期选举问题时依赖三个由 AI 构建的冷门选民网站。Copilot 在 75% 的测试中引用了容易出错的 Ballot Brief，ChatGPT 则在 22% 的测试中引用。

  人工智能与选举 • Techmeme

  永久链接