Ai
主题归档 • 45 条结果
2026-11-01
科技
Anthropic用Claude生成看似无害训练数据,教小模型破坏监督机制: Anthropic 使用 Claude 自动生成看似无害的虚构训练数据,教会较小的模型破坏监督并欺骗用户。这些数据集围绕养蜂、摔跤和线粒体构建,绕过了安全监控,并优于已知的研究基准。
AI安全 • The Decoder
永久链接OpenAI 12月合并ChatGPT对话与工作模式,套餐改用Token配额: OpenAI正在将ChatGPT的Chat和Work模式合并为一个界面;从12月起,Plus、Pro和Business方案将共享一个基于token的配额,用于ChatGPT和Codex。复杂模型消耗更多配额,而简单的即时聊天不计入其中。
AI商业与定价 • The Decoder
永久链接OpenAI11月29日起用Daybreak Blue数据训练,用户停用训练仍不例外: 据 The Decoder 报道,从 11 月 29 日起,OpenAI 将使用 Daybreak Blue 网络安全会话数据进行训练,即使用户已关闭训练。在遭到强烈反对后,一封后续邮件承诺提供单独的退出选项;此举再次引发了对未经同意使用数学家未发表研究的担忧。
人工智能政策 • The Decoder
永久链接Anthropic 的新研究:你对 AI 的控制并没有你以为的那么多: Anthropic 的研究表明,AI 智能体的建议能够强烈影响专家判断,即使用户认为自己正在掌控方向。视频解释了这项研究,在 Claude Code 中演示了这种效应,并分享了三种应对这种影响的实用方法。
人工智能研究 • Cole Medin
永久链接DeepSeek团队开源Super-agent原型,可自主修Bug并提PR: DeepSeek的Harness团队发布了一个MIT许可的Super-agent原型。常驻的Router将工作分派给隔离的Worker,这些Worker响应GitHub和聊天事件,修复bug并提交PR。
人工智能与开源 • Pandaily
永久链接商汤开源SenseNova-Loop-9B-Preview,24层模块跑两次共56层: 商汤发布开源模型 SenseNova-Loop-9B-Preview,该模型将共享的 24 层块运行两次,从 32 层产生 56 次层传递。它增加了双流 mHC,权重采用 Apache 2.0 许可。
AI模型与开源 • Pandaily
永久链接研究人员因报告ChatGPT分享链接代码执行漏洞获5000美元: 据 The Hacker News 的 Swati Khandelwal 报道,研究人员因报告一个 OpenAI 漏洞而获得 $5,000 奖励,该漏洞可在任何打开恶意 ChatGPT 分享链接的已登录会话中运行攻击者的代码。报道称,所有打开该链接的用户都受到了影响。
网络安全 • Techmeme
永久链接《华盛顿邮报》测试:Copilot 75%的中期选举回答引用AI生成投票网站: 《华盛顿邮报》的测试发现,聊天机器人在回答美国中期选举问题时依赖三个由 AI 构建的冷门选民网站。Copilot 在 75% 的测试中引用了容易出错的 Ballot Brief,ChatGPT 则在 22% 的测试中引用。
人工智能与选举 • Techmeme
永久链接
2026-10-31
科技
GLM 5.3不到48小时自主构建出可用的Firefox漏洞利用链: Epoch AI 研究人员报告称,开放权重模型 GLM 5.3 在不到 48 小时内将公开的安全修复程序转化为可用的 Firefox 漏洞利用程序。它自主攻破了六个 Firefox 版本,每个版本的 API 费用约为 1,000 美元,且未触发所测试的任何提供商的安全防护机制。
人工智能 • The Decoder
永久链接Apple智能将随iOS 27.3进入中国市场,11月4日推出测试版: 据 MacRumors 报道,Apple 在其中国新闻室网站上宣布,Apple Intelligence 将随 iOS 27.3 登陆中国。相关功能将首先在 11 月 4 日推出的 iOS 27.3 测试版中提供,完整版本计划于 12 月发布。
消费级人工智能 • The Verge AI
永久链接本地 3,000 Tokens/秒:测试 ZGX Fury: 一段视频测试了 HP 的 ZGX Fury,它是 ZGX Nano(DGX Spark)的更大版本。该工作站拥有 748 GB 内存和 NVIDIA 的 GB300 芯片组,据称本地速度最高可达每秒 3,000 个 token。
Technology • Sam Witteveen
永久链接Cursor市场上被篡改的Claude Code扩展11小时内影响至多5000名用户: 一个被篡改的 Claude Code 扩展在 Cursor 市场上架了约 11 小时,影响了多达 5,000 名用户。它试图窃取用户数据并建立远程访问,促使 Cursor 将市场下线;在确认没有进一步风险后,该市场已恢复上线。
Security • The Decoder
永久链接清华与智谱HarnessPro让智能体自改框架,单任务成本降26.1%: 来自清华大学、智谱及合作伙伴的 HarnessPro 让智能体研究自身运行记录,并在没有参考答案的情况下重写其 harness。它将通过率提高了2个百分点,并将每项任务成本降低了26.1%。
人工智能智能体 • Pandaily
永久链接小米开源0.8B文档模型,OmniDocBench得分96.83居1B以下首位: 小米已开源 Xiaomi-OCR-0,这是一个 0.8B 模型,用于文档解析、关键字段提取和 OCR 问答。它在 OmniDocBench v1.6 上得分 96.83,在 1B 以下模型中排名第一。
AI模型 • Pandaily
永久链接OpenAI、谷歌、微软与Anthropic将采用统一AI抓取退出令牌: 据Search Engine Roundtable报道,OpenAI、Google、Microsoft和Anthropic表示,他们将采用一项新标准,让发布者可以选择退出AI抓取。共享的“policy token”使发布者能够跨多家AI公司应用AI训练偏好,而不必逐一设置。
AI政策 • The Verge AI
永久链接
2026-10-30
科技
OpenAI发布新版Model Spec,列出五项核心价值: OpenAI 于 2026 年 10 月 29 日发布了更新版 Model Spec。该文件概述了五项核心价值观,旨在引导能力更强的 AI 作出合理判断、维护人类能动性,并忠实于人类意图。
人工智能 • OpenAI Blog
永久链接Mistral发布万亿参数模型Le Chonk,全程在欧洲训练: Mistral 发布了 Large 4(即“Le Chonk”)的权重,这是一个完全在欧洲训练的万亿参数模型。它声称该模型在编程方面胜过开源竞争对手,独立测试发现其速度快且价格相当低廉。它的得分为 26,而 DeepSeek V4.1 Flash 和 GLM-5.3 为 32。
AI模型 • The Decoder
永久链接腾讯混元发布Hy-Nomas技术报告,并推出280例世界模型基准: 腾讯混元发布了Hy-Nomas技术报告,详细介绍了由文本和摄像头输入驱动的开放8B交互式视频世界模型。它还发布了Hy-Nomas-Bench,一个用于评估世界模型的280个案例基准。
腾讯 • Pandaily
永久链接Anthropic研究:专家在判断中最多86%采纳AI智能体的随机观点: Anthropic 让 50 名专家使用一个偏好由掷硬币决定的 AI 智能体。在需要判断的问题上,专家最多有 86% 的时间跟随该智能体的观点,而且大多数人认为这些结论是他们自己的。
AI研究 • The Decoder
永久链接CrowdStrike称与中国关联的黑客用ARTEX针对200多家机构: CrowdStrike 表示,与中国有关联的黑客使用了一款名为 ARTEX 的 AI 工具,该工具由 DeepSeek LLM 和另一个模型驱动,在 11 天内针对了 200 多个组织。据 CrowdStrike 称,至少九个组织遭到入侵。
网络安全 • Techmeme
永久链接清华、Infinigence AI与AgiBot训练96台真实机器人共享经验: 来自清华大学、Infinigence AI 和 AgiBot 的研究人员训练了 96 台真实机器人,让它们相互共享经验。他们报告称,两台此前未见过的机器人在 600 次试验中达到 97.5% 的成功率,手机包装成功率从 79.2% 提升至 98.3%。
机器人技术 • Pandaily
永久链接