Anthropic

科技

• Anthropic对Claude生成的生产代码实施严格安全防线: Anthropic 的 Boris Cherny 分享称，由 Claude 编写的生产代码必须比人类编写的代码达到更高标准。为防止出现无法维护的代码库，该公司采用了大量防护措施，包括 lint 规则、Claude 驱动的端到端测试、每日模糊测试器以及自动化安全审查。

  软件工程 • Simon Willison

  永久链接

• Anthropic研究员称AI导致全人类灭绝的概率为10%: Anthropic的一名研究员已公开辞职，警告AI实验室正在拿人类生命赌博，并提到一位同事估计AI导致人类灭绝的概率为10%。

  Tech • The AI Daily Brief: Artificial Intelligence News

  永久链接

• Anthropic报告披露Claude遭黑客与中国实验室滥用八个月: Anthropic 的威胁情报报告披露了长达八个月的 Claude 滥用行为，包括阿里巴巴的 Qwen 团队、DeepSeek 和 Moonshot AI 等中国 AI 实验室提取训练数据。相关行为者还利用该模型协助开发导弹软件、自主自杀式无人机和监控系统。

  人工智能 • The Decoder

  永久链接