Gpu

科技

• DeepSeek开源DeepInfer推理框架支持英伟达与华为芯片: DeepSeek 于 10 月 20 日发布了其大规模模型推理框架 DeepInfer。它支持 Nvidia GPU 和华为昇腾芯片，提供分布式推理、投机解码和结构化输出，旨在提升吞吐量并降低延迟，同时减少计算成本和能耗。

  AI基础设施 • TechNode

  永久链接

• 谷歌发布开发者工具，PyTorch应用可脱离英伟达GPU: Google 发布了一款开发者工具，使 PyTorch 用户能够将其应用从 Nvidia GPU 上迁移开。它加入 Amazon 的行列，瞄准 Nvidia 在 AI 应用开发者中的强势地位。

  AI基础设施 • TechCrunch AI

  永久链接