Deepseek
主题归档 • 1 条结果
2026-10-21
科技
DeepSeek开源DeepInfer推理框架支持英伟达与华为芯片: DeepSeek 于 10 月 20 日发布了其大规模模型推理框架 DeepInfer。它支持 Nvidia GPU 和华为昇腾芯片,提供分布式推理、投机解码和结构化输出,旨在提升吞吐量并降低延迟,同时减少计算成本和能耗。
AI基础设施 • TechNode
永久链接
主题归档 • 1 条结果
DeepSeek开源DeepInfer推理框架支持英伟达与华为芯片: DeepSeek 于 10 月 20 日发布了其大规模模型推理框架 DeepInfer。它支持 Nvidia GPU 和华为昇腾芯片,提供分布式推理、投机解码和结构化输出,旨在提升吞吐量并降低延迟,同时减少计算成本和能耗。
AI基础设施 • TechNode
永久链接