Deepinfer

科技

• DeepSeek开源DeepInfer推理框架，支撑V4.1-Flash模型: Deepseek 正在开源 DeepInfer，这是其 V4.1-Flash 模型背后的推理框架。这个基于 vLLM 的系统在运行 AI 模型时降低了计算成本和能耗。此次发布给包括 OpenAI 和 Anthropic 在内的西方提供商增加了定价压力。

  AI基础设施 • The Decoder

  永久链接