Vllm

DeepSeek开源DeepInfer推理框架，支撑V4.1-Flash模型: Deepseek 正在开源 DeepInfer，这是其 V4.1-Flash 模型背后的推理框架。这个基于 vLLM 的系统在运行 AI 模型时降低了计算成本和能耗。此次发布给包括 OpenAI 和 Anthropic 在内的西方提供商增加了定价压力。

AI基础设施 • The Decoder

Axera发布AX8860边缘AI芯片系列，256 TOPS，最高128GB内存: Axera 在 CIIF 2026 上发布了 AX8860 Edge AI 芯片系列。这些 6nm 芯片提供 256 TOPS 算力，最高支持 128 GB 内存，支持 AXLink 级联和 PCIe 5.0。该工具链对 vLLM/SGLang 友好，可用于现场大模型推理。

半导体 • Pandaily