行业观察媒体报道 · vllm.ai
vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持
OmniTools 10月16日消息,vLLM 宣布从发布首日(Day 0)起支持 Reflection 公司推出的 Beam 模型。该模型为 501B 参数量的稀疏混合专家(MoE)架构,每 token 激活约 23B 参数。
Beam 模型已在 NVIDIA Blackwell 架构 GPU 上完成针对性优化,vLLM 提供开箱即用的推理支持,涵盖调度、内存管理与并行计算等关键环节。
此举标志着主流大模型推理框架对超大规模 MoE 模型的快速适配能力持续增强。