NVIDIA 公布 DGX Spark 上 MoE 推理优化方法

2026年10月27日，NVIDIA 在开发者博客发布文章，介绍在 DGX Spark 上提升 MoE 推理性能的三种方法。文章称，对 Inclusion AI 的 Ling-3.0-flash 进行 batch-size-1 评测时，性能分析显示解码过程受内存限制，读取模型权重是主要耗时来源，其中 MoE 计算与输出层投影这两个操作尤为突出。目前报道仅披露了上述评测发现与优化方法的数量，尚未给出三种方法的具体内容或优化后的性能数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。