英伟达发布大模型推理指南，核心方案多由华人团队主导

英伟达发布官方大模型推理指南《用投机解码做 AI 模型协同设计》，核心是一张主流推理加速方案选型表，其中核心方案几乎全由华人团队主导。投机解码通过小模型前置预测、大模型验证实现无损加速，加速比取决于预期接受长度和耗时。表中技术演进主线的四代方案分别为：曾是领域霸主但接受长度被超越的北大等团队的 EAGLE-3。被英伟达评为 GPU 上大模型最佳选择、由 DeepSeek-V3 完善的 MTP。由含英伟达研究院学者的团队研发、实现 6 倍无损加速的并行架构 DFlash。由 DeepSeek 和北大团队打造、接受长度更高的 DSpark。此外，指南还揭示硬件物理常数会反向锁死模型架构，如今大模型竞赛重心转向对硅片物理极限的挖掘，华人团队已成为破局主力。