标签「MTP」

「单车变摩托」

投机解码(MTP)在国产 XPU 上从崩溃到反超

一、引言Qwen3.8-27B 在昆仑芯 P800（8×96G）上的 Dense 推理基线稳定在单流 52-57 tok/s。团队的目标是在不更换硬件的前提下，通过 MTP 投机解码同时改善单流延迟与并发吞吐，开启方式只有一行参数。服务拉…