标签「CPU fallback」

「地狱空荡荡」

藏在采样器里的 CPU fallback 引发的 72 倍吞吐暴跌

一、引言一次常规的 256 并发回归压测中，Qwen3.8-27B 在昆仑芯 P800 上的 decode 吞吐停滞在 32 tok/s 量级。同配置权威口径 short 512/512×256 应为 3201.71 output tok…