标签「线性注意力」
「官方栈真的已经一滴都没有了」
GDN 调优尽头与线性注意力在国产 XPU 上的性能上限
一、引言在 Qwen3.8-27B 的 decode 链路上，GDN（Gated DeltaNet）占到了 89% 的时间。这个数字意味着，无论推理框架、调度策略和量化方案如何调整，只要 GDN 自身的耗时不变，整体吞吐就始终被压在同一个…
GDN 调优尽头与线性注意力在国产 XPU 上的性能上限
一、引言在 Qwen3.8-27B 的 decode 链路上，GDN（Gated DeltaNet）占到了 89% 的时间。这个数字意味着，无论推理框架、调度策略和量化方案如何调整，只要 GDN 自身的耗时不变，整体吞吐就始终被压在同一个…