标签「P800」

国产 XPU

国产昆仑芯 P800 部署线性注意力大模型的 28 个问题

一、引言在国产 XPU 上部署大模型,常被问一句"能不能跑"。这次项目的回答是:能跑,但从"能跑"到"跑好",隔着 28 个问题,分属 6 类。本文先画地图:问题长什么样、分布在哪里、哪里最容易翻车。二、部署背景单机 8×96G 昆仑芯 …

国产 XPU

GLM-5.3-Flash 的 8 卡 P800 部署评估

328.4GB 官方 FP8 权重、8×96G 显存、34 层 KDA 线性注意力、11 层 DSA 稀疏注意力、288 个路由专家。模型已经开源,算子是否已经就绪,需要拆开来看。一、引言:一头 321B 的大象,站在窄门前GLM-5.3…