标签: 端侧大模型

含有标签 "端侧大模型".

• llama.cpp Hexagon NPU 量化：Q4_0 / IQ4_NL / MXFP4 / Q8_0

  30 May, 2026

  Q4_0 / Q4_1 / IQ4_NL / MXFP4 / Q8_0 五种 HTP 原生量化格式的原理、反量化路径与对比。

• llama.cpp 高通 Hexagon NPU 初跑 Qwen3.5 4B 模型

  29 May, 2026

  从 GGUF 量化、交叉编译到板端推理，完整记录 llama.cpp 在骁龙 Hexagon NPU 上的部署流程与调优经验。