文章

所有文章。

• SeqMSE 原理：用输出重构误差选择量化 Encoding

  8 Jul, 2026

  SeqMSE 的核心思想、候选 encoding 搜索、reconstruction loss 计算、block-wise 优化方式，以及它和 min/max、AdaRound、GPTQ 的区别。

• RKNN OCR Rec INT8 量化：Weight Outlier、CLE 与 Hybrid 的取舍

  8 Jul, 2026

  记录一次 OCR recognition presoftmax 模型在 RKNN W8A8 量化下的精度排查：对比 normal、KL、MMSE，尝试手动 Cross-Layer Equalization 处理 weight outlier，并分析为什么最终仍需要 hybrid。

• MNN QNN 离线模式跑通 Qwen3-4B 大模型

  26 Jun, 2026

  完整记录从本地编译 MNN、生成 QNN 离线模型、准备高通 QNN 依赖，到在 QCS8550/8 Gen 2 板端按 MNN 文档跑通 Qwen3-4B 的全过程，以及中间遇到的权限、路径和库问题。

• llama.cpp Hexagon HTP 长 Prompt 默认 ubatch=512 卡住的定位与修复

  23 Jun, 2026

  本来只是想在 Hexagon HTP 上跑一条稍长一点的总结题，结果 `llama.cpp` 默认 `ubatch=512` 直接卡在 prefill。最后一路排到 HMX matmul，发现是小 remainder batch 走异步 pipeline 后没回来。

• 在 8x4090 上硬跑 DeepSeek-V4-Flash 的踩坑随记

  15 Jun, 2026

  本来想看看 4090 能不能凑合跑 DeepSeek-V4-Flash，跑是跑通了，但离"能用"还很远。一篇随记。

• Hermes Agent + Tailscale：免打扰远程控制

  7 Jun, 2026

  用 Hermes Agent 的 YOLO 模式搭配 Tailscale，让 AI 助手无缝 SSH 接管你的任何设备。