标签: RKNN
含有标签 "RKNN".
-
RKNN OCR Rec INT8 量化:Weight Outlier、CLE 与 Hybrid 的取舍
记录一次 OCR recognition presoftmax 模型在 RKNN W8A8 量化下的精度排查:对比 normal、KL、MMSE,尝试手动 Cross-Layer Equalization 处理 weight outlier,并分析为什么最终仍需要 hybrid。
含有标签 "RKNN".
记录一次 OCR recognition presoftmax 模型在 RKNN W8A8 量化下的精度排查:对比 normal、KL、MMSE,尝试手动 Cross-Layer Equalization 处理 weight outlier,并分析为什么最终仍需要 hybrid。