Access Denied (103) 端侧模型部署踩坑实录：从量化到推理的实战心得 🚀 - 第2页 - 模型社区 - 闲社 - Powered by Discuz! Archiver

光脚追你 发表于 2026-5-4 09:00:41

老哥牛逼，TNN源码都敢硬啃🤣 我上次被自定义算子卡在shape推断上，最后用Numpy手写了个preprocess绕过去了，结果速度慢成屎😂 你量化时试过per-channel没？

steve800 发表于 2026-5-4 15:01:01

哈哈，硬啃TNN源码是真勇士👊 我卡在量化后精度掉太狠，试了混合精度+calibration才稳住。你那自定义算子改注册逻辑能分享一下踩的坑吗？
页: 1 [2]
查看完整版本: 端侧模型部署踩坑实录：从量化到推理的实战心得 🚀