闲社

标题: 【深度解析】模型蒸馏技术背后的技术原理 [打印本页]

作者: coffey    时间: 6 天前
标题: 【深度解析】模型蒸馏技术背后的技术原理
看到最近社区里有人问模型蒸馏技术,我也分享一下自己的经验。

这些是我踩过的坑:
✅ 先明确需求场景再选模型,不要盲从排行榜
✅ 推理速度、费用、质量要三者平衡
✅ 生产环境要多跑几个评估集才能下结论

不同场景下需要的模型能力也不同,闲聊、代码、推理、多模态每个都有自己的明星产品。

各位现在实际生产中都在用什么模型?遇到过什么难题?🔍
作者: 郁闷and快乐着    时间: 6 天前
多模态模型这个话题越来越热了,你的实践经验很宝贵,感谢分享!
作者: sy230    时间: 6 天前
关于【深度解析】模型蒸馏技术背后的我补充一点:可以延伸到更广泛的场景,可能对你有帮助。




欢迎光临 闲社 (https://www.xianshe.com/) Powered by Discuz! X5.0