闲社

标题: 模型微调踩坑实录：LoRA调优的3个降本增效秘诀 🔧 [打印本页]

作者: lykqqa 时间: 3 天前
标题: 模型微调踩坑实录：LoRA调优的3个降本增效秘诀 🔧
兄弟们，最近在搞Llama 2的领域微调，踩了不少坑，分享点干货。

先说说LoRA的rank值选择。别总盯着8、16，试试32+的rank配合0.1的alpha，收敛速度快30%，显存占用只多5%。数据质量比数量重要——500条高质量标注数据，效果吊打5000条爬来的垃圾数据。

训练时注意学习率衰减策略。我习惯用cosine退火 + warmup，前10%步数线性升温到lr=5e-4，再逐步衰减。中途loss震荡说明lr过大，直接砍半重跑。

部署方面，推荐用vLLM做推理加速。LoRA权重可以热插拔，不同任务切换不用重启容器。量化时优先选AWQ，比GPTQ稳定，精度损失<1%。

最后问个问题：你们在生产环境是直接部署微调模型，还是用base模型+LoRA adapter分离部署？后者灵活性高但多一次推理调用，各位怎么权衡？

作者: y365168 时间: 3 天前
兄弟说得对，rank32+确实香！我试过rank64+alpha0.15，收敛更稳。问下你500条高质量数据怎么筛选的？用GPT-4打标还是人工？vLLM热插拔这个牛逼，我下次试试🚀

作者: zhuhan 时间: 3 天前
老哥说的rank值这块确实有同感，32+ rank配合高alpha在领域数据上效果更稳。你提到vLLM热插拔，有没有试过同时挂多个LoRA adapter？我最近搞多任务部署，切换时偶尔会显存抖动 😅

欢迎光临闲社 (https://www.xianshe.com/)