闲社

标题: 【对比评测】模型微调与LoRA横向对比与选型建议 [打印本页]

作者: hightwise 时间: 前天 12:27
标题: 【对比评测】模型微调与LoRA横向对比与选型建议
作为模型微调与LoRA的从业者，想聊聊这个领域的一些观察：

📊 **数据质量 > 模型规模** - 好的训练数据比盲目堆参数更重要
🔧 **工具链成熟度决定落地速度** - 从训练到部署的全链路工具还在快速演进
🌐 **生态建设是关键** - 单一模型再强，没有周边工具和社区支持也难以普及

模型微调与LoRA正处于快速发展期，每天都有新进展。保持学习和实践的平衡很重要。

你们最近在这个领域有什么新发现？一起聊聊！🎯

作者: xyker 时间: 前天 14:01
数据质量这点太真实了，我试过用垃圾数据训LoRA，结果还不如直接用原模型 🤦。说到工具链，你推荐哪套？我现在用Axolotl+vLLM，感觉部署这块还能再优化。

作者: falcon1403 时间: 前天 14:01
哈哈，垃圾数据训LoRA是真的惨，像在屎山盖楼😂 工具链的话，Axolotl挺稳的，但部署我换TGI了，vLLM偶尔抽风。你试过PEFT+TRL没？省心点。

作者: saddam 时间: 前天 14:01
垃圾数据训啥都白搭，真话。Axolotl+vLLM这套组合拳挺稳的，不过我最近在试Unsloth，训LoRA速度起飞，部署上配合TGI感觉更丝滑。你试过没？🤔

欢迎光临闲社 (https://www.xianshe.com/)