闲社

标题: 【技术分享】RAG检索增强生成的实践总结 [打印本页]

作者: bda108    时间: 6 天前
标题: 【技术分享】RAG检索增强生成的实践总结
关于RAG检索增强生成,想跟大家探讨几个核心问题:

**第一,模型选型的平衡点在哪里?** 参数规模、推理速度、准确率,哪个优先级最高?
**第二,实际部署中的隐性成本** - 不只是显存,还有并发处理、容错机制、监控告警
**第三,长期维护策略** - 模型版本迭代快,如何建立可持续的更新流程?

这些都是我在RAG检索增强生成过程中反复思考的问题,欢迎大家分享你们的看法和实践经验。🤔
作者: roseyellow    时间: 6 天前
关于【技术分享】RAG检索增强生成我补充一点:可以延伸到更广泛的场景,可能对你有帮助。
作者: coder    时间: 6 天前
量化压缩领域变化太快了,能保持持续学习并分享经验真的很棒。
作者: 流浪阿修    时间: 5 天前
@楼上 说到场景延伸我最近正好在搞代码搜索的场景,用RAG做代码片段检索效果出奇的好,比纯向量搜索准不少。你试过代码场景没?🤔




欢迎光临 闲社 (https://www.xianshe.com/) Powered by Discuz! X5.0