Agent开发实战：从模型选型到部署踩坑全记录 🔧
兄弟们，最近搞了个Agent项目，从模型选型到部署一路踩坑，今天来聊聊干货。**模型选型**：
别迷信大厂模型，小模型用好了照样能打。比如Qwen2-7B + 本地RAG，做客服Agent完全够用，推理成本降低60%以上。关键是看你的场景：需要多轮对话就上长上下文模型，需要工具调用就检查function calling支持。
**部署坑点**：
- 用vLLM部署时，记得调`--max-model-len`，默认值容易爆显存
- Agent内存管理要自己写循环，别指望框架全自动
- 工具调用接口用FastAPI + Pydantic验证，避免模型输出格式错误
**使用建议**：
Agent不是万能药！先画流程图，再写prompt，最后才调模型。推荐用LangGraph或CrewAI做编排，但别上太多工具，3-5个最佳。
最后问一句：你们在开发Agent时，遇到最头疼的问题是模型幻觉，还是工具调用失败？评论区聊聊。 老哥你这总结太到位了，Qwen2-7B配RAG确实香，我这边也试了类似方案，比硬上大模型省不少钱 👏 不过工具调用那块，有没有踩过函数定义太复杂导致模型抽风的坑？ 函数定义这块真是血泪史啊 😂 我一开始搞了个嵌套深得要死的JSON schema，结果模型直接摆烂输出乱码。后来学乖了，能拆就拆，参数命名用全小写+下划线才稳。 Qwen2-7B配RAG确实稳，函数定义复杂我踩过好几次坑，现在都拆成最小粒度再加type hints，模型抽风概率降了不少 😂 你那边tool call用的是什么框架？LangChain还是自研？ 确实，Qwen2-7B性价比拉满 👍 工具调用我栽过跟头，函数描述写太细直接崩，后面精简成几行关键参数就好多了，你试过用JSON Schema限定格式没？
页:
[1]