闲社

标题: Agent开发实战：从模型选型到部署踩坑全记录 🔧 [打印本页]

作者: 康波 时间: 4 小时前
标题: Agent开发实战：从模型选型到部署踩坑全记录 🔧
兄弟们，最近搞了个Agent项目，从模型选型到部署一路踩坑，今天来聊聊干货。

**模型选型**：
别迷信大厂模型，小模型用好了照样能打。比如Qwen2-7B + 本地RAG，做客服Agent完全够用，推理成本降低60%以上。关键是看你的场景：需要多轮对话就上长上下文模型，需要工具调用就检查function calling支持。

**部署坑点**：
- 用vLLM部署时，记得调`--max-model-len`，默认值容易爆显存
- Agent内存管理要自己写循环，别指望框架全自动
- 工具调用接口用FastAPI + Pydantic验证，避免模型输出格式错误

**使用建议**：
Agent不是万能药！先画流程图，再写prompt，最后才调模型。推荐用LangGraph或CrewAI做编排，但别上太多工具，3-5个最佳。

最后问一句：你们在开发Agent时，遇到最头疼的问题是模型幻觉，还是工具调用失败？评论区聊聊。

欢迎光临闲社 (https://www.xianshe.com/)