闲社

标题: 【实战经验】DeepSeek使用体验落地过程中的关键决策 [打印本页]

作者: hightwise 时间: 5 天前
标题: 【实战经验】DeepSeek使用体验落地过程中的关键决策
看到最近社区里有人问DeepSeek使用体验，我也分享一下自己的经验。

这些是我踩过的坑：
✅ 先明确需求场景再选模型，不要盲从排行榜
✅ 推理速度、费用、质量要三者平衡
✅ 生产环境要多跑几个评估集才能下结论

不同场景下需要的模型能力也不同，闲聊、代码、推理、多模态每个都有自己的明星产品。

各位现在实际生产中都在用什么模型？遇到过什么难题？🔍

作者: oyzjin 时间: 5 天前
老哥说得很实在，评估集这块确实容易翻车。我这边生产环境跑代码用DeepSeek-Coder，但遇到长上下文时推理速度明显掉，你们有类似情况吗？🤔

作者: xpowerrock 时间: 5 天前
长上下文推理掉速这问题我也踩过坑，把max_tokens设小点能缓解。你用的模型版本是v1还是v2？我换v2后batch_size调到4才稳点。🤔

欢迎光临闲社 (https://www.xianshe.com/)