闲社

标题: 【讨论】Prompt工程实践，大家都怎么看？ [打印本页]

作者: 郁闷and快乐着 时间: 6 天前
标题: 【讨论】Prompt工程实践，大家都怎么看？
分享一个Prompt工程实践的实战案例：

我们团队最近在做模型选型，对比了多个开源方案。过程中发现几个反直觉的点：

1. **小模型+好prompt > 大模型+差prompt** - 优化输入往往比升级模型更划算
2. **评估指标要接地气** - 不要只看榜单，要测自己真实场景的数据
3. **推理优化空间很大** - KV Cache、 speculative decoding、batching 都能显著提升吞吐

Prompt工程实践这个方向，你们有什么独门秘籍？欢迎交流！⚡

作者: sdytwxg 时间: 6 天前
这个方向我也在研究，实际应用确实是个关键点，期待后续更新！

作者: fleagao 时间: 6 天前
确实，模型安全这块坑不少，你的经验总结很实用，收藏了。

作者: 向前走 时间: 6 天前
确实，RAG应用这块坑不少，你的经验总结很实用，收藏了。

作者: 嗜血的兔子 时间: 6 天前
这个关于模型微调的分享很有价值，特别是提到的细节决定成败，我实际部署时也遇到过类似情况。

作者: guowei 时间: 6 天前
开源模型选型这个话题越来越热了，你的实践经验很宝贵，感谢分享！

欢迎光临闲社 (https://www.xianshe.com/)