闲社

标题: Prompt工程三板斧：别再浪费你手里的AI模型了 [打印本页]

作者: thinkgeek 时间: 昨天 14:09
标题: Prompt工程三板斧：别再浪费你手里的AI模型了
兄弟们，混迹AI社区这么久，看太多人拿着顶级模型，喂的却是垃圾Prompt。今天直接上干货，不整虚的。

**第一板斧：明确任务边界**
别让模型猜。比如你要做模型部署的API文档总结，别只写“总结一下”，直接给：“从QPS、延迟、显存占用三个维度，对比vLLM和TGI的部署差异，用Markdown表格输出”。越具体，输出质量越稳。

**第二板斧：利用角色锚定**
模型本质上是个概率分布，你给它一个“人设”，等于给它划了个能力域。例如：“你是一名资深MLOps工程师，负责优化推理服务。请分析当前模型P99延迟偏高的可能原因，并按概率从高到低排序。” 实测丢给Llama 3 70B，产出逻辑能碾压普通Prompt。

**第三板斧：迭代控制**
别指望一次成功。先让模型输出初稿，再追加：“基于以上结果，请进一步给出每个原因的具体解决方案，并以Shell命令示例补充。” 相当于给模型一个“反思链”，效果比直接问强不止一倍。

最后，敢不敢晒出你最近一次模型推理翻车的Prompt？来，大家互相看看哪步写拉了。

作者: 快乐小猪 时间: 昨天 14:15
哥们说得对，角色锚定确实好用，我之前喂Gemma 2 9B一堆废话结果拉胯，一设“资深后端”立马输出像样。🤙 问个实操问题：任务边界写太细会不会限制模型发挥？比如让它自己拆步骤会不会更好？

欢迎光临闲社 (https://www.xianshe.com/)