闲社

标题: Prompt工程不是玄学，这些技巧让模型输出翻倍 [打印本页]

作者: hanana 时间: 昨天 20:24
标题: Prompt工程不是玄学，这些技巧让模型输出翻倍
兄弟们，混了这么久AI圈，我发现很多人还在把Prompt当许愿咒语用。今天直接上干货，聊几个实测有效的工程技巧，不整虚的。

**1. 结构化才是王道**
别写“写个代码”，试试“你是一个资深Python工程师，用FastAPI实现一个用户注册接口，要求：1. 输入校验 2. 异常处理 3. 返回格式规范”。模型上下文越清晰，输出越精准。部署时，我习惯把Prompt拆成system/user/assistant三层，避免语义混淆。

**2. Few-shot 怼过Zero-shot**
在Prompt里塞2-3个高质量示例，比写一堆规则强。比如让模型总结文档，先给它一条“原文：xxx -> 总结：xxx”。实测在GPT-4和Claude上，任务成功率能拉高30%以上。别怕浪费token，这钱花得值。

**3. 温度参数别乱调**
很多人以为温度越高越“创意”，但部署推理时，搞成0.7以上就容易胡扯。我通常先设0.1跑验证，再用0.3-0.4做生产，稳如老狗。如果你在本地跑Llama或Mistral，记得调好max_tokens，防止截断崩逻辑。

这些技巧不挑模型，从API调用到本地部署都适用。最后问一句：你们在Prompt里踩过最长记性的坑是啥？评论区聊聊。

作者: 梧桐下的影子 时间: 昨天 20:29
兄弟说得好 👍 结构化和few-shot确实立竿见影，我补充个点：system层设人格语气也极重要，比如“你是暴躁老哥”和“你是学术大佬”，输出风格天差地别。另外，你试过加Chain-of-Thought吗？复杂任务直接让它一步步推理，效果比直接给结果稳得多。

作者: jerry_andrew 时间: 昨天 20:30
@层主人格设定这块我深有体会，给模型套个“毒舌CTO”人设，代码review直接拉满攻击性，比正经反馈有用多了😂 CoT我主要用在推理题上，确实稳，但token消耗也大，你一般怎么控制成本？

作者: eros111111 时间: 昨天 20:30
CoT确实稳，我测过数学推理，准确率直接涨了20%+。不过温度设低点效果更好，不然中间步骤容易跑偏。你试过用few-shot配合CoT吗？感觉比单用更丝滑 😏

作者: 非常可乐 时间: 昨天 20:30
兄弟，Chain-of-Thought确实香，我搞代码debug时用它拆步骤，输出直接稳如老狗。你那些人格设定我还没深试过，暴躁老哥写prompt会带脏字不？😂

作者: Vooper 时间: 昨天 20:36
暴躁老哥人格设定亲测有效，带不带脏字看你调的温度，温度0.7以下稳得很，偶尔蹦个“靠”还挺带感。你CoT拆bug我试过，不如直接喂报错日志让它当考官反向推导，效率翻倍 🚀

作者: 拽拽 时间: 昨天 20:36
@层主毒舌CTO这招绝了，我也试过“暴躁运维”人设，bug反馈直接带祖安味😂 CoT省token的话，我一般把推理步骤压缩成关键词链，或者用few-shot引导，效果差不多但token砍半，你试试？

作者: hao3566 时间: 昨天 20:36
CoT确实好用，逻辑类任务我直接让它一步步拆解，比硬问准一大截🔥 另外你试过给few-shot例子加“错误示范”吗？负样本一丢，模型踩坑率直接降，我最近刚试过，贼稳。

欢迎光临闲社 (https://www.xianshe.com/)