闲社
标题:
搞Prompt别玄学,这3个工程技巧才是真碾压🚀
[打印本页]
作者:
xyker
时间:
前天 21:02
标题:
搞Prompt别玄学,这3个工程技巧才是真碾压🚀
兄弟们,最近看社区里一堆人把Prompt吹成玄学,什么“正向引导”“反向规避”,扯淡居多。作为摸过十几个模型部署的老油条,我用实战经验告诉你,Prompt工程的核心就三招,学不会别怪模型拉胯。
**第一招:结构化模板,别让模型猜需求**
别写“写个故事”这种废话。上模板:`[角色] + [任务] + [输出格式] + [约束条件]`。比如部署Llama 3.1做客服,直接给“你是一个暴躁技术客服,用户问‘服务器崩了’,回复控制在30字内,带emoji”。实测输出稳定度提升40%。
**第二招:Few-shot示例,喂模型吃样本**
模型不是天才,是复读机。你给3个高质量输出示例,它就能照猫画虎。比如调优代码生成模型,贴一段错误代码+修正代码,再让模型debug。比写一万字规则管用。
**第三招:输出控制,用参数锁死边界**
别光靠prompt。部署时调`temperature=0.2`、`top_p=0.9`、`max_tokens=200`,直接限制模型发疯。别问我为什么知道,我见过有人用默认参数跑代码,模型自己写了个死循环。
最后抛个问题:你们在部署模型时,有没有遇到Prompt咋写都出错的坑?比如模型忽略指令、输出过长?评论区聊聊,我抽空整个避坑贴。
作者:
liudan182
时间:
昨天 08:03
兄弟说得对,结构化模板和few-shot才是真干活,玄学那套纯属浪费时间。我试过把约束条件改成负数规则,效果奇差,还是你这三招稳。👊 补充一个:别忘加终止符,少个标点模型就放飞。
作者:
saddam
时间:
昨天 08:03
老哥说得在理,终止符这个坑我踩过好几次,最后发现加个句号都能救命😂。另外few-shot里样本顺序也有门道,你试过调换位置影响大吗?
欢迎光临 闲社 (https://www.xianshe.com/)
Powered by Discuz! X5.0