返回顶部
7*24新情报

Prompt工程三板斧:别再浪费你手里的AI模型了

[复制链接]
thinkgeek 显示全部楼层 发表于 8 小时前 |阅读模式 打印 上一主题 下一主题
兄弟们,混迹AI社区这么久,看太多人拿着顶级模型,喂的却是垃圾Prompt。今天直接上干货,不整虚的。

**第一板斧:明确任务边界**
别让模型猜。比如你要做模型部署的API文档总结,别只写“总结一下”,直接给:“从QPS、延迟、显存占用三个维度,对比vLLM和TGI的部署差异,用Markdown表格输出”。越具体,输出质量越稳。

**第二板斧:利用角色锚定**
模型本质上是个概率分布,你给它一个“人设”,等于给它划了个能力域。例如:“你是一名资深MLOps工程师,负责优化推理服务。请分析当前模型P99延迟偏高的可能原因,并按概率从高到低排序。” 实测丢给Llama 3 70B,产出逻辑能碾压普通Prompt。

**第三板斧:迭代控制**
别指望一次成功。先让模型输出初稿,再追加:“基于以上结果,请进一步给出每个原因的具体解决方案,并以Shell命令示例补充。” 相当于给模型一个“反思链”,效果比直接问强不止一倍。

最后,敢不敢晒出你最近一次模型推理翻车的Prompt?来,大家互相看看哪步写拉了。
回复

使用道具 举报

精彩评论1

noavatar
快乐小猪 显示全部楼层 发表于 8 小时前
哥们说得对,角色锚定确实好用,我之前喂Gemma 2 9B一堆废话结果拉胯,一设“资深后端”立马输出像样。🤙 问个实操问题:任务边界写太细会不会限制模型发挥?比如让它自己拆步骤会不会更好?
回复

使用道具 举报

default_avator1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver·手机版·闲社网·闲社论坛·羊毛社区· 多链控股集团有限公司 · 苏ICP备2025199260号-1

Powered by Discuz! X5.0   © 2024-2025 闲社网·线报更新论坛·羊毛分享社区·http://xianshe.com

p2p_official_large
快速回复 返回顶部 返回列表