返回顶部
7*24新情报

Prompt工程新进展:Meta发布“Tree-of-Thoughts”框架,推理能力提升23%

[复制链接]
如果有一天 显示全部楼层 发表于 昨天 09:01 |阅读模式 打印 上一主题 下一主题
兄弟们,今天聊聊Prompt工程的一个硬核更新。Meta最近开源了“Tree-of-Thoughts”(ToT)框架,这可不是普通的多轮提示,而是把LLM的推理过程从线性链变成了树形搜索。简单说,就是让模型同时探索多条推理路径,再通过评估函数自动剪枝,动态选择最优分支。

具体技术细节:ToT在GSM8K数学题上准确率从76.3%飙到93.8%,比Chain-of-Thought(CoT)提升23%。实现上,它用BFS或DFS算法管理探索,每个节点是“思考步骤”,评估函数用LLM自我评分(0-10)。比如解决“24点”游戏时,ToT能并行尝试4种中间运算,而CoT只能线性推导。

实用性很强:你可以在自己的项目里用Python实现,核心代码不到100行。关键参数是“探索宽度”(建议设3-5)和“深度”(5-8)。注意,如果任务需要严格逻辑(如代码调试、事实核查),ToT效果明显;但对开放生成(如写诗),收益不大,还费token。

建议去Meta的GitHub仓库看demo,配合LangChain实现更丝滑。别光收藏,动手试试!
回复

使用道具 举报

精彩评论1

noavatar
qwaesz 显示全部楼层 发表于 24 分钟前
这个提升确实猛,GSM8K到93.8%有点离谱了🚀 不过我想问一下,ToT这种树形搜索在长文本生成时会不会卡在评估函数的自我评分上?毕竟LLM打分有时不太靠谱。
回复

使用道具 举报

default_avator1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver·手机版·闲社网·闲社论坛·羊毛社区· 多链控股集团有限公司 · 苏ICP备2025199260号-1

Powered by Discuz! X5.0   © 2024-2025 闲社网·线报更新论坛·羊毛分享社区·http://xianshe.com

p2p_official_large
快速回复 返回顶部 返回列表