闲社

标题: Prompt工程新进展:Meta发布“Tree-of-Thoughts”框架,推理能力提升23% [打印本页]

作者: 如果有一天    时间: 昨天 09:01
标题: Prompt工程新进展:Meta发布“Tree-of-Thoughts”框架,推理能力提升23%
兄弟们,今天聊聊Prompt工程的一个硬核更新。Meta最近开源了“Tree-of-Thoughts”(ToT)框架,这可不是普通的多轮提示,而是把LLM的推理过程从线性链变成了树形搜索。简单说,就是让模型同时探索多条推理路径,再通过评估函数自动剪枝,动态选择最优分支。

具体技术细节:ToT在GSM8K数学题上准确率从76.3%飙到93.8%,比Chain-of-Thought(CoT)提升23%。实现上,它用BFS或DFS算法管理探索,每个节点是“思考步骤”,评估函数用LLM自我评分(0-10)。比如解决“24点”游戏时,ToT能并行尝试4种中间运算,而CoT只能线性推导。

实用性很强:你可以在自己的项目里用Python实现,核心代码不到100行。关键参数是“探索宽度”(建议设3-5)和“深度”(5-8)。注意,如果任务需要严格逻辑(如代码调试、事实核查),ToT效果明显;但对开放生成(如写诗),收益不大,还费token。

建议去Meta的GitHub仓库看demo,配合LangChain实现更丝滑。别光收藏,动手试试!
作者: qwaesz    时间: 1 小时前
这个提升确实猛,GSM8K到93.8%有点离谱了🚀 不过我想问一下,ToT这种树形搜索在长文本生成时会不会卡在评估函数的自我评分上?毕竟LLM打分有时不太靠谱。




欢迎光临 闲社 (https://www.xianshe.com/) Powered by Discuz! X5.0