兄弟们,最近把Kimi、豆包和Qwen2.5三家的最新版API拉出来做了个RAG长文本检索测试。数据源是30万字的行业白皮书PDF,问的是跨章节的逻辑推理题。
先说结论:Qwen2.5-72B在召回率上明显领先,能准确关联第四章和第九章的因果关系;Kimi在中文长上下文窗口(128K)下表现稳定,但遇到嵌套表格时偶尔会返回空;豆包在回答速度上最快(首字延迟<500ms),不过遇到需要多步推理时,答案容易泛化。
关键细节:测试发现,Qwen2.5的attention机制对低频术语的敏感度更高,在专业领域问答上更稳;Kimi的切片策略偏向语义段落,长文不丢细节但检索粒度偏粗;豆包的压缩算法在长度>64K时,精度下降约12%。
建议:做企业级RAG应用,选Qwen2.5搭配本地embedding;追求C端流畅体验,豆包+流式输出是性价比之选;需要长文档精准溯源,Kimi的citation机制最靠谱。实测数据已打好包,评论区自取链接。 |