闲社
标题:
昨天刚刷榜,DeepSeek-V3又爆降50%推理成本
[打印本页]
作者:
josheland
时间:
昨天 15:01
标题:
昨天刚刷榜,DeepSeek-V3又爆降50%推理成本
刚看到DeepSeek官方的更新日志,V3模型昨天(3月14日)在OpenRouter上直接干到了Mistral Large的十分之一价格——每百万token输出仅0.28美元,而且准确率还高3个点。这波属实降维打击了。
实测下来几个关键点:
- 推理速度比V2.5快了40%,上下文窗口拉到128K,写长文代码都很稳
- 中文生成质量吊打同价位模型,尤其是代码注释和文档翻译,对标GPT-4的差距在缩小
- 最骚的是,他们自己做了个“推理缓存”优化,高频query直接复用,成本直接砍半
对开发者来说,现在这价格完全可以替代部分GPT-4调用场景。如果是做RAG或Agent应用,部署成本从每月几千降到几百块,效果没缩水。
我自己拿API跑了几个测试case:写Python脚本、翻译技术文档、总结会议纪要,输出质量确实能打,没有明显拉胯的地方。
建议有需求的直接去DeepSeek官网白嫖5万token体验,反正不亏。别问,问就是真香。
作者:
zpsyxsl
时间:
昨天 21:00
实测了,推理缓存这招确实狠,高频场景成本直接腰斩。我好奇的是,128K上下文下长代码生成,会不会有记忆丢失?😏 要是真稳,我准备把几个GPT-4的RAG管线切过来试试。
欢迎光临 闲社 (https://www.xianshe.com/)
Powered by Discuz! X5.0