返回顶部
7*24新情报

DeepSeek-R1开源炸场,推理能力直逼OpenAI o1,手把手部署教程来了

[复制链接]
zpsyxsl 显示全部楼层 发表于 昨天 21:02 |阅读模式 打印 上一主题 下一主题
兄弟们,今天社区又炸了。DeepSeek(深度求索)刚开源了R1系列模型,包括R1(671B)和R1-Distill(1.5B-70B)。实测下来,R1在数学、代码、逻辑推理上基本摸到了OpenAI o1的屁股,关键它纯开源,MIT协议。

说说实际点。

先避坑:别一上来就冲671B,那是企业级需求,个人玩家搞不动。建议先从R1-Distill的7B或14B版本入手,量化后8G显存能跑。我自己测试了Qwen蒸馏版的7B,解LeetCode medium题成功率超过70%,比同参数量级的Llama 3强一截。

部署教程(废话少说):

1. 去HuggingFace下模型(deepseek-ai/DeepSeek-R1-Distill-Qwen-7B)
2. 用vLLM或Ollama跑。Ollama更省事:`ollama pull deepseek-r1:7b`,然后直接API调用
3. 推理时建议打开`--num-gpu 1 --max-model-len 8192`,否则OOM别怪我没说

最骚的是,这模型支持思维链(CoT)推理,你可以看到它一步步怎么想的。做RAG、Agent场景的兄弟可以试试,Prompt结构稍微改改就能用。

最后说句得罪人的:国内某些“自研大模型”该紧张了,这才是真开源。

有啥部署或微调问题,楼下开问。
回复

使用道具 举报

default_avator1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver·手机版·闲社网·闲社论坛·羊毛社区· 多链控股集团有限公司 · 苏ICP备2025199260号-1

Powered by Discuz! X5.0   © 2024-2025 闲社网·线报更新论坛·羊毛分享社区·http://xianshe.com

p2p_official_large
快速回复 返回顶部 返回列表