模型介绍
中文整理DeepSeek-V3.1 模型卡片
模型概述
DeepSeek-V3.1 是一个混合模型,同时支持思考模式和非思考模式。该模型基于 DeepSeek-V3.1-Base 进行后训练,采用两阶段长上下文扩展方法,将 32K 扩展阶段增加至 630B tokens,128K 扩展阶段扩展至 209B tokens。模型使用 UE8M0 FP8 缩放数据格式训练,以确保与微缩放数据格式的兼容性。
主要能力
混合思考模式:通过更改聊天模板,一个模型可同时支持思考模式和非思考模式。
更智能的工具调用:通过后训练优化,模型在工具使用和代理任务方面的性能显著提升。
更高的思考效率:DeepSeek-V3.1-Think 在保持与 DeepSeek-R1-0528 相当答案质量的同时,响应速度更快。
输入输出
支持多轮对话,根据不同模式处理用户查询。在非思考模式下引入额外 token 用于模式切换。支持工具调用,包括代码代理和搜索代理。
运行要求
总参数规模:671B
激活参数:37B
上下文长度:128K
重要运行要求:
mlp.gate.e 的 score correction bias 参数必须以 FP32 精度加载和计算。
模型权重和激活值必须使用 UE8M0 FP8 缩放格式。
许可证
MIT License
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
