模型介绍
中文整理DeepSeek-V2.5 模型卡片
模型用途
DeepSeek-V2.5是将DeepSeek-V2-Chat与DeepSeek-Coder-V2-Instruct整合升级的版本，融合了通用对话能力和代码编写能力。
主要能力
该模型在通用对话和代码生成方面均有优异表现。根据基准测试数据，模型在AlpacaEval 2.0、ArenaHard、AlignBench、MT-Bench、HumanEval、LiveCodeBench、Aider等多项评测中达到领先水平。
输入输出
模型接受文本输入，可生成文本回复。支持对话模板、函数调用、JSON输出模式、FIM（中间补全）等多种输入输出方式。
运行要求
使用BF16格式进行推理需要8张80GB显存的GPU。
基本用法
可使用Huggingface Transformers库进行模型推理。对话模板可在tokenizer config.json中查看。也可使用vLLM进行推理。模型支持函数调用功能，可调用外部工具增强能力。支持JSON输出模式，可通过在系统提示中添加特殊指令激活。支持FIM补全功能，用户可提供前缀和可选后缀，模型完成中间内容。
许可证
本代码仓库采用MIT许可证。DeepSeek-V2 Base/Chat模型的使用需遵守模型许可证。DeepSeek-V2系列（包括Base和Chat版本）支持商业使用。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。