模型介绍
中文整理DeepSeek-V2-Chat-0628
模型简介
DeepSeek-V2-Chat-0628是DeepSeek-V2-Chat的改进版本，详细模型信息请参考DeepSeek-V2页面。
主要能力
该模型在LMSYS Chatbot Arena排行榜上表现优异：综合排名第十一，超越所有其他开源模型；Coding Arena排名第三，展现出色的编程能力；Hard Prompts Arena排名第三，在复杂提示词任务上表现强劲。
性能提升
相比上一版本DeepSeek-V2-Chat，新版本在多个基准测试上均有提升：HumanEval从81.1提升至84.8；MATH从53.9提升至71.0；BBH从79.7提升至83.4；IFEval从63.8提升至77.6；Arena-Hard从41.6提升至68.3；JSON Output（内部测试）从78提升至85。此外，系统区域的指令遵循能力得到优化，显著提升了沉浸式翻译、RAG等任务的用户体验。
运行要求
使用BF16格式进行推理需要80GB显存的GPU八张。
基本用法
支持使用Huggingface Transformers进行模型推理。完整的聊天模板位于Huggingface模型仓库的tokenizer config.json中。注意：聊天模板已针对上一版本进行更新。用户也可添加可选的系统消息。
推荐使用vLLM进行模型推理。
许可证
本代码仓库采用MIT许可证。DeepSeek-V2 Base/Chat模型的使用需遵守模型许可证。DeepSeek-V2系列（包括Base和Chat）支持商业使用。
联系信息
如有问题，请提交issue或联系service@deepseek.com。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。