模型详情
模型介绍
中文整理Qwen2.5-Coder-1.5B-Instruct-AWQ
模型用途
Qwen2.5-Coder是专注于代码生成的大型语言模型系列。该模型适用于代码生成、代码推理和代码修复任务，同时也具备数学推理和通用对话能力，适合作为代码代理应用的基础模型。
主要能力
代码生成：能够根据自然语言描述生成代码
代码推理：能够理解和分析代码逻辑
代码修复：能够识别并修复代码中的错误
数学推理：保持数学问题解决能力
通用对话：具备通用语言理解和生成能力
输入输出
输入：自然语言描述或代码片段
输出：生成的代码或文本响应
运行要求
需要使用Hugging Face Transformers库的最新版本。
基本用法
该模型为因果语言模型，采用AWQ 4位量化技术。模型架构基于Transformer，包含RoPE位置编码、SwiGLU激活函数、RMSNorm归一化、注意力QKV偏置和绑定的词嵌入。模型共28层，参数总量1.54B，非嵌入参数1.31B，采用GQA机制，查询头12个，键值头2个，上下文长度支持32768个token。
限制和许可证
该模型为开源模型，具体许可证信息请参阅官方发布页面。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。
