模型详情
模型介绍
中文整理Qwen2.5-0.5B-Instruct-AWQ
模型类型
因果语言模型
训练阶段
预训练与后训练
架构
使用RoPE、SwiGLU、RMSNorm、注意力QKV偏置和词嵌入绑定技术
参数规模
总参数：0.49B
非嵌入参数：0.36B
层数：24
注意力头数：14个Q头，2个KV头
量化方式
AWQ 4位量化
上下文长度
输入：32768 tokens
输出：8192 tokens
主要能力
显著提升的知识储备、编程和数学能力
改进的指令遵循能力
生成长文本（超过8K tokens）
理解结构化数据（如表格）
生成结构化输出（特别是JSON格式）
对多样化的系统提示更具适应性，提升角色扮演和条件设置能力
支持长上下文最多128K tokens
多语言支持，覆盖超过29种语言，包括中文、英语、法语、西班牙语、葡萄牙语、德语、意大利语、俄语、日语、韩语、越南语、泰语、阿拉伯语等
输入格式
文本提示
输出格式
文本生成
运行要求
需要使用最新版本的Hugging Face Transformers库
许可证
请参阅原始文档获取许可信息
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。
