模型介绍
中文整理Gemma 4 模型卡片
许可证
Apache 2.0
作者
Google DeepMind
模型用途
Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型，支持文本和图像输入（E2B、E4B和12B版本还支持音频），生成文本输出。该系列提供预训练和指令微调两种版本，上下文窗口最高可达256K tokens，支持超过140种语言。适用于文本生成、编程和推理等任务。
主要能力
推理能力：全系列模型均具备强大的推理能力，支持可配置的思考模式。
多模态处理：支持文本、图像（含可变宽高比和分辨率）、视频，以及E2B、E4B、12B版本的音频处理。
混合注意力机制：结合局部滑动窗口注意力与全局注意力，最终层始终为全局注意力，兼顾处理速度与长上下文理解能力。
高效架构：提供Dense和混合专家（MoE）两种架构，五个规格分别为E2B、E4B、12B、26B A4B和31B。
设备端优化：小规格模型专为笔记本电脑和移动设备的高效本地运行而设计。
长上下文：E2B/E4B支持128K tokens上下文，12B/26B A4B/31B支持256K tokens上下文。
编程能力：代码生成、补全和修正。
原生系统提示支持：支持system角色，实现更结构化、可控的对话。
函数调用：原生支持结构化工具使用。
输入输出格式
输入：文本、图像、音频（仅E2B/E4B/12B）、视频
输出：文本
运行要求
模型规格：
E2B：有效参数2.3B（含嵌入5.1B），35层，滑动窗口512 tokens
E4B：有效参数4.5B（含嵌入8B），42层，滑动窗口512 tokens
12B：参数11.95B，48层，滑动窗口1024 tokens
26B A4B MoE：总参数25.2B，活跃参数3.8B，30层
31B Dense：参数30.7B，60层，滑动窗口1024 tokens
基础用法
使用Transformers加载模型，推荐采样配置：temperature=1.0，top p=0.95，top k=64。
启用思考模式需在系统提示开头包含相应token。
多轮对话中，历史输出仅应包含最终回复，之前的思考内容不应添加到下一轮用户输入之前（工具调用轮次除外）。
多模态输入优化：图像内容置于文本之前，音频内容置于文本之后。
图像分辨率支持可变token预算：70、140、280、560、1120。分类、字幕等任务使用较低预算；OCR、文档解析等任务使用较高预算。
音频最长支持30秒，视频最长支持60秒（每秒一帧）。
限制
模型存在以下已知局限：
多模态模型（处理视觉、语言和/或音频）应用广泛，但实际使用中需注意模型能力边界。
内容创作和通信：文本生成、聊天机器人、文本摘要、图像数据提取、音频处理
研究和教育：NLP和VLM研究基础模型
许可证说明
本模型采用Apache 2.0许可证开源。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。