gemma-4-E2B-it-qat-w4a16-ct

Gemma 4 模型卡片

许可证

Apache 2.0

作者

Google DeepMind

模型用途

Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型，支持文本和图像输入（E2B、E4B 和 12B 版本还支持音频），并生成文本输出。该版本包含预训练和指令微调两种形式的开源权重模型。Gemma 4 适用于文本生成、编程和推理等任务。

主要能力

推理能力：全系列模型均设计为高效推理器，支持可配置的思考模式。

多模态扩展：支持文本、图像（所有模型均支持可变宽高比和分辨率）、视频，以及音频（E2B、E4B、12B 原生支持）。

多样化和高效架构：提供不同规模的 Dense 和混合专家（MoE）变体，支持灵活部署。

设备端优化：较小模型专为笔记本电脑和移动设备的高效本地运行而设计。

扩展上下文窗口：小模型支持 128K tokens，中等模型支持 256K tokens。

增强的编程和智能体能力：在编程基准测试中取得显著提升，支持原生函数调用，可驱动高度自主的智能体。

原生系统提示支持：Gemma 4 引入对系统角色的原生支持，实现更结构化和可控的对话。

输入输出

输入格式：文本、图像、音频（仅 E2B、E4B、12B）、视频

输出格式：文本

运行要求

模型提供五种规格：E2B、E4B、12B、26B A4B、31B

部署环境从高端手机、笔记本电脑到服务器均可适配

Dense 模型规格

E2B：有效参数 2.3B，上下文 128K，支持文本、图像、音频

E4B：有效参数 4.5B，上下文 128K，支持文本、图像、音频

12B：参数 11.95B，上下文 256K，支持文本、图像、音频

31B：参数 30.7B，上下文 256K，支持文本、图像

MoE 模型规格

26B A4B：总参数 25.2B，活跃参数 3.8B，上下文 256K，支持文本、图像

基本用法

使用 Transformers 库加载模型。推荐采样配置：temperature=1.0，top p=0.95，top k=64。

思考模式：可通过在系统提示开头添加特定 token 启用思考功能。启用后，模型会先输出内部推理过程，再输出最终答案。

多模态输入顺序：图像内容应放在文本之前，音频内容应放在文本之后。

可变图像分辨率：支持 70、140、280、560、1120 等视觉 token 预算。较低预算适用于分类、字幕生成或视频理解；较高预算适用于 OCR、文档解析或阅读小文本。

音频处理：音频最长支持 30 秒。视频最长支持 60 秒（按每秒一帧处理）。

限制

音频输入最长 30 秒

视频输入最长 60 秒

多模态模型存在一定局限性，用户应知悉

训练数据

预训练数据涵盖广泛领域和模态，包括网页文档、代码、图像、音频，数据截止日期为 2025 年 1 月。训练数据包含超过 140 种语言的内容，并应用了严格的内容安全过滤措施。

伦理与安全

Gemma 4 经过与 Google 专有 Gemini 模型相同的严格安全评估。评估涵盖儿童性虐待材料、危险内容、露骨内容、仇恨言论和骚扰等内容。在所有安全测试领域，相较于前代 Gemma 模型均有显著改进，同时保持较低的不当拒绝率。