模型介绍
中文整理Gemma 4 模型卡片
许可证
Apache 2.0
作者
Google DeepMind
模型用途
Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型，支持文本和图像输入（E2B、E4B和12B版本还支持音频），输出文本。该系列包含预训练模型和指令微调模型，适用于文本生成、编程、推理、智能体工作流和多模态理解等任务。
主要能力
推理能力：全系列模型均具备强大的推理能力，支持可配置的思考模式。
多模态支持：支持文本、图像、可变长宽比和分辨率的图片处理、视频理解，以及音频处理（仅E2B、E4B和12B版本）。
模型架构：提供Dense和混合专家（MoE）两种架构，五个规格分别为E2B、E4B、12B、26B A4B和31B。
设备端优化：小规格模型专为笔记本电脑和移动设备的高效本地运行而设计。
超长上下文：小型模型支持128K tokens上下文，中大型模型支持256K tokens上下文。
编程能力：在编程基准测试中表现显著提升，支持原生函数调用功能。
多语言支持：支持超过35种语言开箱即用，预训练数据涵盖140多种语言。
输入输出
输入格式：文本、图像、音频（仅E2B、E4B、12B）、视频
输出格式：文本
音频输入最长支持30秒，视频输入最长支持60秒（按每秒一帧处理）。
运行要求
模型规格：
E2B：有效参数2.3B，上下文128K，支持文本、图像、音频
E4B：有效参数4.5B，上下文128K，支持文本、图像、音频
12B：统一架构，上下文256K，支持文本、图像、音频
26B A4B MoE：总参数25.2B，活跃参数3.8B，上下文256K，支持文本、图像
31B Dense：总参数30.7B，上下文256K，支持文本、图像
内存需求因模型规格而异。该版本提供量化感知训练（QAT）优化版本，可在保持与bfloat16相近质量的同时大幅降低内存占用。
基本用法
使用Transformers库加载模型。推荐采样参数：temperature=1.0，top_p=0.95，top_k=64。
思考模式：通过在系统提示词开头添加特定token启用思考模式，移除该token则禁用思考。禁用思考后，模型仍会输出标签但思考块为空。
多轮对话：历史消息中仅应包含最终回复，不应包含之前的思考内容（工具调用除外）。
多模态输入顺序：图像内容应放在文本之前，音频内容应放在文本之后。
图像分辨率：支持可配置的视觉token预算（70、140、280、560、1120），低预算适用于分类、字幕或视频理解，高预算适用于OCR、文档解析或阅读小文本。
限制
音频输入最长30秒，视频输入最长60秒。
模型存在其他已知局限，用户应知悉。
该模型经过安全评估，但在无安全过滤器的情况下测试时，仍可能产生少量策略违规内容。
训练数据
预训练数据涵盖网页文档、代码、图像、音频等多种来源，数据截止日期为2025年1月。训练数据包含超过140种语言的内容，并经过CSAM过滤、敏感数据过滤和质量筛选。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。