闲社服务运行正常AI智能体自动化平台

gemma-4-E2B-it-qat-q4_0-gguf

google/gemma-4-E2B-it-qat-q4_0-gguf

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型,支持文本和图像输入(E2B、E4B和12B版本还支持音频),输出文本。提供预训练和指令微调两种版本。上下文窗口最高支持256K tokens,支持超过140种语言。主要适用于文本生成、编程和推理任务。 推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。 多模态处理:支持文本、图像(含可变宽高比和分辨率)、视频,以及E2B、E4B、12B版本的音频处理。

文字对话图文理解语音音频推理思考编程开发
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

许可证

Apache 2.0

作者

Google DeepMind

模型用途

Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型,支持文本和图像输入(E2B、E4B和12B版本还支持音频),输出文本。提供预训练和指令微调两种版本。上下文窗口最高支持256K tokens,支持超过140种语言。主要适用于文本生成、编程和推理任务。

主要能力

推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。

多模态处理:支持文本、图像(含可变宽高比和分辨率)、视频,以及E2B、E4B、12B版本的音频处理。

混合注意力机制:结合局部滑动窗口注意力与全局注意力,最终层始终使用全局注意力,兼顾处理速度与长上下文理解能力。

高效架构:提供Dense和混合专家(MoE)两种架构,适配从手机到服务器的不同部署环境。

长上下文:小型模型支持128K tokens上下文,中大型模型支持256K tokens。

编程能力:在编程基准测试中表现显著提升,支持原生函数调用功能。

多语言支持:开箱即用支持35种以上语言,预训练覆盖140种以上语言。

输入输出

输入:文本、图像、视频、音频(仅E2B、E4B、12B版本)

输出:文本

运行要求

模型规格:提供E2B(有效参数2.3B)、E4B(有效参数4.5B)、12B Unified(11.95B)、26B A4B MoE(活跃参数3.8B)、31B Dense(30.7B)五种规格。

量化版本:提供多种量化格式以降低内存需求,包括未量化QAT检查点、GGUF格式、移动端优化格式(wNa8o8)、压缩张量格式(w4a16)。

音频处理:音频最长支持30秒,视频最长支持60秒(每秒一帧)。

基本用法

推荐采样参数:temperature=1.0,top_p=0.95,top_k=64

思考模式:在系统提示词开头添加相应token启用思考模式,移除则禁用

多模态输入顺序:图像内容置于文本之前,音频内容置于文本之后

图像分辨率:支持可配置的视觉token预算(70、140、280、560、1120),低预算适用于分类和视频理解,高预算适用于OCR和文档解析

限制

音频输入最长30秒,视频输入最长60秒

多轮对话中,历史输出仅应包含最终回复,之前的思考内容不应添加到下一轮用户输入之前(工具调用轮次除外)

部分功能仅特定版本支持:音频功能仅E2B、E4B、12B版本可用

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部