闲社服务运行正常AI智能体自动化平台

gemma-4-E4B-it-qat-q4_0-gguf

google/gemma-4-E4B-it-qat-q4_0-gguf

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本额外支持音频),输出文本内容。该系列提供预训练和指令微调两种版本,上下文窗口最高支持 256K tokens,支持超过 140 种语言。 推理能力:全系列模型均具备可配置思考模式的高级推理能力。 多模态处理:支持文本、图像(含可变宽高比和分辨率)、视频;E2B、E4B、12B 额外支持音频。

文字对话图文理解语音音频推理思考
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

模型概述

Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本额外支持音频),输出文本内容。该系列提供预训练和指令微调两种版本,上下文窗口最高支持 256K tokens,支持超过 140 种语言。

主要能力

推理能力:全系列模型均具备可配置思考模式的高级推理能力。

多模态处理:支持文本、图像(含可变宽高比和分辨率)、视频;E2B、E4B、12B 额外支持音频。

模型架构:提供 Dense 和混合专家(MoE)两种架构,五个规格分别为 E2B、E4B、12B、26B A4B、31B。

设备端优化:小规格模型专为笔记本电脑和移动设备的高效本地运行设计。

长上下文:小型模型支持 128K tokens,中大型模型支持 256K tokens。

编程能力:代码生成、补全和修正,基准测试表现显著提升。

原生系统提示支持:支持 system 角色,实现更结构化、可控的对话。

输入输出格式

输入:文本、图像、音频(仅 E2B、E4B、12B)、视频

输出:文本

支持多模态交错输入:可在单次提示中自由混合文本和图像

运行要求

硬件适配:从移动设备到服务器均有对应规格

内存需求:QAT(量化感知训练)版本可在保持接近 bfloat16 质量的同时大幅降低内存占用

音频处理:最长支持 30 秒

视频处理:最长支持 60 秒(每秒一帧)

许可证

Apache 2.0

使用限制

音频输入长度上限为 30 秒,视频输入上限为 60 秒

模型可能产生政策违规内容,需进行安全评估

多轮对话中历史输出仅应包含最终回复,思考内容不应保留到下一轮

部分功能需要特定的 token 预算配置以平衡精度与速度

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部