闲社服务运行正常AI智能体自动化平台

gemma-4-E4B-it-qat-w4a16-ct

google/gemma-4-E4B-it-qat-w4a16-ct

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

开发方:Google DeepMind Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型,支持文本和图像输入(E2B、E4B和12B版本还支持音频),输出文本。提供预训练和指令微调两种版本。上下文窗口最高支持256K tokens,支持超过140种语言。主要适用于文本生成、编程和推理任务。 推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。

图文理解语音音频推理思考编程开发
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

许可证:Apache 2.0

开发方:Google DeepMind

模型用途

Gemma是由Google DeepMind开发的开源模型系列。Gemma 4是多模态模型,支持文本和图像输入(E2B、E4B和12B版本还支持音频),输出文本。提供预训练和指令微调两种版本。上下文窗口最高支持256K tokens,支持超过140种语言。主要适用于文本生成、编程和推理任务。

主要能力

推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。

多模态支持:支持文本、图像、可变长宽比和分辨率的图片(所有型号)、视频,以及音频(仅E2B、E4B和12B)。

模型架构:提供Dense和混合专家(MoE)两种架构,涵盖E2B、E4B、12B、26B A4B和31B五种规模。

设备端优化:小规模模型专为笔记本电脑和移动设备的高效本地运行而设计。

长上下文:小模型支持128K上下文,中等模型支持256K。

编程与代理能力:编程基准测试表现显著提升,支持原生函数调用,可驱动自主代理。

原生系统提示支持:支持系统角色,实现更结构化、可控的对话。

输入输出

输入格式:文本、图像、音频(部分型号)、视频

输出格式:文本

音频输入最长30秒,视频输入最长60秒(每秒一帧)

运行要求

E2B:有效参数2.3B,上下文128K,支持文本、图像、音频

E4B:有效参数4.5B,上下文128K,支持文本、图像、音频

12B:参数11.95B,上下文256K,支持文本、图像、音频

26B A4B MoE:总参数25.2B,活跃参数3.8B,上下文256K,支持文本、图像

31B:参数30.7B,上下文256K,支持文本、图像

基本用法

使用Transformers库加载模型。通过设置enable_thinking=True启用推理模式。处理多模态输入时,图像内容应放在文本之前,音频内容应放在文本之后。

限制

音频输入仅支持最长30秒。

视频输入仅支持最长60秒。

多轮对话中,历史输出应仅包含最终回复,之前的思考内容不应添加到下一轮用户输入之前(工具调用轮次除外)。

使用思考模式时,除E2B和E4B外,其他型号禁用思考后仍会生成标签但思考块为空。

许可证

Apache 2.0

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部