闲社服务运行正常AI智能体自动化平台

gemma-4-E4B-it-qat-q4_0-unquantized

google/gemma-4-E4B-it-qat-q4_0-unquantized

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),输出文本。该系列包含预训练模型和指令微调模型两种形式。Gemma 4 适用于文本生成、编程和推理任务,提供五种规格:E2B、E4B、12B、26B A4B 和 31B。 推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。 多模态支持:支持文本、图像(支持可变宽高比和分辨率)、视频,以及 E2B、E4

图文理解语音音频推理思考编程开发
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

模型用途

Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),输出文本。该系列包含预训练模型和指令微调模型两种形式。Gemma 4 适用于文本生成、编程和推理任务,提供五种规格:E2B、E4B、12B、26B A4B 和 31B。

主要能力

推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。

多模态支持:支持文本、图像(支持可变宽高比和分辨率)、视频,以及 E2B、E4B、12B 版本原生支持的音频。

架构多样性:提供 Dense(密集)和 MoE(混合专家)两种架构,可根据部署场景灵活选择。

设备端优化:小规模模型专为笔记本电脑和移动设备的高效本地运行而设计。

超长上下文:小型模型支持 128K token 上下文窗口,中型模型支持 256K token。

编程与智能体能力:在编程基准测试中表现显著提升,原生支持函数调用,可驱动高度自主的智能体。

原生系统提示支持:支持系统角色,实现更结构化、可控的对话。

输入输出

输入格式:文本、图像、音频(仅 E2B、E4B、12B)、视频

输出格式:文本

运行要求

模型参数规模从 2.3B 有效参数(E2B)到 30.7B(31B Dense)不等。26B A4B MoE 模型总参数 25.2B,推理时激活 3.8B。QAT(量化感知训练)版本可在保持接近 bfloat16 质量的同时大幅降低内存需求。

Dense 模型规格

E2B:2.3B 有效参数,上下文 128K,滑动窗口 512 token,支持文本、图像、音频

E4B:4.5B 有效参数,上下文 128K,滑动窗口 512 token,支持文本、图像、音频

12B:11.95B 参数,上下文 256K,滑动窗口 1024 token,支持文本、图像、音频

31B:30.7B 参数,上下文 256K,滑动窗口 1024 token,支持文本、图像

MoE 模型规格

26B A4B:总参数 25.2B,激活参数 3.8B,上下文 256K,滑动窗口 1024 token,支持文本、图像

基本用法

使用 Transformers 库加载模型。推荐采样参数:temperature=1.0,top_p=0.95,top_k=64。

思考模式:可通过在系统提示开头添加特定 token 启用思考模式,移除该 token 则禁用。

多模态输入顺序:图像内容置于文本之前,音频内容置于文本之后。

图像分辨率:支持可变 token 预算(70、140、280、560、1120),低预算适用于分类和视频理解,高预算适用于 OCR 和文档解析。

音频处理:最长支持 30 秒。视频处理:最长支持 60 秒(按每秒一帧处理)。

限制

音频输入最长 30 秒,视频输入最长 60 秒。模型存在其他已知局限性,用户应予以了解。

许可证

Apache 2.0

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部