闲社服务运行正常AI智能体自动化平台

gemma-4-26B-A4B-it-qat-q4_0-unquantized

google/gemma-4-26B-A4B-it-qat-q4_0-unquantized

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),并生成文本输出。该版本提供预训练和指令微调两种形式的开源权重模型。Gemma 4 支持最高 256K tokens 的上下文窗口,并支持超过140 种语言。 推理能力:全系列模型均设计为高效推理器,支持可配置的思考模式。 多模态处理:支持文本、图像(支持可变宽高比和分辨率)、视频,以及 E2B、E4B、12B 原

文字对话图文理解语音音频推理思考
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

模型概述

Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),并生成文本输出。该版本提供预训练和指令微调两种形式的开源权重模型。Gemma 4 支持最高 256K tokens 的上下文窗口,并支持超过140 种语言。

许可证

Apache 2.0

主要能力

推理能力:全系列模型均设计为高效推理器,支持可配置的思考模式。

多模态处理:支持文本、图像(支持可变宽高比和分辨率)、视频,以及 E2B、E4B、12B 原生支持的音频。

架构多样性:提供 Dense 和混合专家(MoE)两种架构的不同尺寸版本,支持从移动设备到服务器的灵活部署。

设备端优化:较小模型专为笔记本电脑和移动设备的高效本地运行而设计。

长上下文:小型模型支持 128K tokens 上下文,中型模型支持 256K tokens。

编码与智能体能力:在编码基准测试中表现显著提升,支持原生函数调用,可驱动高度自主的智能体。

原生系统提示支持:Gemma 4 引入对系统角色的原生支持,实现更结构化、可控的对话。

模型规格

Dense 模型:E2B(有效参数 2.3B)、E4B(有效参数 4.5B)、12B Unified(11.95B)、31B Dense(30.7B)

MoE 模型:26B A4B(总参数 25.2B,活跃参数 3.8B)

支持的模态:E2B、E4B、12B 支持文本、图像、音频;31B 支持文本、图像

输入输出

输入:文本、图像、视频、音频(部分型号)

输出:文本

运行要求

模型提供多种尺寸,可部署于从高端手机、笔记本电脑到服务器的各种环境。建议使用最新版本的 Transformers 库。

基本用法

安装依赖:pip install -U transformers torch accelerate

采样配置:temperature=1.0,top_p=0.95,top_k=64

思考模式:通过在系统提示开头包含特定 token 启用思考功能,移除该 token 则禁用。

多轮对话:历史输出仅应包含最终回复,之前轮次的思考内容不应添加到下一用户轮次之前(工具调用轮次除外)。

多模态输入顺序:图像内容置于文本之前,音频内容置于文本之后。

图像分辨率:支持可变 token 预算(70、140、280、560、1120),低预算适用于分类、字幕生成等任务,高预算适用于 OCR、文档解析等需要精细细节的任务。

音频处理:音频最长支持 30 秒,视频最长支持 60 秒(每秒一帧)。

使用限制

模型存在以下已知限制:多模态模型在某些复杂场景下的理解能力可能受限;长上下文处理可能受限于具体硬件配置;模型输出可能存在幻觉问题,建议对重要应用场景进行人工审核。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部