闲社服务运行正常AI智能体自动化平台

gemma-4-26B-A4B-it-qat-q4_0-gguf

google/gemma-4-26B-A4B-it-qat-q4_0-gguf

发布机构谷歌(Google)已核实

下载访问条件国内镜像可用

Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),输出文本内容。该系列提供预训练和指令微调两种版本,上下文窗口最高支持 256K tokens,支持超过 140 种语言。 推理能力:全系列模型均支持可配置的思考模式,能够逐步推理后给出答案。 多模态处理:支持文本、图像、可变长宽比和分辨率的图片处理(所有型号)、视频,以及音频(E2B、E4B、12B 型号原生支持

文字对话图文理解语音音频推理思考
模型详情

模型介绍

中文整理

Gemma 4 模型卡片

模型概述

Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),输出文本内容。该系列提供预训练和指令微调两种版本,上下文窗口最高支持 256K tokens,支持超过 140 种语言。

主要能力

Gemma 4 具备以下核心能力:

推理能力:全系列模型均支持可配置的思考模式,能够逐步推理后给出答案。

多模态处理:支持文本、图像、可变长宽比和分辨率的图片处理(所有型号)、视频,以及音频(E2B、E4B、12B 型号原生支持)。

高效架构:提供 Dense 和混合专家(MoE)两种架构,适配从高端手机到笔记本电脑再到服务器的各种部署环境。

设备端优化:小模型专为笔记本电脑和移动设备的高效本地运行而设计。

超长上下文:小模型支持 128K tokens 上下文,中等模型支持 256K tokens。

增强的编码和代理能力:在编码基准测试中表现显著提升,支持原生函数调用,可驱动高度自主的代理应用。

原生系统提示支持:支持系统角色,实现更结构化、可控的对话。

输入输出

输入格式:文本、图像、音频(仅 E2B、E4B、12B)、视频

输出格式:文本

支持交错多模态输入:可在单次提示中自由混合文本和图像。

运行要求

模型提供五种规格:E2B(有效参数 2.3B)、E4B(有效参数 4.5B)、12B(119.5B 参数)、26B A4B MoE(活跃参数 3.8B)、31B(30.7B 参数)。不同规格可部署在移动设备、消费级 GPU 到工作站等多种环境。

基本用法

使用 Transformers 库加载模型。建议采样配置:temperature=1.0,top_p=0.95,top_k=64。

启用思考模式:在系统提示开头添加相应控制 token 即可启用思考。要禁用思考,移除该 token。

多模态输入顺序:图像内容置于文本之前,音频内容置于文本之后。

图像分辨率:支持可变分辨率,通过视觉 token 预算控制(70、140、280、560、1120)。低预算适用于分类、字幕生成或视频理解;高预算适用于 OCR、文档解析或阅读小文本。

音频处理:音频最长支持 30 秒。视频最长支持 60 秒(假设每秒处理一帧)。

限制

模型存在以下已知限制:

内容安全限制:模型经过安全评估,但仍可能产生违反政策的内容。已针对儿童性虐待材料、危险内容、露骨内容、仇恨言论和骚扰等内容进行安全测试。

多语言能力:某些语言(特别是中文)的音频处理结果可能不如英语。

音频长度:音频输入最长 30 秒,超过此长度的音频将被截断。

使用场景

该模型适用于以下场景:

内容创作与通信:文本生成、聊天机器人、文本摘要、图像数据提取、音频处理与交互

研究与教育:自然语言处理和视觉语言模型研究

许可证

Apache 2.0

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部