模型介绍
中文整理Gemma 4 模型卡片
模型用途
Gemma 是由 Google DeepMind 构建的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本还支持音频),生成文本输出。该系列提供预训练和指令微调两种版本。适用于文本生成、编程和推理等任务。
主要能力
推理能力:全系列模型均具备强大的推理能力,支持可配置的思考模式。
多模态支持:支持文本、图像(支持可变宽高比和分辨率)、视频,以及音频(仅 E2B、E4B、12B 版本原生支持)。
模型架构:提供 Dense 和混合专家(MoE)两种架构,涵盖 E2B、E4B、12B、26B A4B、31B 五种规模。
设备端优化:小规模模型专为笔记本电脑和移动设备的高效本地运行而设计。
超长上下文:小型模型支持 128K token 上下文,中型模型支持 256K token 上下文。
编程与代理能力:在编程基准测试中表现显著提升,原生支持函数调用,可驱动自主代理工作流。
原生系统提示支持:支持系统角色,实现更结构化、可控的对话。
输入输出
输入:文本、图像、视频、音频(仅限特定版本)
输出:文本
运行要求
模型规模:E2B(有效参数 2.3B)、E4B(有效参数 4.5B)、12B(11.95B)、26B A4B(活跃参数 3.8B)、31B(30.7B)
内存需求:模型提供量化感知训练(QAT)版本,可在保持类似 bfloat16 质量的同时大幅降低内存需求。提供多种格式:未量化 QAT 检查点、GGUF、移动端优化版、压缩张量格式。
基本用法
使用 Transformers 库加载模型。建议采样配置:temperature=1.0,top_p=0.95,top_k=64。
启用思考模式:在系统提示开头添加相应 token;禁用思考则移除该 token。
多轮对话:历史消息仅保留最终回复,之前的思考内容不应添加到下一轮用户消息之前(工具调用轮次除外)。
多模态输入顺序:图像内容置于文本之前,音频内容置于文本之后。
图像分辨率:支持可变 token 预算(70、140、280、560、1120),低预算适用于分类、字幕生成等场景,高预算适用于 OCR、文档解析等需要精细细节的任务。
音频处理:音频最长支持 30 秒。
视频处理:视频最长支持 60 秒(按每秒一帧处理)。
限制
音频输入最长 30 秒,视频输入最长 60 秒。
模型存在标准局限性,包括可能产生不准确信息、生成有害内容等风险。
许可证
Apache 2.0
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
