模型介绍
中文整理# Gemma 4 模型卡片
## 概述
Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本额外支持音频),生成文本输出。该系列提供预训练模型和指令微调模型两种版本。
## 主要能力
- *推理能力**:全系列模型均具备可配置思考模式的内置推理能力。
- *多模态处理**:支持文本、图像(含可变宽高比和分辨率支持)、视频,以及音频(E2B、E4B、12B 原生支持)。
- *长上下文**:小型模型支持 128K tokens 上下文窗口,中型模型支持 256K tokens。
- *图像理解**:支持目标检测、文档/PDF 解析、屏幕和 UI 理解、图表理解、OCR(含多语言)、手写识别和指向功能。
- *视频理解**:通过处理帧序列分析视频。
- *交错多模态输入**:可在单次提示中自由混合文本和图像。
- *函数调用**:原生支持结构化工具使用,赋能智能体工作流。
- *编程能力**:代码生成、补全和修正。
- *多语言支持**:开箱即用支持 35 种以上语言,预训练覆盖 140 种以上语言。
- *音频处理**(仅 E2B、E4B、12B):自动语音识别和多语言语音翻译。
## 输入输出
- *输入**:文本、图像、视频、音频(部分型号)
- *输出**:文本
- *上下文长度**:E2B/E4B 为 128K tokens,12B/26B A4B/31B 为 256K tokens
- *可变分辨率**:支持通过可配置视觉 token 预算调整图像分辨率,预算值包括 70、140、280、560 和 1120
运行要求
- *模型规格**:
- E2B:有效参数 2.3B(含嵌入 5.1B),35 层,滑动窗口 512 tokens
- E4B:有效参数 4.5B(含嵌入 8B),42 层,滑动窗口 512 tokens
- 12B Unified:参数 11.95B,48 层,滑动窗口 1024 tokens
- 31B Dense:参数 30.7B,60 层,滑动窗口 1024 tokens
- 26B A4B MoE:总参数 25.2B,活跃参数 3.8B,30 层,滑动窗口 1024 tokens
- *词汇表大小**:262K
- *音频支持时长**:最长 30 秒
- *视频支持时长**:最长 60 秒(按每秒一帧计算)
基本用法
使用 Transformers 最新版本加载模型。建议采样配置:temperature=1.0,top_p=0.95,top_k=64。
启用推理模式需在系统提示开头包含相应 token。
多模态输入优化:图像内容置于文本之前,音频内容置于文本之后。
限制
- *训练数据影响**:训练数据的质量和多样性显著影响模型能力,数据中的偏见或缺口可能导致模型响应存在局限。
- *任务复杂度**:模型在清晰提示和指令可框定的任务上表现良好,开放式或高度复杂的任务可能具有挑战性。
- *语言歧义**:自然语言本身复杂,模型可能难以理解细微差别、讽刺或比喻性语言。
- *事实准确性**:模型基于训练数据集学习的信息生成响应,并非知识库。
许可证
Apache 2.0
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
