模型介绍
中文整理Gemma 模型卡片
模型用途
Gemma 是由 Google DeepMind 开发的开源模型系列。Gemma 4 是多模态模型,支持文本和图像输入(E2B、E4B 和 12B 版本额外支持音频),输出文本。该系列提供预训练版本和指令微调版本。Gemma 4 支持最长 256K tokens 的上下文窗口,涵盖 140 多种语言。该系列适用于文本生成、编程和推理任务,包含五种规格:E2B、E4B、12B、26B A4B 和 31B。
主要能力
推理能力:全系列模型均具备可配置思考模式的高级推理能力。
多模态处理:支持文本、图像(含可变宽高比和分辨率)、视频;E2B、E4B、12B 额外支持音频。
架构选择:提供 Dense 和混合专家(MoE)两种架构,满足不同规模的部署需求。
端侧优化:小规格模型专为笔记本电脑和移动设备的高效本地运行设计。
长上下文:小型模型支持 128K tokens,中型模型支持 256K tokens。
编程与代理能力:编程基准测试表现显著提升,原生支持函数调用,可驱动自主代理。
原生系统提示支持:支持系统角色,实现更结构化、可控的对话。
输入输出
输入:文本、图像、视频、音频(仅 E2B、E4B、12B)
输出:文本
运行要求
E2B 和 E4B 适用于移动设备和边缘设备;12B、26B A4B 和 31B 适用于消费级 GPU 和工作站。具体参数配置因规格而异。
基本用法
使用 Transformers 库加载模型。推荐采样参数:temperature=1.0,top_p=0.95,top_k=64。启用思考模式需在系统提示中包含相应控制 token,模型将输出内部推理过程后再给出最终答案。多轮对话中,历史输出仅保留最终回复,之前的思考内容不应包含在下一轮用户输入之前。
限制
训练数据质量与多样性显著影响模型能力,偏差或数据缺口可能导致回复受限。训练数据集的范围决定了模型能有效处理的主题领域。模型在清晰提示和指令的任务上表现较好,开放式或高度复杂的任务可能具有挑战性。提供的上下文量会影响性能。自然语言存在固有复杂性,模型可能难以理解细微差别、讽刺或比喻性语言。模型基于训练数据生成回复,并非知识库,可能产生事实性错误。
许可证
Apache 2.0
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
