闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

TranslateGemma-4B-GGUF

42ailab/TranslateGemma-4B-GGUF

发布机构42ailab

下载访问条件魔搭来源

TranslateGemma-4B · 全本地多语翻译(轻量档) [](https://ai.google.dev/gemma/terms) [](https://42model.com)

文本处理
模型详情

模型介绍

中文整理

TranslateGemma-4B · 全本地多语翻译(轻量档)

[](https://ai.google.dev/gemma/terms)

[](https://42model.com)

[](https://42model.com)

给一段任意语言的文字,本模型把它翻译成你要的语言——覆盖 **55 种语言**、全部在你自己的电脑上完成,**不上云、免费、私密**;最小档不到 2.5 GB,8 GB 内存的电脑也能跑。

  • *模型由 Google Translate 团队研发、以 Gemma 使用条款开源**(TranslateGemma,基于 Google 的 Gemma 3)。**GGUF 量化档由社区贡献者 bullerwins 制作**。**本仓既不是新模型、也不是我们量化的**——我们做的是把这份量化档**逐字节镜像到 ModelScope**(国内可直连下载),并把它接进活水模型引擎、让你像平常聊天一样就能翻译。

一、它解决什么问题

日常里跨语言的阅读、写作、沟通无处不在,但主流翻译往往要把你的原文**上传到别人的服务器**:

  • *隐私敏感内容**:合同、病历、内部资料、私人信件——不愿交给云端翻译;
  • *随手翻译**:读外文资料、写外语邮件、看外语网页,想要一个随叫随到的翻译;
  • *无网 / 弱网场景**:出差、飞行、内网环境,云端翻译用不了。

本模型让翻译这一步**完全在本地完成**:原文不出你的设备,免费、私密、离线可用。**4B 是这个家族的入门轻量档**——体积最小、下载快、内存占用低,适合老机器、轻薄本,或只想随手翻两句的场景;对翻译质量要求更高时,可选家族里的 12B / 27B 档。

二、它是怎么做到的

翻译能力来自 Google 的 TranslateGemma(基于 Gemma 3)**,据其官方模型卡:

从 Gemma 3 微调而来、**专为翻译训练**,覆盖 55 种语言(含中文);

训练数据来自大量平行语料(含 Gemini 生成的高质量译文与公开平行文档);

体量小,因此可以搬到笔记本 / 台式机上本地运行。

我们做的**(不含模型训练,也不含量化):

把社区制作的 GGUF 量化档**逐字节镜像**到 ModelScope,sha256 与来源完全一致(国内下载不必翻墙);提供 **Q4 K M**(更小更省内存)与 **Q8 0**(量化位宽更高、更接近原始权重)两种档位任选;

  • *让普通对话方式就能用**:上游官方用法需要按一套结构化格式传入「源语言 / 目标语言」代码字段,普通聊天客户端无法直接调用;我们在引擎侧改用**一句中文指令**(如「把下面的文本翻译成英语」)的标准 Gemma 3 对话方式,并在桌面上开放 **34 个常用翻译方向**供直接选择——**模型权重本身没有任何改动**;
  • *调好默认参数**:翻译讲求稳定复现,本地默认把随机性调低(temperature 0.3 / top-p 0.95 / top-k 64),同一句多次翻译更一致;

沿用与上游**一致的 Gemma 使用条款**。

三、效果如何

下表是 **Google 官方技术报告**中 **4B 档**的结果(arXiv:2601.09012,仅摘录、非我方测得):

基准(Google 官方报告) 4B 结果

  • -- ---

WMT24++(55 种语言)· MetricX(越低越好) 5.32

WMT24++(55 种语言)· Comet(越高越好) 81.6

WMT25(10 种语言)· MQM 官方未报告 4B 档

作为参照,同家族 12B 档为 MetricX 3.60 / Comet 83.5,27B 档为 3.09 / 84.4——**更大的档位译得更准,4B 换来的是体积与内存**。

我们自己核验的**:我方 ModelScope 档与社区来源档**逐字节一致**(sha256 与大小相同,未做二次压缩)。我们**未**重跑上述公开基准,因此不虚报「量化前后掉几分」这类数字。

四、局限与下一步

  • *本地档只做文字翻译**:上游 TranslateGemma 还支持「识别图片里的文字并翻译」,本量化档不含视觉部分,暂不支持图片翻译。
  • *轻量档的取舍**:按官方报告,4B 的翻译质量低于 12B / 27B;对准确度敏感的正式文本,建议用更大档位。
  • *适合段落级、而非超长文档**:上游单次输入上下文约 2K tokens,适合句子 / 段落翻译;超长文档请分段。
  • *提示词非上游官方模板**:为了让普通对话方式可用,我们用的是中文指令式提示;上游注明官方仅支持其结构化模板,其他提示方式效果由使用方自行评估。
  • *一般语言模型的通病**:对俚语、双关、反讽等细微语义可能拿捏不准,也可能产生不准确的表述——重要场合请人工复核。

下一步:视真实需求开放更多语言方向;评估自产量化档与图片翻译支持。

五、怎么下载与使用

本模型专为 活水模型(42model) 打包,推荐通过它获取:

桌面版**

在「模型库」→「翻译」里找到 **TranslateGemma** 的 **4B** 档下载,点「开始使用」,即可离线翻译。本仓的两种量化(Q4 K M / Q8 0)在模型库里按体积分别列出:想省空间选前者,想更接近原始精度选后者。

建议内存:**8 GB 及以上**。

文件与许可

文件 作用 大小

  • -- --- ---

translategemma-4b-it-Q4 K M.gguf 翻译解码器(Q4 K M 量化·更省内存) ~2.49 GB

translategemma-4b-it-Q8 0.gguf 翻译解码器(Q8 0 量化·更接近原始权重) ~4.13 GB

两档任选其一即可,不必都下。各文件 sha256 见 ModelScope 文件页,可自行校验。

许可**:模型本体为 TranslateGemma,© Google,**Gemma 使用条款**(官方源:ModelScope · 发布博客 · 技术报告 · Gemma 条款)。GGUF 量化档由社区贡献者 bullerwins 制作;本仓为该量化档的镜像,同样遵循 Gemma 使用条款:**允许商用,但须遵守 Google 的 Gemma 使用条款与禁止使用政策**,使用即表示同意上述条款。

引用

请引用上游 Google(TranslateGemma 技术报告):

本仓只做镜像与本地适配,不主张任何模型或量化成果的署名。

联系我们:**contact@42ailab.com**

关于我们

活水 AI 实验室(42ailab)** — 探索智能边界的 AI 创新实验室,以认知科学为基石,推动 AI 与人类智能的深度融合,真正理解并增强智能 —— 碳基的,也是硅基的。

活水模型(42model)** — 由活水 AI 实验室出品的高性能本地 AI 大模型推理引擎,让翻译、转写、识别、对话、编程等 AI 能力在你的本机免费私密运行;并可借云端算力微调专属模型,回传本机运行。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部