闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

Loupe-4B-v1.0-Q5_K_M.gguf

audits/Loupe-4B-v1.0-Q5_K_M.gguf

发布机构audits

下载访问条件魔搭来源

秋毫审鉴(Loupe)-4B-v1.0-GGUF 秋毫审鉴(Loupe)v1.0 是一款面向中文审计及政务公文润笔场景的垂直微调模型,基于 Qwen3.5-4B 训练,本仓库为 llama.cpp GGUF 量化版(Q5 K M,经公开语料 importance-matrix 校准)。 量化 Q5 K M(llama.cpp),importance-matrix 校准

文字对话
模型详情

模型介绍

中文整理

秋毫审鉴(Loupe)-4B-v1.0-GGUF

模型概述

秋毫审鉴(Loupe)v1.0** 是一款面向中文审计及政务公文润笔场景的垂直微调模型,基于 Qwen3.5-4B 训练,本仓库为 llama.cpp GGUF 量化版(Q5 K M,经公开语料 importance-matrix 校准)。

项 说明

  • -- ---

基座模型 Qwen3.5-4B

参数量 4B

文件体积 3.07 GB

量化 Q5 K M(llama.cpp),importance-matrix 校准

MD5 e35ce56b07026a089792951e20410977

部署形态 本地化部署,CPU/内存即可运行(8GB 内存可跑,16GB 推荐),数据不出本机

语言 中文

模型介绍

Loupe 取名自珠宝鉴定师的放大镜,与中文名"秋毫审鉴"同义呼应——明察秋毫、于细微处见真章。

模型聚焦解决审计公文写作中的三类痛点:

  • **口语转公文**:将口语化、流水账式的表述提炼为规范的机关公文语体;
  • **规范纠错**:易混词、公文惯用误用(台帐→台账、截止→截至、做出→作出、其它→其他等)的自动化修正;
  • **结构重构**:标题排比化、段落"一是/二是/三是"格局化、冗词删减、精简收敛。

设计契约**:模型定位为"文笔执行器"——只动文气、不动事实。数字、金额、文号、单位名照抄不改;文书查错(验算、法条核对)由规则库/应用层负责,不在模型职责内。

适用场景**:审计报告、整改报告、工作总结、情况说明等公文材料的润笔与规范纠错。

不适用**:法律咨询、事实核查、数值验算、新闻写作、通用对话;禁止用于涉密信息的任何处理。

模型训练

  • *训练方法**:LoRA 微调,bf16 精度,在通用公文能力之上做审计领域定向增强;
  • *训练数据**:数千条经脱敏与合成处理的全网公开的审计及其他公文样本;
  • *量化校准**:importance-matrix(imatrix)校准,校准语料为公开渠道审计公文。

数据合规声明

不包含任何涉密信息、内部工作材料或未公开的个人隐私信息;

模型为本地化部署形态,推理过程不需要联网,用户输入不经过任何第三方服务;

尽管如此,**请勿将涉密载体信息、国家秘密、工作秘密或个人隐私输入本模型**——任何语言模型的输入安全责任在使用者。

模型推理

通过 OpenAI 兼容接口( /v1/chat/completions )调用, temperature=0 、 max tokens=900 时输出最稳定。

  • *重要**:本模型对系统提示词高度敏感,需配合与其训练口径一致的公文润笔系统提示词使用(包含润笔标准、打磨工序与"只动文气不动事实"的约束描述),否则输出风格会漂移。

生产部署护栏建议

模型为通用润笔底座,生产环境建议叠加以下轻量确定性规则(正则/模板,成本极低):

  • **数字-单位空格修正**:部分量化推理链路会在数字与中文单位间插入空格(如"3.28 万元"),建议输出端执行 (?

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部