Loupe-4B-v1.0-Q5_K_M.gguf

秋毫审鉴（Loupe）-4B-v1.0-GGUF

模型概述

秋毫审鉴（Loupe）v1.0** 是一款面向中文审计及政务公文润笔场景的垂直微调模型，基于 Qwen3.5-4B 训练，本仓库为 llama.cpp GGUF 量化版（Q5 K M，经公开语料 importance-matrix 校准）。

项 说明

• -- ---

基座模型 Qwen3.5-4B

参数量 4B

文件体积 3.07 GB

量化 Q5 K M（llama.cpp），importance-matrix 校准

MD5 e35ce56b07026a089792951e20410977

部署形态 本地化部署，CPU/内存即可运行（8GB 内存可跑，16GB 推荐），数据不出本机

语言 中文

模型介绍

Loupe 取名自珠宝鉴定师的放大镜，与中文名"秋毫审鉴"同义呼应——明察秋毫、于细微处见真章。

模型聚焦解决审计公文写作中的三类痛点：

• **口语转公文**：将口语化、流水账式的表述提炼为规范的机关公文语体；
• **规范纠错**：易混词、公文惯用误用（台帐→台账、截止→截至、做出→作出、其它→其他等）的自动化修正；
• **结构重构**：标题排比化、段落"一是/二是/三是"格局化、冗词删减、精简收敛。

设计契约**：模型定位为"文笔执行器"——只动文气、不动事实。数字、金额、文号、单位名照抄不改；文书查错（验算、法条核对）由规则库/应用层负责，不在模型职责内。

适用场景**：审计报告、整改报告、工作总结、情况说明等公文材料的润笔与规范纠错。

不适用**：法律咨询、事实核查、数值验算、新闻写作、通用对话；禁止用于涉密信息的任何处理。

模型训练

• *训练方法**：LoRA 微调，bf16 精度，在通用公文能力之上做审计领域定向增强；
• *训练数据**：数千条经脱敏与合成处理的全网公开的审计及其他公文样本；
• *量化校准**：importance-matrix（imatrix）校准，校准语料为公开渠道审计公文。

数据合规声明

不包含任何涉密信息、内部工作材料或未公开的个人隐私信息；

模型为本地化部署形态，推理过程不需要联网，用户输入不经过任何第三方服务；

尽管如此，**请勿将涉密载体信息、国家秘密、工作秘密或个人隐私输入本模型**——任何语言模型的输入安全责任在使用者。

模型推理

通过 OpenAI 兼容接口（ /v1/chat/completions ）调用， temperature=0 、 max tokens=900 时输出最稳定。

• *重要**：本模型对系统提示词高度敏感，需配合与其训练口径一致的公文润笔系统提示词使用（包含润笔标准、打磨工序与"只动文气不动事实"的约束描述），否则输出风格会漂移。

生产部署护栏建议

模型为通用润笔底座，生产环境建议叠加以下轻量确定性规则（正则/模板，成本极低）：

• **数字-单位空格修正**：部分量化推理链路会在数字与中文单位间插入空格（如"3.28 万元"），建议输出端执行 (?