模型介绍
中文整理[](https://pypi.org/project/ruhui/)
[](https://opensource.org/licenses/Apache-2.0)
[](https://huggingface.co/anyforge/ruhui)
[](https://modelscope.cn/models/anyforge/ruhui)
Ruhui · 如晦
非自回归 System 1 决策引擎(中文/多语言),带校准概率。**
命名取自「房谋杜断」的杜如晦(字克明),「晦」音近「hui」。房玄龄善谋、杜如晦善断——Ruhui 取「断」之意:快速做 System 1 决策,不生成文本、无可解析输出、因此无幻觉。
是什么
Ruhui 在**单次前向传播**里回答**类型化问题**—— choice (选择)、 score (评分)、 noul (是/否)——对任意状态(文本、邮件、工单、JSON)给出每个选项的**校准概率**。不生成文本、不解析、不幻觉。
两个后端共用同一接口:
后端 架构 大小 延迟 优势
- -- --- --- --- ---
- *bert** 双向编码器(mmBERT-base)+ 决策头 322M ~33ms 快、CPU 可跑、中英双语
- *llm** Causal LM(Qwen3.5)+ LoRA + PointerHead 0.8B+ 数百 ms 通用泛化更强
资源 链接 说明
- -- --- ---
📦 **PyPI** [](https://pypi.org/project/ruhui/) pip install ruhui -U
🐙 **GitHub** [](https://github.com/anyforge/ruhui) 源码 + 双语 README + skill
🧩 **ModelScope** [](https://modelscope.cn/models/anyforge/ruhui) 模型仓库(bert + 0.8B)
🤗 **Hugging Face** [](https://huggingface.co/anyforge/ruhui) 模型仓库(bert + 0.8B)
🛠️ **OpenClaw Skill** [](https://clawhub.ai/anyforge/skills/ruhui) 智能体技能(ClawHub)
🛠️ **ModelScope Skill** [](https://www.modelscope.cn/skills/anyforge/ruhui) 智能体技能(魔搭)
安?
Python 3.10+。核心依赖: torch 、 transformers 、 safetensors 、 huggingface hub 、 numpy 。LLM 后端额外需要 peft 。
Quick start
llm 后端(大模型,通用性更强)
bert 后端(原版,用法不变)
详见代码仓库 anyforge/ruhui。
两个后端的技术原理
bert 后端 —— 编码器 + 决策头
双向编码器读完整段输入,然后一个 2 层决策头在每个选项自己的 [MASK] 槽位上**并行打分**。概率来自这些选项槽位上的 softmax,用 **RLCD**(严格恰当评分规则奖励的强化学习)训练,因此报告的置信度在统计上是有意义的。
llm 后端 —— Causal LM + PointerHead(KEV 式)
冻结的因果语言模型只做 **prefill**(从不生成 token)。每个问题成为一个分支,共享同一个状态前缀,用 block-causal mask 隔离。指针头读取 位置,去「指向」选项边界 token——注意力分数即选项概率。
LoRA 适配器在推理时折进底座权重(或用 merge model.py 永久合并)。
决策原语
原语 输出
- -- ---
choice top 标签 + 全概率分布 + 置信度
score 有序标度上的期望值
noul 校准的 P(true)
置信度是归一化熵( 1 − H(p)/log K ),可安全地做门控:
微调
llm 后端(KEV 式)
bert 后端(Laya 式)
目录结构
模型仓库
Hugging Face: anyforge/ruhui (根 = bert 模型; 0.8B/ = LLM 0.8B 合并模型)
ModelScope: anyforge/ruhui (同上)
致谢
- *Laya**(NandhaKishorM/laya,Apache 2.0)—— bert 后端 fork 的非自回归 System 1 决策范式与 RLCD 训练方法。
- *KEV**(jaredpalmer/kev,Apache 2.0)—— llm 后端基于的 Causal LM + LoRA + PointerHead 架构。
License
Apache 2.0. Developed by AnyForge.
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.
