闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

ruhui

anyforge/ruhui

发布机构anyforge

下载访问条件魔搭来源

[](https://pypi.org/project/ruhui/) [](https://opensource.org/licenses/Apache-2.0) [](https://huggingface.co/anyforge/ruhui)

文本处理
模型详情

模型介绍

中文整理

[](https://pypi.org/project/ruhui/)

[](https://opensource.org/licenses/Apache-2.0)

[](https://huggingface.co/anyforge/ruhui)

[](https://modelscope.cn/models/anyforge/ruhui)

Ruhui · 如晦

非自回归 System 1 决策引擎(中文/多语言),带校准概率。**

命名取自「房谋杜断」的杜如晦(字克明),「晦」音近「hui」。房玄龄善谋、杜如晦善断——Ruhui 取「断」之意:快速做 System 1 决策,不生成文本、无可解析输出、因此无幻觉。

是什么

Ruhui 在**单次前向传播**里回答**类型化问题**—— choice (选择)、 score (评分)、 noul (是/否)——对任意状态(文本、邮件、工单、JSON)给出每个选项的**校准概率**。不生成文本、不解析、不幻觉。

两个后端共用同一接口:

后端 架构 大小 延迟 优势

  • -- --- --- --- ---
  • *bert** 双向编码器(mmBERT-base)+ 决策头 322M ~33ms 快、CPU 可跑、中英双语
  • *llm** Causal LM(Qwen3.5)+ LoRA + PointerHead 0.8B+ 数百 ms 通用泛化更强

资源 链接 说明

  • -- --- ---

📦 **PyPI** [](https://pypi.org/project/ruhui/) pip install ruhui -U

🐙 **GitHub** [](https://github.com/anyforge/ruhui) 源码 + 双语 README + skill

🧩 **ModelScope** [](https://modelscope.cn/models/anyforge/ruhui) 模型仓库(bert + 0.8B)

🤗 **Hugging Face** [](https://huggingface.co/anyforge/ruhui) 模型仓库(bert + 0.8B)

🛠️ **OpenClaw Skill** [](https://clawhub.ai/anyforge/skills/ruhui) 智能体技能(ClawHub)

🛠️ **ModelScope Skill** [](https://www.modelscope.cn/skills/anyforge/ruhui) 智能体技能(魔搭)

安?

Python 3.10+。核心依赖: torch 、 transformers 、 safetensors 、 huggingface hub 、 numpy 。LLM 后端额外需要 peft 。

快速开始

llm 后端(大模型,通用性更强)

bert 后端(原版,用法不变)

详见代码仓库 anyforge/ruhui。

两个后端的技术原理

bert 后端 —— 编码器 + 决策头

双向编码器读完整段输入,然后一个 2 层决策头在每个选项自己的 [MASK] 槽位上**并行打分**。概率来自这些选项槽位上的 softmax,用 **RLCD**(严格恰当评分规则奖励的强化学习)训练,因此报告的置信度在统计上是有意义的。

llm 后端 —— Causal LM + PointerHead(KEV 式)

冻结的因果语言模型只做 **prefill**(从不生成 token)。每个问题成为一个分支,共享同一个状态前缀,用 block-causal mask 隔离。指针头读取 位置,去「指向」选项边界 token——注意力分数即选项概率。

LoRA 适配器在推理时折进底座权重(或用 merge model.py 永久合并)。

决策原语

原语 输出

  • -- ---

choice top 标签 + 全概率分布 + 置信度

score 有序标度上的期望值

noul 校准的 P(true)

置信度是归一化熵( 1 − H(p)/log K ),可安全地做门控:

微调

llm 后端(KEV 式)

bert 后端(Laya 式)

目录结构

模型仓库

Hugging Face: anyforge/ruhui (根 = bert 模型; 0.8B/ = LLM 0.8B 合并模型)

ModelScope: anyforge/ruhui (同上)

致谢

  • *Laya**(NandhaKishorM/laya,Apache 2.0)—— bert 后端 fork 的非自回归 System 1 决策范式与 RLCD 训练方法。
  • *KEV**(jaredpalmer/kev,Apache 2.0)—— llm 后端基于的 Causal LM + LoRA + PointerHead 架构。

License

Apache 2.0. Developed by AnyForge.

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部