Qwen3.8-27B-CCCP-14G-Sweet

Qwen3.8-27B-CCCP-14G-Sweet

Qwen3.8-27B 的 CCCP 甜点量化版本。语言模型投影采用经过完整因果评分筛选的量化配置，视觉塔、最后一层 MLP、Norm 与 Bias 保持源精度。模型必须使用支持 cccp-1 的 CCCP 推理框架 加载。

CCCP Windows 启动器 · CCCP 源码与文档

模型简介

本仓库不是普通 Transformers、GGUF 或标准低比特权重，而是 CCCP（Collective Codebook Compression Pipeline）格式的完整 Qwen3.8-27B 模型。量化不改变模型架构、层数、分词器和视觉塔，量化布局由仓库配置及 CCCP 引擎自动管理。

版本规格

项目 数值

• -- ---

基础模型 Qwen3.8-27B

CCCP 格式 cccp-1

模型架构 qwen3 5

Transformer 层数 64

隐藏维度 5,120

词表大小 248,320

原生上下文长度 262,144 token

量化张量 399

源精度保留张量 800

视觉塔 源精度保留

仓库实际体积 14.263 GiB（15,314,333,423 bytes）

完整性校验 cccp-1 全哈希与索引语义校验通过

最大上下文是模型配置声明值。实际可用长度受显存、RAM、KV Cache、后端和并发数影响。

质量验证

发布版本使用 WikiText2-raw test 全量文本，按 context 512、stride 256 切分为 1,159 块，共计 295,545 个有效评分 token，并使用同一份源模型作为参考。

指标 结果

• -- ---:

Mean KLD ± SE **0.168516 ± 0.000747**

PPL(q) = exp(Mean KLD) **1.183548**

Reference / Candidate PPL 6.982873 / 7.759354

Top-1 agreement 83.2882%

Reference Top-1 in candidate Top-5 98.1458%

Reference Top-1 in candidate Top-1%（Top-2,484） **99.9909%**

Mean JS divergence 0.035808

Mean total variation 0.152825

KLD p99 / p99.9 / max 1.752746 / 5.273405 / 18.129866

KLD >1 / >5 / >10 / >15 7,119 / 330 / 31 / 4

相同全量 WikiText2 口径下，上一版 15G Sweet 的 Mean KLD 为 0.218809 ；本版降低至 0.168516 ，下降约 **23.0%**。Top-1 agreement 从 81.1274% 提升至 83.2882% ，Top-5 从 97.5317% 提升至 98.1458% 。Top-1% 从 99.9926% 轻微变化为 99.9909% ，对应 295,545 个评分 token 中 27 个未命中。

PPL(q) 表示量化分布相对源分布的偏移倍率，不是候选模型在语料上的直接困惑度。候选 Top-1% 按每个 token 的候选 logits 排名严格计算：词表 248,320，对应 Top-2,484；它不是 Top-1 agreement，也不是由 Top-5 推算得到。

下载

在 CCCP Windows 启动器的“模型库 → 下载新模型”中选择 ModelScope，并填写：

也可以使用 ModelScope CLI：

下载后应保持 cccp.json 、 dense.safetensors 、 vq.global.safetensors 、全部 vq.Lxx.safetensors 、审计文件和分词器文件位于同一模型目录。

启动方式

• 下载并完整解压 CCCP Windows 启动器。
• 将完整模型目录放入启动器的 models 目录，或添加外部模型根目录。
• 在模型库刷新并确认识别为 CCCP 模型。
• 执行资源预检后启动，模型加载完成后默认提供 OpenAI 兼容 API。

OpenAI 兼容 API

兼容性与注意事项

必须使用支持本仓库 cccp-1 格式的 CCCP-Engine/启动器；不能直接由 Transformers、vLLM、SGLang 或 llama.cpp 加载。

首次运行可能需要建立本机算子和运行时缓存，请勿在加载阶段强制结束进程。

请勿手工修改 cccp.json 、审计文件或权重分片。

本模型及基础模型的使用应遵循上游 Apache-2.0 许可证、ModelScope 平台规则和适用法律。

上游模型与许可

基础模型为 Qwen3.8-27B。模型架构、能力说明、基准和引用请以上游模型卡与技术报告为准。本仓库只声明 CCCP 量化、完整性验证和 CCCP 本地推理兼容信息，不重复声称上游基准成绩。