模型介绍
中文整理万美京女娲大模型 (WanMeiJing-NvWa)
医美行业首个专业大语言模型解决方案
目录
模型概览
技术亮点
Quick start
训练细节
评估结果
部署方案
知识库系统
商业应用
许可协议
联系我们
📌 模型概览
万美京女娲大模型**是基于Qwen2.5-14B-预训练架构的医美领域专业模型,通过三阶段飞轮迭代训练流程打造。
- *模型类型**: Decoder-only Transformer
- *参数量**: 14B (Base)
- *训练框架**: LLaMA Factory + OpenRLHF
- *语言**: 中文/英文(医学专业术语)
✨ 技术亮点
增量预训练
使用1.7GB高质量领域语料(医美+中医)和4.2GB通用领域语料进行增量预训练
创新性采用:
- 学习率退火策略(2e-5 → 3e-6)
- 通用领域数据重放(每0.02个epoch重放20%随机采样通用数据)
效果:
- 有效解决了灾难遗忘问题
- 医美领域loss 7.82 → 3.27
- 通用领域loss 仅 ↑ 0.13
奖励模型训练
20,000条机器生成与7,000条人工标注的pairwise数据集
- chosen 由 Doubao-1.5-pro 生成
- rejected 由 Qwen2.5-3B-Instruct 生成
效果:
- 将 PairwWiseLoss 从 0.8 显著降低至 0.02
监督微调
精选 2,100+ 条医美领域 prompt,通过奖励模型对 4,200+ 条 response 进行 rejection sampling,精选 top 1 样本。同时添加 3000+条通用指令遵循数据集以确保指令遵循能力
偏好对齐
使用 DeepSpeed 分布式训练对 SFT 模型进行 DPO(β=0.1,NLL loss系数=0.2)偏好对齐
效果:
- DPOLoss 从 6.88 降至 1.38
- accuracy由 0.28 提升至 0.99
飞轮迭代
借鉴llama 3.1 技术报告中的飞轮迭代经验,实施三轮模型自我迭代,动态更新监督微调、指令遵循与偏好数据集,持续优化模型性能。
🚀 快速开始
环境要求
基础推理
量化部署
🏗️ 训练细节
数据构成
数据类型 数量 来源
- --------- ------ ------
增量预训练 1.7GB医美+4.2GB通用 BAAI Industry Corpus 2
监督微调 2,100+ prompts 医美专家撰写
DPO对齐 27,000+ pairs 人工+AI生成
训练参数
📊 评估结果
核心指标
指标 基线(Qwen2.5) 本模型 提升
- ----- -------------- -------- ------
BLEU-4 5.2 38.3 +636%
ROUGE-2 3.82 41.9 +997%
幻觉率 23.7% 2.1% -91%
🖥️ 部署方案
性能对比
模式 显存占用 速度(tokens/s) 显存节省
- ----- ---------- --------------- ----------
FP16 28.7GB 42 -
AWQ-4bit 10.9GB 109 62%
推荐配置
轻量级部署: RTX 4090 (24GB) + vLLM
高性能部署: A10G (24GB) × 2 + Triton
云端部署: T4 GPU (16GB) + AWQ
🧠 知识库系统
架构设计
数据规模
数据类型 数量
- --------- ------
专业书籍 12本
行业法规 26部
临床报告 150+份
产品数据 10万+条
💼 商业应用
万美京医疗专家智能体
核心功能:
语音交互咨询
治疗方案生成
术后并发症预警
竞品对比分析
落地效果:
- 美博会期间意向订单 ↑97%
- 客户咨询效率 ↑185%
📜 许可协议
广州美央创新科技有限公司保留所有权利。All Rights Reserved.
本模型采用定制商业授权:
学术研究:免费申请
商业使用:需签订授权协议
禁止用途:医疗诊断等高风险场景
查看完整协议
📞 联系我们
广州美央创新科技有限公司-研发部-算法组-郭桓君(阿诚)**
广州美央创新科技有限公司-研发部-算法组-叶汇贤(Leaf)**
📍 广州市黄埔区保盈大道6号保盈大厦17楼
📧 mc45075@um.edu.mo
☎ +86 13242698751
© 2025 Guangzhou Meiyang Innovation Technology. All Rights Reserved.
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.
