BianCang-Qwen2.5-7B-Instruct

扁仓中医大模型（BianCang: A Traditional Chinese Medicine Large Language Model）

💡介绍

你好，欢迎来到扁仓中医大模型的开源仓库。

为推动大语言模型在传统中医领域的落地应用，辅助医生进行疾病诊断，辅助患者进行自我评估，推动大模型赋能传统中医，我们在该仓库推出了**扁仓**系列中医大模型。扁仓是古代名医扁鹊、仓公的并称，泛指名医。我们期待扁仓中医大模型能够在延续中医传承和提升我国人民医疗健康水平方面做出一定的贡献。

扁仓以Qwen2/2.5作为基座，采用先注入领域知识再进行知识激活和对齐的两阶段训练方法而得到。扁仓在中医辨病辨证等中医特色任务上取得了最先进的性能，并且在各种医学执照考试中表现优异。

我们在该仓库中开源以下资源：

扁仓基座模型权重：包括BianCang-Qwen2-7B、BianCang-Qwen2.5-7B、BianCang-Qwen2.5-14B。

扁仓指令精调模型权重：包括BianCang-Qwen2-7B-Instruct、BianCang-Qwen2.5-7B-Instruct、BianCang-Qwen2.5-14B-Instruct。

更多信息请查看GitHub)

🚀推理

使用SWIFT

环境安?

在Release v2.4.2 · modelscope/ms-swift处下载SWIFT源码，切换到对应目录，然后执行安装命令：

你可以根据自己的GPU驱动版本去选择合适的torch版本进行替换，SWIFT至少需要torch >= 1.13，推荐torch >= 2.0.0。

注意：由于我们进行SFT训练时使用的Chat Template为*qwen*，因此如果你使用的SWIFT版本大于我们提供的版本，可能会遇到Qwen2.5 Chat Template不对应的问题，请手动将Chat Template指定为*qwen*而不是*qwen2 5*。具体原因参考：fix qwen2.5 template by Jintao-Huang · Pull Request #2081 · modelscope/ms-swift

推理方式1-代码推理

输出：

推理方式2-部署API

使用以下命令部署API：

使用curl进行测试：

响应如下：

使用代码进行测试：

输出如下：

使用Transformers

你也可以使用transformers包进行推理：

使用Web UI

我们提供了一个简单的演示Web UI。

安装streamlit：

使用SWIFT部署API：

启动streamlit：

🥇中医能力测试

Model

TCM Syndrome Differentiation

TCM Disease Diagnosis

TCM Exam

TCMSD Acc.(%)

TCMSD-BC Acc.(%)

TCMDD Acc.(%)

TCMDD-BC Acc.(%)

MLEC-TCM Acc.(%)

MLEC-CWM Acc.(%)

DICoTDICoTDICoTDICoTZSFSZSFS

GPT-424.5345.2116.6770.7327.8354.5441.8068.3374.7076.3576.2676.37

DeepSeek-V334.6240.7424.5372.0046.9759.0882.6772.9384.9788.5685.0587.81

DeepSeek-R137.1755.6725.5376.0750.6680.7579.2794.5392.6893.1090.9290.77

Qwen2-7B31.7427.1832.7328.4041.6054.5974.8777.9386.0189.1884.4587.89

Qwen2-7B-Instruct25.7033.4114.2757.0032.8752.9260.4060.1383.6184.2279.8982.99

Qwen2.5-7B30.4421.2917.8735.7323.7143.8863.8771.2783.3285.5282.0284.04

Qwen2.5-7B-Instruct24.3032.199.9357.0736.2951.5162.9355.5378.7279.8877.2778.43

Qwen2.5-14B35.6225.2133.9330.1324.3336.6433.3332.8086.5989.9387.1090.06

Qwen2.5-14B-Instruct25.9435.0316.0760.0038.3049.3146.2753.6782.2584.8181.7985.68

BianCang-Qwen2-7B42.1430.3057.8048.0043.7354.6774.7380.6790.8691.8789.0890.36

BianCang-Qwen2-7B-Instruct68.8875.9657.3375.4064.4277.7189.0785.6792.3992.3991.1491.48

BianCang-Qwen2.5-7B46.5726.7252.9345.4749.8053.1568.1361.7386.4686.3083.9385.35

BianCang-Qwen2.5-7B-Instruct78.9082.1066.7377.7373.7382.6587.8789.4090.2290.5790.3290.62

BianCang-Qwen2.5-14B43.7733.9661.9353.4766.6160.3982.9377.0789.2890.8689.4290.58

BianCang-Qwen2.5-14B-Instruct79.3875.5462.2770.7377.6382.0586.3388.7392.2992.2992.7592.86

Model

CMB Acc.(%)

MLEC-Clinic Acc.(%)

MLEC-PublicHealth Acc.(%)

MLEC-Stomatology Acc.(%)

ZS/FS

ZS

FS

ZS

FS

ZS

FS

GPT-4

• 46*
• 63
• 69
• 55
• 58
• 97
• 43

DeepSeek-V3

• 33
• 83
• 41
• 38
• 59
• 09
• 97

DeepSeek-R1

• 38
• 51
• 36
• 42
• 40
• 03
• 16

Qwen2-7B

• 63
• 63
• 63
• 63
• 79
• 34
• 65

Qwen2-7B-Instruct

• 45
• 16
• 35
• 61
• 07
• 29
• 88

Qwen2.5-7B

• 60
• 65
• 55
• 39
• 17
• 03
• 79

Qwen2.5-7B-Instruct

• 51
• 81
• 73
• 96
• 85
• 93
• 40

Qwen2.5-14B

• 07
• 40
• 13
• 46
• 54
• 31
• 20

Qwen2.5-14B-Instruct

• 69
• 47
• 02
• 17
• 14
• 94
• 57

BianCang-Qwen2-7B (Ours)

• 27
• 88
• 31
• 57
• 72
• 29
• 47

BianCang-Qwen2-7B-Instruct (Ours)

• 08
• 35
• 35
• 37
• 64
• 19
• 02

BianCang-Qwen2.5-7B (Ours)

• 13
• 43
• 32
• 65
• 22
• 19
• 65

BianCang-Qwen2.5-7B-Instruct (Ours)

• 71
• 40
• 43
• 91
• 91
• 43
• 77

BianCang-Qwen2.5-14B (Ours)

• 34
• 70
• 37
• 92
• 97
• 16
• 94

BianCang-Qwen2.5-14B-Instruct (Ours)

• 80
• 74
• 97
• 86
• 53
• 43
• 51

更多测评结果请关注我们的技术报告。

🧡致谢

本项目基于开源项目进行开发，在此对相关项目和研究开发人员表示感谢。

Qwen2

Qwen2.5

SWIFT

ModelScope

ShenNong-TCM-LLM

HuatuoGPT-II

DISC-MedLLM

MLEC-QA

CMB

ZY-BERT

COIG

APE210k

Evol-Instruction-66K

❔关于我们

本项目由齐鲁工业大学（山东省科学院）计算学部（国家超级计算济南中心）自然语言处理与认知计算团队、山东~~省~~中医药大学附属医院临床研究中心合作完成。

❕免责声明

本项目相关资源仅供学术研究之用。

扁仓中医大模型作为基于语言模型的智能助手，具有局限性，无法保证所有响应的准确性，其不能代替中医/西医进行医学诊断和给出医学建议。如有需要，请咨询专业医生或前往医院就诊。

由于医疗领域的数据不准确可能造成严重后果，我们强烈建议用户在处理生成的信息时要小心谨慎，并向专家寻求建议。

📖引用