SoulChat2.0-Qwen2-7B

心理咨询师数字孪生（SoulChat2.0）

最近更新

👏🏻 2025.07.24：我们的论文收录在ACL 2025 Main，详见 PsyDT: Using LLMs to Construct the Digital Twin of Psychological Counselor with Personalized Counseling Style for Psychological Counseling

👏🏻 2025.05.16：祝贺！ **我们的论文已经成功被ACL 2025 主会接收！** 🎉

👏🏻 2024.12.19：欢迎大家关注我们的工作：PsyDT: Using LLMs to Construct the Digital Twin of Psychological Counselor with Personalized Counseling Style for Psychological Counseling

简介

自2023年5月发布SoulChat以来，我们经过对真实世界心理咨询语言风格、疗法技术等方面的深入探索，在心理咨询师数字孪生建模能力上取得了显著提升。

自从ChatGPT诞生以来，国内外已有大量的工作将大语言模型应用于情感陪护、心理健康支持对话、心理咨询对话领域，例如SoulChat、MeChat、QiaoBan、CPsyCoun、MindChat、EmoLLM等等。然而，过往的工作没有充分考虑到不同的心理咨询师具有不同的个人风格，包括语言风格和疗法风格等等，从而导致微调好的心理健康LLMs难以满足来访者对于不同咨询风格咨询师的个人需求。此外，将不同咨询风格的多轮对话数据进行混合微调容易造成LLM回复的不稳定。

针对上述问题，华南理工大学未来技术学院-广东省数字孪生人重点实验室在灵心大模型（SoulChat1.0）基础上，首次推出了心理咨询师数字孪生大语言模型SoulChat2.0。

数据构造与模型建立

心理咨询师数字孪生大语言模型SoulChat2.0包含2个部分：（1）心理咨询师数字孪生数据生成；（2）心理咨询师数字孪生建模。

（1）心理咨询师数字孪生数据生成

要实现特定的心理咨询师的数字孪生，前提是能获取该心理咨询师的大量咨询案例，但是这对于心理咨询师个体而言，难度极大。一方面，需要考虑心理咨询的伦理要求和隐私保护，另一方面，数据的采集也非常繁琐。为此，有必要建立一种仅需少量咨询案例的心理咨询师数字孪生数据生成框架。心理咨询师的每个咨询案例都体现了本人的语言风格与咨询技术应用方式，这可以借助于现有的先进的LLMs的语言总结能力去提取。同时，为了保证生成的数据的多样性，需要尽可能建模用户的个性特质，我们以常用的大五人格为参考，对单轮对话咨询数据库中的来访者进行了大五人格分析。通过综合真实世界咨询师的语言风格、咨询技术、来访者大五人格，结合真实世界咨询案例，对于单轮对话进行心理咨询师数字孪生数据生成。采取我们的框架生成的多轮对话数据，能有效表征特定心理咨询师的语言风格与咨询技术应用方式。为了综合考虑成本与效果，我们设定了用于心理咨询师数字孪生数据生成的单轮对话咨询数据库的规模为5000个，特定心理咨询师的咨询案例数目设定为12个（为保证低成本，一般不多于20个）。最终，只需要给定任意心理咨询师的少量咨询案例，我们的框架即可快速生成批量用于该心理咨询师数字孪生建模的咨询案例。

利用LLMs对三种合成的对话数据与真实案例的相似度进行评估对比。相比于Smile和SoulChat1.0，SoulChat2.0提出的数据生成方法（PsyDT Prompt），在所有话题上都能很好地构建高质量的数字孪生数据。

（2）心理咨询师数字孪生建模

给定用于心理咨询师数字孪生建模的咨询案例数据PsydtCorpus，可以通过微调来实现对该咨询师的数字孪生。为了方便研究社区进行对比和复现，我们选用Qwen2-7b-Instruct作为基座模型，在PsyDTCorpus的训练集上进行全量微调3个epoches。并且与ChatGPT、GPT-4为代表的闭源模型，Baichuan2-7B-Chat 、GLM4-9B-Chat、Meta-Llama3-8B-Instruct等7个模型为代表的开源模型，以及MeChat、PsyChat、SoulChat1.0、MindChat、EmoLLM、CPsyCounX6个心理健康领域的大模型在PsyDTCorpus的测试集进行自动化对比分析。我们的模型在所有的维度上都取得了较好的结果。这表明了通过心理咨询师数字孪生建模的方式，能很好地提升LLMs的真实心理咨询性能。

SoulChat2.0的推出，将为心理健康大模型领域带来新的研究思路：通过少量的真实咨询案例去进行心理咨询师数字孪生建模的方式，可以低成本、快速、高效地构建拥有特定心理咨询师语言风格与疗法技术的心理健康大模型，能很好地辅助真实世界心理咨询师展开心理咨询工作，例如执行这些咨询师的前置谈话，二十四小时的在线服务等等。

数据

我们开源了所构建的心理咨询师数字孪生数据（训练集与测试集）：

PsyDTCorpus：对特定心理咨询师的真实多轮咨询案例，基于5000个单轮咨询样本进行数字孪生数据合成，最终得到5000个具有该咨询师语言风格与疗法技术应用方式的高质量心理健康对话数据。其中4760个样本作为训练集，240个样本被拆分为多个测试样例。数据集总的轮数为：90,365，其中测试集的轮次为：4,311。

数据分割 文件名 规模

:------: :----------- :------

训练集 PsyDTCorpus train mulit turn packing.json 4760个对话，总共86054轮，平均每个对话18轮

测试集 PsyDTCorpus test single turn split.json 240个对话，总共4311轮，平均每个对话18轮

数据集的下载方式：

方式1：使用

方式2：使用

注意：** 更多下载方式可以参考modelscope的使用文档数据集的下载。

我们采用了OpenAI格式来构造数据，数据样例如下：

模型

环境配置

请参考LLaMA-Factory以及《LLaMA-Factory QuickStart》进行环境配置。

关键包与超参数

我们在多个基座模型上进行全量参数微调，

微调的关键包版本依赖如下：

Transformers 4.43.0

Pytorch 2.3.0+cu121

Datasets 2.18.0

Tokenizers 0.19.1

Llama-Factory 0.8.3.dev0

微调的超参数配置如下：

learning rate: 1e-05

train batch size: 2

eval batch size: 1

seed: 42

distributed type: multi-GPU

num devices: 8

total train batch size: 16

total eval batch size: 8

optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08

lr scheduler type: cosine

lr scheduler warmup ratio: 0.03

num epochs: 3.0

mixed precision training: Native AMP

全参数微调

我们在./train model当中提供了全量微调各个基座模型构建心理咨询师数字孪生模型的配置文件，用户在安装了LLaMA-Factory之后，只需要按照上面的数据下载步骤下载数据集，然后下载基座模型参数到本地，修改相应的.yaml当中的字段为基座模型参数在本地的绝对路径，即可通过下列命令进行微调。

特别地，我们的所有发布的所有心理咨询师数字孪生模型均在8卡A800的服务器上微调得到。

模型开源

为了方便心理健康对话研究社区的进一步研究，我们计划开源一系列经过全量参数微调之后的心理咨询师数字孪生模型，如下表：

模型名称 下载链接 基座模型链接

:------------ :----------: :------------

SoulChat2.0-Qwen2-7B download from modelscope Qwen2-7B-Instruct

SoulChat2.0-internlm2-7b download from modelscope internlm2-chat-7b

SoulChat2.0-Baichuan2-7B download from modelscope Baichuan2-7B-Chat

SoulChat2.0-Llama-3.1-8B download from modelscope Meta-Llama-3.1-8B-Instruct

SoulChat2.0-Llama-3-8B download from modelscope Meta-Llama-3-8B-Instruct

SoulChat2.0-Yi-1.5-9B download from modelscope Yi-1.5-9B-Chat-16K

SoulChat2.0-glm-4-9b download from modelscope glm-4-9b-chat

模型下载方法请参考《模型的下载》

以下为下载示例（以SoulChat2.0-Llama-3.1-8B为例）

方法1：python中snapshot download下载

方法2：git-lfs下载

方法3：modelscope download命令下载

模型应用

假设你的服务器ip为198.0.0.8

vllm推理

streamlit demo搭建

通过http://:8002即可访问。

！！！注意，进行模型推理时要加上系统提示词，具体的提示词内容参照数据集里的system prompt！！！

限制声明

本项目开源的模型基于开源基座模型微调得到，使用模型权重时，请遵循对应基座模型的模型协议：Baichuan 2 / Yi / Llama 3 / Qwen / GLM-4 / InternLM2

本项目开源的模型仅经过心理咨询师数字孪生数据微调，对于事实性知识，容易产生错误的回复，在代码、推理上的能力可能会下降，请注意模型的使用范围。

尽管我们的模型在心理咨询对话能力方面取得了显著进展，但在安全性和专业性方面仍有提升的空间，模型可能在某些情况下会给出意料之外的回答，本模型仅用于科研用途，使用本模型引起的一切医学风险自负。

致谢

本项目由华南理工大学未来技术学院，电子与信息学院，广东省数字孪生人重点实验室，琶洲实验室发起，感谢实验室各位老师的鼎力支持。

本项目基于hiyouga/LLaMA-Factory框架微调得到，感谢该项目的诸位作者的付出。

引用

Star History

[](https://www.star-history.com/#scutcyr/SoulChat2.0&Date)