Model details
模型介绍
中文整理心理咨询思考链问答大模型
项目概述
本项目旨在构建针对心理咨询场景的深度思考链问答大模型,基于 DeepSeek 蒸馏的LLAMA-8B模型作为基座模型[deepseek-ai/DeepSeek-R1-Distill-Llama-8B],采用LoRA技术进行领域适配微调。模型继承并扩展了"深度思考模式(think)",训练数据涵盖心理咨询案例、心理测评解析、危机干预策略等专业领域知识,通过结构化问答微调提升模型在心理咨询场景下的共情能力与解决方案生成能力。模型可模拟专业咨询师的思维路径,逐步解析来访者心理状态,生成具有临床参考价值的干预建议。
模型架构
- *基座模型**:[ deepseek-ai/DeepSeek-R1-Distill-Llama-8B ]
- *微调方法**: LoRA(Low-Rank Adaptation)
- *训练数据**: 问答数据集
数据集
数据来源
参考链接:
数据预处理
训练数据格式:
模型训练
微调方法
使用LoRA技术对 deepseek-R1 蒸馏模型进行微调。LoRA通过在预训练模型的权重矩阵中引入低秩矩阵来减少参数量,从而在保持模型性能的同时降低计算成本。
训练步骤
- **加载预训练模型**: 加载 deepseek-R1 蒸馏8B模型。
- **应用LoRA**: 在模型的关键层应用LoRA技术。
- **训练模型**: 使用准备好的肿瘤知识问答数据集进行微调。
- **验证与测试**: 在验证集和测试集上评估模型性能,调整超参数以优化结果。
模型评估
评估指标
- *准确率**: 模型在问答任务中的准确率。
- *召回率**: 模型能够正确回答的问题比例。
- *F1分数**: 准确率和召回率的调和平均数。
评估结果
在测试集上的评估结果如下:
待更新
使用指南
环境配置
- **Python版本**: 3.10+
- **依赖库**:
- transformers
- torch
模型下载
SDK下载
Git下载
模型推理
WEB部署
代码参考:
运行命令:
生成结果案例
Case 01
输入问题:
模型返回结果:
Case 02
输入问题
模型结果
License
本项目采用 MIT 许可证。
致谢
感谢 DeepSeek 模型的开发者。
感谢所有为心理学知识问答数据集做出贡献的研究人员。
联系方式
如有任何问题,请联系 [592392714@qq.com]。
注意**: 本项目仅供学术研究使用,不构成医疗建议。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.