模型介绍
中文整理1 模型名称与简介
- *模型名称**:刘文杰的代码助手 (coding assistant of LiuWenjie)
- *简介**:这是一个专为编程问题设计的深度学习模型,由刘文杰开发。该模型结合多语言编程数据,能够理解和生成代码片段,提供编程问题的解答,以及进行代码优化建议。特别适合用于编程教学、代码审查和自动编码任务。
关键特点:**代码生成**:针对用户提出的编程问题,生成准确的示例代码;**自我认知**:能够回答关于其身份和开发者的问题;**多轮对话能力**:可在多轮对话中保持上下文的连贯性。
2 实验环境
8核 32GB 显存24G
预装 ModelScope Library
预装镜像:ubuntu22.04-cuda12.1.0-py310-torch2.1.2-tf2.14.0-1.11.0
3 训练方法
- *模型选择**: qwen 7b chat
- *使用的数据集**:
- alpaca zh :涵盖广泛的中文编程相关数据
- alpaca en :包含丰富的英文编程相关数据
- code alpaca en :专注于英文代码的数据集
- leetcode python en :Python语言的LeetCode题解数据
- codefuse python en :Python编程语言的英文数据集
- codefuse evol instruction zh :中文编程指令与代码数据集
- *超参数设置**:
- 训练数据集样本数 ( train dataset sample )::500(控制模型训练的数据规模)
- 评估步数 ( eval steps ):20(每20步进行一次模型评估)
- 日志记录步数 ( logging steps ):5(每5步记录一次训练日志)
- 输出目录 ( output dir ):output(模型输出和日志的保存位置)
- LoRA目标模块 ( lora target modules ):ALL(LoRA结构应用于模型的所有层)
- 自我认知样本数 ( self cognition sample ):500(用于自我评估的样本数量)
- 模型名称 ( model name ):['刘文杰的代码助手', 'coding assistant of Liu Wenjie'](这是模型的中文和英文名称)
模型作者 ( model author ):['刘文杰', 'Liu Wenjie'](模型的创作者的中英文名)
4 示例代码
- 1 微调过程
- 2 微调后的推理
5 推理效果
- 提供高质量的代码生成:
- 具有自我认知:
- 具有一定的多轮对话能力:
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
