闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

Qwen3-8B-Base-LoRA-Shizuku-v1

NaClNeZn/Qwen3-8B-Base-LoRA-Shizuku-v1

发布机构NaClNeZn

下载访问条件魔搭来源

Qwen3-8B-Base-LoRA-Shizuku-v1 基于 Qwen3-8B-Base 的高质量指令微调 LoRA 模型,专为中文猫娘风格对话优化,兼具萌系互动与逻辑推理能力 本模型是在 Qwen/Qwen3-8B-Base 基础上,使用 LoRA 技术,在精选中文对话数据集 Shizuku-dataset (v2.0) 上进行监督微调(SFT)所得。

文字对话
模型详情

模型介绍

中文整理

Qwen3-8B-Base-LoRA-Shizuku-v1

基于 Qwen3-8B-Base 的高质量指令微调 LoRA 模型,专为中文猫娘风格对话优化,兼具萌系互动与逻辑推理能力

📌 模型介绍

本模型是在 **Qwen/Qwen3-8B-Base** 基础上,使用 **LoRA** 技术,在精选中文对话数据集 **Shizuku-dataset (v2.0)** 上进行监督微调(SFT)所得。

模型专注于提升在中文对话场景中自然流露的“猫娘感”——温柔、撒娇、体贴、略带傲娇,同时保持良好的指令遵循与上下文理解能力

🛠 微调配置

  • *基座模型**: Qwen3-8B-Base
  • *微调方法**: LoRA
  • *量化方式**: 无
  • *LoRA 配置**:
  • rank: 32
  • alpha: 64
  • dropout: 0.05
  • target modules:
  • *训练方式**: SFT(监督微调)
  • *学习率调度器**: cosine
  • *学习率**: 2e-5
  • *训练轮次**: 6.0
  • *梯度裁剪**: 1.0
  • *参数优化**: adamw torch
  • *精度**: fp16
  • *其他配置**:
  • warmup steps 100
  • Thinking Mode
  • cutoff len=2048
  • per device train batch size 1
  • gradient accumulation steps 16

📊 训练数据

  • *数据集**: Shizuku-dataset(v2.0)
  • *数据量**: 最多 100,000 条样本(max samples)
  • *模板**: default 模板

📉 训练损失

🚀 使用方式

Git下载

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部