streamer-sales-lelemiao-7b

Streamer-Sales 销冠 —— 卖货主播大模型

Streamer-Sales

查看Demo

·

报告Bug & 提出新特性

简介

Streamer-Sales 销冠 —— 卖货主播大模型** 是一个能够根据给定的商品特点对商品进行解说并激发用户的购买意愿的卖货主播模型，模型用 xtuner 在 InternLM2 的基础上指令微调而来。

开源不易，如果本项目帮到大家，可以右上角帮我点个 star~ ⭐⭐ , 您的 star ⭐是我们最大的鼓励，谢谢各位！**

NEWS

[2024.04.16] 发布【乐乐喵】模型，完成初版页面

[2024.04.06] 生成数据初版完成，训练初版模型

介绍

销冠 —— 卖货主播大模型** 是一个能够根据给定的商品特点对商品进行解说并激发用户的购买意愿的卖货主播模型，以其独特的智能魅力，将彻底改变您的购物体验。该模型能深度理解商品特点，以生动、精准的语言为商品量身打造解说词，让每一件商品都焕发出诱人的光彩。无论是细节之处，还是整体效果，都能通过其细腻、独到的解说，激发用户的购买欲望。

无论是线上直播销售，还是线下门店推广，这款卖货主播大模型都能成为您不可或缺的得力助手。它不仅能够提升销售效率，还能增强用户体验，为您的品牌形象加分。

后续会在该模型的基础上新增根据用户的反馈和行为，实时调整解说策略，确保每一次互动都能带来最佳的购物效果。

让我们的卖货主播大模型成为您销售路上的得力助手，共同开创更美好的商业未来。

开源不易，如果本项目帮到大家，可以右上角帮我点个 star~ ⭐⭐ , 您的 star ⭐是我们最大的鼓励，谢谢各位！**

演示

Demo 访问地址：https://openxlab.org.cn/apps/detail/HinGwenWong/Streamer-Sales

Model Zoo

模型 基座 数据量 ModelScope(HF) Transformers(HF) OpenXLab(HF)

• ------------------ ---------------- --------- ---------------------------------------------------------------------------------- ------------------ ------------------------------------------------------------------------------------------------------------------------------------------------------------------

ancient-chat-llm-7b interlm2-chat-7b 40w Toekn ModelScope hugging face(TODO) [](https://openxlab.org.cn/models/detail/HinGwenWong/streamer-sales-lelemiao-7b)

从 ModelScope 导入

环境搭建

本项目使用 xtuner 训练，在 internlm2-chat-7b 上进行微调

• clone 本项目

• 创建虚拟环境

数据集准备

本模型的数据集构建采用了 通义千问 & 文心一言 生成数据集，相关的配置详见 dataset/gen dataset/conversation cfg.yaml 。

训练本模型的数据集的生成方式，以及数据集已开源，详见 dataset 文件夹**

下面介绍如何用商用大模型生成自由数据集：

• 获取模型的 api key，填入 dataset/gen dataset/api cfg.yaml 对应的位置

• 数据集生成配置文件 dataset/gen dataset/conversation cfg.yaml 介绍

温馨提示

别让大模型大量生成严格格式的数据，JSON 首当其冲，prompt 提示词用得不好，很容易会出现 JSON 解析错误，导致 Api Token 白花了，最好是生成特定的文本格式，然后用正则去取用

• 使用脚本可以进行生成：

model type 可以是通义千问(qwen)、文心一言(ernie)

执行之后，会在 dataset/trainval dataset/response 生成对应模型的数据集

• 进行数据清洗并合并，以及生成自我认知数据

生成之后可以在 ${output path} 设置的路径看到 jsonl 文件，脚本会自动加上 conversion 的个数，例如 1479 train.jsonl ，jsonl 数据集样例如下：

同时会生成自我认知数据:

训练

• 将 ./finetune configs/internlm2 chat 7b/internlm2 chat 7b qlora custom data.py 中 数据集路径 和 模型路径 改为您的本地路径

• 使用命令进行训练：

注意：如果显存不够了，调小一点 batch size 和 max length ，反之还剩很多，调大这两个值

部署

Web 部署 Demo

• 将 pth 转为 hf

• 将微调后的模型和源模型 merge 生成新的模型

• 启动 web demo

LMDeploy

• 安装 lmdeploy

• 进行 4bit 量化

TODO

[x] 生成多个产品数据集

[x] 根据产品生成话术，每个都是5个往来的对话

后记

本项目属于个人的一个学习项目，还有很多不足的地方，例如本模型在数据集方面的还没做很精细的调优，还有时候标点符号会错误。

欢迎大家一起讨论，如果大家有数据集，可以在 issue 留言讨论。

💕 致谢

• *xtuner**

感谢上海人工智能实验室推出的书生·浦语大模型实战营，为我们的项目提供宝贵的技术指导和强大的算力支持。

开源许可证

该项目采用 Apache License 2.0 开源许可证 同时，请遵守所使用的模型与数据集的许可证。