XVERSE-65B-Chat

XVERSE-65B-Chat

模型介绍

XVERSE-65B-Chat**为**XVERSE-65B**模型对齐后的版本。

模型对齐中，不同能力类型的数据采样比例如下：

编码能力 数学能力 对话生成 角色扮演 工具调用 知识问答 文本生成 安全 逻辑推理 语言理解

:-------: :--------: :--------: :--------: :--------: :--------: :--------: :--------: :--------: :--------: :--------:

Ratio(%) 21.2 18.6 12.4 11.3 9.8 6.8 5.4 5.1 4.8 4.6

评测结果

SuperCLUE 11月大模型综合评测榜单排名第五，中文开源大模型第一

输出示例

角色扮演

知识问答

文本生成

编程能力

数学能力

逻辑推理

语言理解

多语言能力

安全性

工具调用

JSON

{

"api name": "hotel search","parameters": {

"city": "上海",

"check in": "2007-03-09",

"check out": "2007-03-10",

"guests": 2,

"rooms": 1,

"price min": 300,

"price max": 500,

"rating min": 8,

"amenities": "停车场"

}

}

使用方法

硬件需求

下表列出了在 XVERSE-65B-Chat 上进行推理和微调所需要的硬件资源：

类型 方法 内存 GPU

• --------- ---- ---------------- ------ ----------

XVERSE-65B-Chat 训练 LoRA with ZeRO-3 1500GB 8*A800 80G

XVERSE-65B-Chat 推理 BF16/FP16 500GB 2*A800 80G

Usage

Hardware requirements

The following table lists the hardware resources required for inference and fine-tuning on XVERSE-65B-Chat:

Type Kind Memory GPU

• --------- --------- ---------------- ------ ----------

XVERSE-65B-Chat Training LoRA with ZeRO-3 1500GB 8*A800 80G

XVERSE-65B-Chat Inference BF16/FP16 500GB 2*A800 80G

Loading with Transformers

可通过以下代码加载 XVERSE-65B-Chat 模型进行推理：

The XVERSE-65B-Chat model can be loaded for inference using the following code:

局限性与免责申明

XVERSE-65B-Chat 与其他所有 LLM 一样，在某些情况下可能会产生不准确、有偏见或其他令人反感的内容。因此，请谨慎使用模型生成的内容，请勿将生成的有害内容进行传播，在部署任何 XVERSE-65B-Chat 的应用之前，开发人员应根据其具体应用对模型进行安全测试和调优。

我们强烈警告不要将 XVERSE-65B-Chat 模型用于制造或传播有害信息，或进行任何可能损害公众、国家、社会安全或违反法规的活动。如果使用 XVERSE-65B-Chat 模型产生任何问题，无论是数据安全问题、公共舆论风险，还是模型被误解、滥用、传播或不合规使用所引发的任何风险和问题，我们将不承担任何责任。

Limitations and Disclaimer

Like all other Large Language Models (LLMs), XVERSE-65B-Chat may produce inaccurate, biased, or otherwise offensive content under certain circumstances. Therefore, please use the content generated by the model with caution and refrain from disseminating harmful content. Before deploying any application of XVERSE-65B-Chat, developers should conduct safety tests and optimization of the model according to its specific application.

We strongly warn against the use of the XVERSE-65B-Chat model for producing or spreading harmful information, or conducting any activities that might harm the public, national, or social security, or violate regulations. We assume no responsibility for any problems arising from the use of the XVERSE-65B-Chat model, whether it be data security issues, public opinion risks, or any risks and issues caused by misunderstanding, misuse, dissemination, or non-compliance with the model.

模型开源协议

使用本仓库的源码需要遵循 Apache-2.0 开源协议，使用 XVERSE-65B-Chat 的模型权重则需要遵循模型许可协议。

XVERSE-65B-Chat 模型权重对学术研究**完全开放**，并且支持**免费商用**。如需申请商业许可证，请填写【申请表】，如有其他问题或合作，请联系 。

Open Source License

The use of the source code in this repository must follow the Apache-2.0 open-source license, while the use of the model weights of XVERSE-65B-Chat needs to adhere to the Model License Agreement.

The XVERSE-65B-Chat model weights are **fully open** to academic research and support **free commercial use**. To apply for a commercial license, please fill in the application form. For other questions or collaborations, please contact .