模型介绍
中文整理GLM-4-9B-Chat-1M
Read this in English.
2024/08/12, 本仓库代码已更新并使用 transforemrs>=4.44.0 , 请及时更新依赖。**
2024/07/24，我们发布了与长文本相关的最新技术解读，关注 这里 查看我们在训练 GLM-4-9B 开源模型中关于长文本技术的技术报告**
模型介绍
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。
在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。
除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K
上下文）等高级功能。
本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。我们还推出了支持 1M 上下文长度（约 200 万中文字符）的模型。
评测结果
长文本
在 1M 的上下文长度下进行大海捞针实验，结果如下：
在 LongBench-Chat 上对长文本能力进行了进一步评测，结果如下:
本仓库是 GLM-4-9B-Chat-1M 的模型仓库，支持 1M 上下文长度。**
运行模型
更多推理代码和依赖信息，请访问我们的 github。**
请严格按照依赖安装，否则无法正常运行。**
使用 transformers 后端进行推理:
使用 VLLM后端进行推理:
协议
GLM-4 模型的权重的使用则需要遵循 LICENSE。
引用
如果你觉得我们的工作有帮助的话，请考虑引用下列论文。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。