All systems operationalAI Agent Automation Platform
English
Language简体中文EnglishSelected

Choose your language

ht-doctor-8b-q8-gguf

feixiangdedaxigua/ht-doctor-8b-q8-gguf

Publisherfeixiangdedaxigua

Download access requirementsModelScope source

海豚医生-关心你的健康-GGUF-Q8量化-纯CPU推理 海豚医生-医疗问诊、医疗行业专业问答大模型。 基于Qwen3-8B进行微调后获得本模型。

Text Chat
Model details

模型介绍

中文整理

海豚医生-关心你的健康-GGUF-Q8量化-纯CPU推理

介绍

海豚医生-医疗问诊、医疗行业专业问答大模型。

基于Qwen3-8B进行微调后获得本模型。

'完整版'模型

海豚医生-完整版

GGUF-纯CPU推理

备注:未量化,仅转换为GGUF格式文件。

海豚医生-GGUF-纯CPU推理(未量化)

运行

  • 安装ollama:
  • 安装modelscope:
  • 下载模型:
  • 创建Ollama镜像:

在模型所在目录执行下面的命令

创建成功后,执行下面的命令。

  • 命令行推理:
  • 删除Ollama镜像:

删除后可基于上面的流程重新创建。

版权

基础模型及数据集版权归原机构或作者所有。

本模型依据Apache License 2.0进行授权。

结论

转GGUF(Q8量化)后,性能会有一定损失。

未对转GGUF文件后的性能损失进行评估,如需用于生产环境,请慎重考虑。

联系我

欢迎加入QQ群:728898358 或 关注公众号: 锤子代码

一起学习交流AI。

注意: 本项目仅供学术研究使用,不构成医疗建议。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top