Model details
模型介绍
中文整理海豚医生-关心你的健康-GGUF-Q8量化-纯CPU推理
介绍
海豚医生-医疗问诊、医疗行业专业问答大模型。
基于Qwen3-8B进行微调后获得本模型。
'完整版'模型
海豚医生-完整版
GGUF-纯CPU推理
备注:未量化,仅转换为GGUF格式文件。
海豚医生-GGUF-纯CPU推理(未量化)
运行
在模型所在目录执行下面的命令
创建成功后,执行下面的命令。
删除后可基于上面的流程重新创建。
版权
基础模型及数据集版权归原机构或作者所有。
本模型依据Apache License 2.0进行授权。
结论
转GGUF(Q8量化)后,性能会有一定损失。
未对转GGUF文件后的性能损失进行评估,如需用于生产环境,请慎重考虑。
联系我
欢迎加入QQ群:728898358 或 关注公众号: 锤子代码
一起学习交流AI。
注意: 本项目仅供学术研究使用,不构成医疗建议。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.