Model details
模型介绍
中文整理Phi-4 Reasoning ONNX 模型
Model use case
Phi-4 Reasoning ONNX 模型是 Phi-4 推理模型的优化版本，用于通过 ONNX Runtime 加速推理过程。
主要能力
支持在多种平台上运行推理，包括服务器、Windows、Linux、Mac 桌面系统和移动 CPU。提供两种优化配置：int4 CPU 模型适用于 CPU 和移动设备，采用 RTN 量化技术；int4 GPU 模型适用于 GPU 设备，同样采用 RTN 量化技术。
输入输出
模型输入输出格式与基础模型一致，具体取决于推理任务类型。
运行要求
需要安装 ONNX Runtime。支持三种运行后端：CPU（ORT GenAI）、CUDA（ORT GenAI）、DirectML（ORT GenAI）。
基本用法
使用 ONNX Runtime 加载 ONNX 格式模型进行推理。具体操作请参考 ONNX Runtime 官方文档。
限制
本模型仅为基础模型的优化版本。优化后的输出可能与基础模型存在轻微差异。任何与模型相关的风险由使用者自行承担，请根据具体使用场景进行验证和测试。
License
MIT 许可证
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.
