找到工具，让模型真正用起来

C++ 模型推理工具，可用于在本地设备运行兼容的大语言模型，适合希望控制运行参数和部署方式的用户。

通过统一工具管理和运行支持的模型，适合搭建本地对话环境或给应用提供模型接口。

面向大语言模型服务的高吞吐推理引擎，适合把兼容模型部署为供应用调用的服务。

面向语言模型和多模态模型的服务框架，可用于构建需要批量请求与推理性能优化的服务。

围绕大语言模型的压缩、部署和服务提供工具，适合将支持的模型接入实际应用。

提供文本、图像、音频和多模态模型的统一开发接口，适合在 Python 项目中加载模型、推理和训练。

基于 MLX 运行大语言模型，适合围绕兼容的苹果设备和模型构建本地使用环境。

用统一接口提供语言、语音及多模态模型服务，适合本地或服务器上的多模型部署。

为 Ollama 和兼容接口提供可自托管的聊天界面，适合给已部署的模型增加可视化使用入口。

围绕智能体组织、调度和协作提供工作空间，可按项目说明接入模型与工具。

提供本地大语言模型的桌面使用入口，项目支持文本、视觉、工具调用及兼容接口等能力。

以桌面应用方式使用本地模型，适合希望通过可视化界面进行对话的用户。

围绕本地优先的模型和智能体构建知识助手，可按项目文档接入自己的资料与模型。

用可视化方式组织智能体工作流和知识检索流程，适合将模型能力组合为业务应用。

面向检索增强生成和智能体应用的知识引擎，适合把文档处理、检索和模型问答串联起来。

提供数据处理、知识检索与可视化 AI 工作流能力，适合搭建围绕自有资料的问答应用。

面向多种语言模型和视觉语言模型的训练与微调工具，适合按支持列表进行定制训练。

围绕模型训练配置和微调流程组织训练任务，适合需要可重复实验配置的开发者。