Find the right model.
Download more easily.

本仓库提供 Hugging Face Transformers 格式的 Xing4.0-29B-A4B 模型权重及配置文件，兼容 Transformers、vLLM、SGLang、KTransformers 等主流推理框架。 Xing4.0-29B-A4B 是中电信人工智能科技有限公司研发的星辰语义大模型系列（原 TeleChat）新一代模型。模型总参数量 29B，激活参数仅 4B，原生支持 256K 上下文，可扩展至 512K，是国内首个基于国产算力与国产框架完成训练、面向

Marlin：用于从视频中提取结构化信息的微型视觉语言模型 Marlin 是一个 20 亿参数的视觉语言模型，专为开发者实际关心的两个视频问题设计：发生了什么，以及什么时候发生？它生成结构化的场景和事件描述，包含精确到秒的时间戳，并将自然语言查询解析为基于时间跨度（起始、结束）的视频范围。 密集字幕生成：在 20 亿参数级别达到最优水平，登上 CaReBench 排行榜榜首，在 DREAM-1K 上介于 Tarsier-34B 和 Gemini-1.5-Pro 之间。

DeepSeek-R1 是深度求索公司推出的第一代推理模型，包括 DeepSeek-R1-Zero 和 DeepSeek-R1 两个版本。该系列模型专注于数学、代码和推理任务，在相关基准测试中达到了与 OpenAI-o1 相当的性能水平。 DeepSeek-R1-Zero 通过大规模强化学习直接训练基础模型，无需监督微调作为前置步骤，展现出自我验证、反思和生成长链式思考的能力。DeepSeek-R1 在此基础上引入了冷启动数据，进一步提升了推理性能并解决了无限重复、可读性差和

Qwen3是Qwen系列最新一代大语言模型，提供密集模型和混合专家模型。该仓库包含Qwen3-4B的FP8量化版本。 Qwen3-4B-FP8是一个因果语言模型，适用于复杂逻辑推理、数学问题求解、代码生成以及高效通用对话任务。该模型支持在单一模型内无缝切换思考模式和非思考模式，以适应不同应用场景。 思考模式支持：模型能够在思考模式下进行复杂逻辑推理、数学计算和编码任务，生成过程会输出think内容块。

Qwen3-30B-A3B是阿里云Qwen3系列中的混合专家（MoE）大型语言模型，采用GPTQ 4位量化。 支持在单一模型内无缝切换思考模式和非思考模式。思考模式适用于复杂逻辑推理、数学和编程任务；非思考模式适用于高效通用对话。在数学、代码生成和常识逻辑推理方面表现优异。具备出色的创意写作、角色扮演、多轮对话和指令遵循能力。支持精确集成外部工具，在复杂代理任务中达到开源模型领先水平。支持100多种语言和方言，具备多语言指令跟随和翻译能力。

Qwen3-14B-AWQ 是阿里云Qwen系列最新一代大语言模型，采用因果语言模型架构，经过预训练和后训练。模型参数量为14.8B，非嵌入参数为13.2B，包含40层，注意力头采用GQA机制（Q头40个，KV头8个）。上下文长度原生支持32,768 tokens，使用YaRN技术可扩展至131,072 tokens。该版本为AWQ 4-bit量化版本。 Qwen3-14B-AWQ 提供以下核心能力： 支持思考模式和非思考模式的无缝切换。思考模式适用于复杂逻辑推理、数学和编程

Qwen3-14B是通义千问系列最新一代大型语言模型，提供密集型和混合专家模型。该模型在推理、指令遵循、智能体能力和多语言支持方面实现了突破性进展。 主要用于自然语言对话和文本生成任务。模型支持两种工作模式：思考模式适用于复杂逻辑推理、数学和编程任务；非思考模式适用于高效的通用对话场景。支持超过100种语言和方言的处理。 模型支持在单一模型内无缝切换思考模式和非思考模式。推理能力显著提升，在数学、代码生成和常识逻辑推理方面超越前代模型。人类偏好对齐表现出色，擅长创意写作、角色

Ornith-1.5 是一个通过端到端自改进构建的基础模型系列。该模型扩展了 Ornith-1.0，通过将自改进循环从脚手架和 rollout 优化扩展到联合优化任务生成、脚手架构建和解决方案 rollout。Ornith-1.5-35B-A3B 是该系列的中等规模混合专家成员，拥有约 350 亿参数，但每个 token 仅激活约 30 亿参数。 该模型在编码和智能体任务上表现优异。 编码能力：在 Terminal-Bench 2.1、SWE-bench Verified、S

Qwen1.5-110B-Chat-GGUF 是基于 Transformer 的纯解码器语言模型，属于 Qwen2 的测试版本。该模型经过大量数据预训练，并针对对话场景进行了对齐优化。 提供 9 种模型规模：0.5B、1.8B、4B、7B、14B、32B、72B、110B 密集模型，以及 14B 激活参数 2.7B 的 MoE 模型。对话模型在人类偏好方面有显著性能提升。支持多语言，包括基础模型和对话模型。支持最长 32K 上下文长度。无需信任远程代码。

Qwen1.5-110B-Chat-AWQ 基于Transformer的仅解码器语言模型，用于对话任务。 提供9个模型规模可选，包括0.5B、1.8B、4B、7B、14B、32B、72B、110B密集模型，以及一个14B MoE模型（2.7B激活参数）。对话模型在人类偏好方面有显著性能提升。基座模型和对话模型均支持多语言。所有规模的模型稳定支持32K上下文长度。模型基于Transformer架构，采用SwiGLU激活函数、注意力QKV偏置、组查询注意力等技术。分词器经过改进，

Qwen1.5-110B-Chat-GPTQ-Int4是一个基于Transformer架构的仅解码器语言模型，属于Qwen1.5系列聊天模型。该模型经过监督微调和直接偏好优化，适用于对话交互任务。 支持9个不同规模的模型：0.5B、1.8B、4B、7B、14B、32B、72B、110B密集模型，以及14B MoE模型（2.7B激活参数）。聊天模型在人类偏好方面有显著性能提升。基础模型和聊天模型均支持多语言。全部尺寸模型稳定支持32K上下文长度。无需信任远程代码即可运行。

Qwen2.5-72B-Instruct 架构：transformers模型，采用RoPE、SwiGLU、RMSNorm和Attention QKV偏置 注意力头数量：64个Q头，8个KV头

Qwen2.5-Coder是面向代码任务的Qwen大型语言模型系列。该系列提供0.5亿、1.5亿、3亿、7亿、14亿、32亿参数六种规模，以满足不同开发者的需求。 在代码生成、代码推理和代码修复方面有显著提升。基于Qwen2.5，训练语料扩展至5.5万亿token，涵盖源代码、文本代码关联数据及合成数据等。Qwen2.5-Coder-32B已成为当前最先进的开源代码大语言模型，编程能力与GPT-4o相当。同时保持了数学和通用能力方面的优势，适用于Code Agents等实际应

Qwen2-1.5B-Instruct-GPTQ-Int8 这是Qwen2系列指令微调语言模型，参数规模为15亿（1.5B），采用GPTQ-Int8量化技术。 语言理解与生成、多语言能力、编程、 数学、推理等任务。相比前代Qwen1.5及同期开源模型，Qwen2在多项基准测试中表现更优，具备与闭源模型竞争的能力。

Qwen2-0.5B-Instruct-AWQ 本模型是Qwen2系列指令微调语言模型，参数规模为0.5B，采用AWQ量化方式。 模型具备语言理解、语言生成、多语言能力、编码、数学和推理等能力。在语言理解、语言生成、多语言能力、编码、数学、推理等一系列基准测试中，Qwen2整体上超越了大多数开源模型，并展现出与闭源模型竞争的能力。

Qwen2.5-Coder-3B-Instruct-AWQ Qwen2.5-Coder是面向代码的Qwen大语言模型最新系列。该系列涵盖六种主流参数规模：0.5B、1.5B、3B、7B、14B、32B，以满足不同开发者的需求。 架构：transformers，采用RoPE、SwiGLU、RMSNorm、注意力QKV偏置和词嵌入权重共享

Qwen2-1.5B-Instruct-AWQ 这是一个参数量为1.5B的指令微调语言模型，属于Qwen2系列。该模型基于Transformer架构训练，适用于对话和指令执行任务。 该模型在语言理解、语言生成、多语言能力、编程、数学和推理等方面进行了优化。在多项基准测试中超越了大多数开源模型，并展现出与闭源模型竞争的能力。

Qwen2.5-Coder-3B-Instruct-GPTQ-Int4 使用RoPE、SwiGLU、RMSNorm、Attention QKV偏置和权重绑定 代码生成、代码推理、代码修复。支持Code Agents等实际应用场景，同时保持数学和通用能力。