闲社服务运行正常AI智能体自动化平台

Ornith-1.5-35B-A3B-GGUF

ornith-ai/Ornith-1.5-35B-A3B-GGUF

发布机构ornith-ai

下载访问条件魔搭来源

Ornith-1.5 是一个通过端到端自改进构建的基础模型系列。该模型扩展了 Ornith-1.0,通过将自改进循环从脚手架和 rollout 优化扩展到联合优化任务生成、脚手架构建和解决方案 rollout。Ornith-1.5-35B-A3B 是该系列的中等规模混合专家成员,拥有约 350 亿参数,但每个 token 仅激活约 30 亿参数。 该模型在编码和智能体任务上表现优异。 编码能力:在 Terminal-Bench 2.1、SWE-bench Verified、S

文字对话推理思考
模型详情

模型介绍

中文整理

# Ornith-1.5-35B-A3B 模型卡片

模型用途

Ornith-1.5 是一个通过端到端自改进构建的基础模型系列。该模型扩展了 Ornith-1.0,通过将自改进循环从脚手架和 rollout 优化扩展到联合优化任务生成、脚手架构建和解决方案 rollout。Ornith-1.5-35B-A3B 是该系列的中等规模混合专家成员,拥有约 350 亿参数,但每个 token 仅激活约 30 亿参数。

## 主要能力

该模型在编码和智能体任务上表现优异。

  • *编码能力**:在 Terminal-Bench 2.1、SWE-bench Verified、SWE-bench Pro、SWE-bench Multilingual、DeepSWE、Frontier-Bench、NL2Repo、SWE Atlas QnA 等基准测试中取得领先成绩。
  • *推理能力**:在 HLE(无工具)、HLE(带工具)、GPQA Diamond 等推理基准上表现良好。
  • *智能体能力**:在 MCP-Atlas、Toolathlon-Verified、WideSearch、BrowseComp、ClawEval 等智能体基准上展现出色。
  • *工具调用**:支持 OpenAI 风格的工具调用,可与标准智能体框架配合使用。
  • *长上下文**:支持最高 262,144 个 token 的上下文窗口,通过 YaRN 扩展技术可扩展至约 100 万 token。

## 输入输出

  • *输入**:文本提示,支持最长 262K token 的上下文(使用 YaRN 可扩展至约 1M token)。
  • *输出**:文本回复。默认情况下,助手回复开头会包含 `<think >…</think >` 推理块,最终答案位于推理块之后。支持流式输出和工具调用。

运行要求

  • *硬件**:约 70GB bf16 权重,推荐使用 2 张 80GB GPU 以支持 256K 上下文。
  • *软件依赖**:
  • Transformers ≥ 5.8.1
  • vLLM ≥ 0.19.1
  • SGLang ≥ 0.5.9
  • *采样参数**:
  • 通用任务:temperature=0.6, top_p=0.95, top_k=20
  • 复现基准测试结果:temperature=1.0

基本用法

该模型提供 OpenAI 兼容的 API 端点。可通过 vLLM 或 SGLang 启动服务,使用 Chat Completions API 进行交互。

  • *启动服务示例**:使用 vLLM 或 SGLang 启动 OpenAI 兼容服务器,监听 `/v1/chat/completions` 端点。
  • *客户端调用**:任何 OpenAI 兼容的 SDK(Python、Node.js 等)或 curl 工具均可调用该端点。
  • *智能体集成**:支持与 Ollama、Atomic.chat、llama.cpp、Hermes Agent、OpenClaw、Unsloth Studio 等智能体框架配合使用。也可与 OpenCode 等编码 CLI 配合使用。

限制

  • YaRN 缩放技术为静态应用:相同的缩放因子会应用于所有请求,无论其长度如何,可能对普通长度输入的质量略有影响。建议仅在确实需要更长上下文时启用 YaRN,并根据实际需求调整缩放因子。
  • 基准测试结果为 5 次独立运行的平均值,实际性能可能有所波动。

许可证

原始模型权重和代码的许可证信息请参阅项目官方发布页面。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部