模型介绍
中文整理# Ornith-1.5-35B-A3B 模型卡片
模型用途
Ornith-1.5 是一个通过端到端自改进构建的基础模型系列。该模型扩展了 Ornith-1.0,通过将自改进循环从脚手架和 rollout 优化扩展到联合优化任务生成、脚手架构建和解决方案 rollout。Ornith-1.5-35B-A3B 是该系列的中等规模混合专家成员,拥有约 350 亿参数,但每个 token 仅激活约 30 亿参数。
## 主要能力
该模型在编码和智能体任务上表现优异。
- *编码能力**:在 Terminal-Bench 2.1、SWE-bench Verified、SWE-bench Pro、SWE-bench Multilingual、DeepSWE、Frontier-Bench、NL2Repo、SWE Atlas QnA 等基准测试中取得领先成绩。
- *推理能力**:在 HLE(无工具)、HLE(带工具)、GPQA Diamond 等推理基准上表现良好。
- *智能体能力**:在 MCP-Atlas、Toolathlon-Verified、WideSearch、BrowseComp、ClawEval 等智能体基准上展现出色。
- *工具调用**:支持 OpenAI 风格的工具调用,可与标准智能体框架配合使用。
- *长上下文**:支持最高 262,144 个 token 的上下文窗口,通过 YaRN 扩展技术可扩展至约 100 万 token。
## 输入输出
- *输入**:文本提示,支持最长 262K token 的上下文(使用 YaRN 可扩展至约 1M token)。
- *输出**:文本回复。默认情况下,助手回复开头会包含 `<think >…</think >` 推理块,最终答案位于推理块之后。支持流式输出和工具调用。
运行要求
- *硬件**:约 70GB bf16 权重,推荐使用 2 张 80GB GPU 以支持 256K 上下文。
- *软件依赖**:
- Transformers ≥ 5.8.1
- vLLM ≥ 0.19.1
- SGLang ≥ 0.5.9
- *采样参数**:
- 通用任务:temperature=0.6, top_p=0.95, top_k=20
- 复现基准测试结果:temperature=1.0
基本用法
该模型提供 OpenAI 兼容的 API 端点。可通过 vLLM 或 SGLang 启动服务,使用 Chat Completions API 进行交互。
- *启动服务示例**:使用 vLLM 或 SGLang 启动 OpenAI 兼容服务器,监听 `/v1/chat/completions` 端点。
- *客户端调用**:任何 OpenAI 兼容的 SDK(Python、Node.js 等)或 curl 工具均可调用该端点。
- *智能体集成**:支持与 Ollama、Atomic.chat、llama.cpp、Hermes Agent、OpenClaw、Unsloth Studio 等智能体框架配合使用。也可与 OpenCode 等编码 CLI 配合使用。
限制
- YaRN 缩放技术为静态应用:相同的缩放因子会应用于所有请求,无论其长度如何,可能对普通长度输入的质量略有影响。建议仅在确实需要更长上下文时启用 YaRN,并根据实际需求调整缩放因子。
- 基准测试结果为 5 次独立运行的平均值,实际性能可能有所波动。
许可证
原始模型权重和代码的许可证信息请参阅项目官方发布页面。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
