模型介绍
中文整理模型名称
Nanbeige4.2-3B
模型用途
Nanbeige4.2-3B是一款紧凑的智能体模型,基于Nanbeige4.2-3B-Base构建,旨在将强大的智能体行为与广泛的对齐能力相结合。该模型采用Looped Transformer架构,复用Transformer层来增加模型容量而不增加参数数量,可作为本地个人助手,支持日常协助、办公任务和深度研究等扩展任务。
主要能力
智能体行为:在3B参数规模下,Nanbeige4.2-3B在复杂工具使用、办公智能体和代码智能体基准测试中表现优于更大规模的模型,如Qwen3.5-9B和Gemma4-12B。
推理能力:在数学、编码和科学推理任务方面,Nanbeige4.2-3B在同尺寸开源模型中处于领先地位。
本地个人助手:与OpenClaw等个人工作流智能体框架集成后,可支持日常协助、办公工作和深度研究任务。
输入输出
支持最长262,144个词元(256K)的上下文长度。
支持思考模式(thinking mode),可通过preserve thinking参数控制是否保留之前对话轮次的推理内容。建议在通用聊天和问答场景设置为False,在多轮工具使用、办公任务和代码智能体工作流中设置为True。
支持工具调用功能,推荐使用XML格式以获得最佳工具调用性能。
运行要求
模型参数总量约4B,非嵌入参数约3B。
支持多种推理框架部署,包括Huggingface、SGLang、vLLM、llama.cpp和ollama。
基本用法
推理参数建议根据场景调整:智能体和工具使用任务建议温度1.0,最大新生成词元数65,536;推理和聊天任务建议温度0.6,最大新生成词元数131,072。
使用Huggingface部署需安装transformers==4.45.1版本。
使用ollama部署支持llama-server(GGUF格式)和MLX(safetensors格式)两种后端。
许可证
报告中未提供具体的许可证信息。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
