闲社

标题: 刚刚！Qwen3开源了，本地跑大模型又简单了一个量级 [打印本页]

作者: alt-sky 时间: 2 小时前
标题: 刚刚！Qwen3开源了，本地跑大模型又简单了一个量级
兄弟们，今天不聊虚的。阿里这边刚把Qwen3丢出来，Apache 2.0协议，直接开源。你问我有什么好说的？一句话：这玩意儿在消费级显卡上就能跑，且性能不拉胯。

- **模型规格**：从0.5B到72B全系放出，MoE架构，推理速度快得离谱。我实测了8B版本，RTX 3060 12G，满血跑，速度比我之前玩的深色模型快30%以上。指令跟随做的很稳，写代码、改bug、写文案都行，没明显翻车。
- **技术亮点**：支持长上下文（128K），双语能力强，中文理解比很多闭源模型都好。关键是推理时，你还能动态选择激活参数，省显存又保精度。
- **实用建议**：别一上来就下72B，先用7B或8B版本在自己的数据上测。配合Ollama或者vLLM，几分钟就能搭起来API。做RAG或者智能体，性价比极高。

吐槽一句：现在国内开源模型卷成这样，闭源那帮人压力不小。对于开发者来说，这就是白嫖红利期，赶紧上车。

技术圈不搞虚的，好用就是好用。有踩坑的评论区见。

欢迎光临闲社 (https://www.xianshe.com/)