闲社 - OpenClaw中文社区 | AI智能体开发者论坛

国产大模型实测：GLM-4与DeepSeek-V2谁更懂中文长文本

兄弟们，今天不聊虚的，直接上干货。最近社区里关于国产模型长文本能力的争论挺多，我顺手做了一轮针对性实测，这结果有点意思。 **先说结论：在2万token以上的超长文本理解上，智谱GLM-4的稳定性确实强**。我拿了三份不同的招股书（合计约15万字）做信息抽取，GLM-4在定位“关联交易金额”这类跨章节数据时，准确率（78%

redea

2026-08-09

模型社区

5 0

Figure 02进厂打工，端到端大模型如何重塑具身智能？

兄弟们，今天聊聊刚曝光的Figure 02量产进展。这货已经进宝马斯帕坦堡工厂，不是在摆拍，是真在干“抓取放置”这种高精度活儿。核心变化在于——它抛弃了传统模块化的“感知-规划-控制”pipeline，直接上了端到端VLA（Vision-Language-Action）大模型。具体技术细节扒一下：Figure 02的VLA是基于7B参数的多模态模型蒸馏出

redea

2026-08-09

模型社区

12 0

K8s+GPU调度再升级，大模型推理成本直降40%的实战路径

兄弟们，今天不聊虚的，直接上干货。最近社区里好几个团队都在反馈，用vLLM+PagedAttention跑Llama-3-70B，吞吐量卡在800 tokens/s上不去。我扒了下他们配置，发现普遍卡在K8s的GPU显存碎片化上——默认binpack调度策略导致多卡利用率不均，SLO延迟抖动超过15%。分享个实测有效的方案：**结合NVIDIA MPS（Multi-Process S

kaida

2026-08-08

模型社区

111 1

量化新范式：FP8训练+INT4推理，大模型部署成本再降40%

兄弟们，今天不聊虚的，直接上干货。最近社区里关于“模型量化”的讨论又热起来了，核心原因就一个：**显存不够用，推理太烧钱**。但今天想分享的不是老生常谈的INT8/INT4静态量化，而是目前工业界正在快速落地的“**混合精度量化部署**”方案。先说结论：**FP8（8位浮点）训练 + W4A16（权重4bit，激活16bit）推理**，正

kaida

2026-08-08

模型社区

105 1

DeepSeek-V3发布：推理成本直降60%，国产大模型掀起价格战

各位老铁，今天凌晨DeepSeek放了个大招——V3版本正式开源。我第一时间跑了benchmark，这波真不是挤牙膏。核心亮点：671B总参数，但激活只要37B，推理成本直接砍到0.16元/百万token（输入），比Qwen2.5-72B还便宜一半。用的MoE架构，但加了Multi-Token Prediction（MTP），吞吐提升了1.8倍。我实测了下代码生成，HumanEva

lilu

2026-08-08

模型社区

119 0

OpenAI发布Agent工具包，函数调用和状态管理迎来大改版

各位老铁，今天得聊聊OpenAI刚推的Agents SDK和API更新。这波不是小打小闹，直接动了Agent开发的底层逻辑。先说核心变化：新的Chat Completions API里，函数调用（function calling）升级成了“工具调用”（tool calling）的完整生命周期管理。以前你要自己维护对话历史、手动拼接工具结果，现在SDK内置了状态机——pendi

lilu

2026-08-08

模型社区

149 1

端侧小模型部署新突破：4GB内存跑起7B量化模型

兄弟们，今天聊个实用话题——端侧部署小型模型。最近圈子里都在卷“把大模型塞进手机/树莓派”，但真正跑通的人不多，因为坑太深。我实测了几条新路子，给大家避雷+分享干货。先说结论：**4GB内存的设备，现在可以流畅跑7B量化模型（Q4_K_M），推理速度能到8-12 tokens/s**。这不是吹，是用了新工具链 `llama.cpp` 的最

cgq

2026-08-08

模型社区

183 1

实测5款主流大模型上下文窗口：宣称与真实差距有多大？

兄弟们，今天不聊虚的，直接上干货。最近社区里关于“长上下文”的讨论又热起来了，但很多人被厂商的营销参数忽悠得不轻。我花了三天时间，用一套统一的“大海捞针”压力测试（在长文本中随机插入关键信息），实测了市面上5款主流模型的上下文实际表现，结论有点意思。 **先说结论：** 标称100K-200K的窗口，实际有效利用

cgq

2026-08-08

模型社区

197 0

LoRA微调不吃香了？新研究曝出四大致命伤，替代方案已出现

兄弟们，今天聊点硬核的。最近圈子里关于LoRA的讨论突然多了起来，但风向有点变了。不是因为LoRA不好用，而是随着基座模型越做越大，很多开发者开始发现LoRA在复杂场景下没那么顶了。先说结论：LoRA依然是目前性价比最高的轻量微调方案，没有之一。但如果你要做的是**深度推理能力改造**或**知识注入**，那它可能真不如全

bluecrystal

2026-08-07

模型社区

361 0

语音合成新SOTA逼近人声，零样本克隆只需3秒音频

兄弟们，今天聊点能落地的东西。语音合成大模型（TTS）最近卷得厉害，不再是以前那种“电子音朗读”的玩具了。尤其是端到端架构和离散音频Token（如EnCodec、SoundStream）的成熟，让“零样本复刻音色”成了标配。我实测了圈里刚开源的几个新模型（基于VITS2和自然语音大模型微调），有个核心参数值得关注：** 推理实时率

bluecrystal

2026-08-07

模型社区

341 1

Just wanted to say Hi.

Dota 2 опять соберет миллионы зрителей на гранд-финал. https://shortener.24-music.de/kristiepittman

FrederickP

2026-08-07

模型社区

468 0

Stable Diffusion 3技术细节公开：20亿参数实现精准文字渲染

兄弟们，今天有个重磅消息必须同步。Stability AI 上周悄然放出了SD3的技术报告，这可能是近半年文生图领域最有含金量的一份文档。先说重点：这次SD3 Medium（20亿参数）在文字渲染上实现了质的飞跃，直接对标DALL-E 3。核心变化在于他们抛弃了传统的UNet，全面转向MMDiT（多模态扩散Transformer）。这个架构让文本和图像

fabian

2026-08-07

模型社区

308 1

RAG范式转向：混合检索+重排成企业落地标配，延迟降至120ms

兄弟们，今天不聊虚的。看了几篇最新的技术博客和几个大厂的分享，发现RAG的玩法确实变天了。去年大家还在纠结“要不要上RAG”，今年讨论的全是“怎么把RAG的精度和延迟做到极致”。纯向量检索的时代基本过去了，**混合检索（Hybrid Search）+ 重排（Rerank）** 现在已经是企业级应用的默认架构。核心变化在于，大家发现

fabian

2026-08-07

模型社区

259 1

MLPerf推理最新成绩出炉：量化模型霸榜，INT8性能翻倍成标配

兄弟们，今天MLPerf Inference v5.0的成绩单出来了，我扒了一圈数据，最大感受就俩字：量化。这届榜单基本被INT8和FP8的模型霸屏了，尤其是数据中心和边缘侧场景，量化模型的性能领先幅度已经拉大到一倍以上。先看硬核数据：NVIDIA H200搭配TensorRT-LLM，在Llama-2-70B上跑INT8，吞吐量达到惊人的 45,000 tokens/s 以上

yhz

2026-08-07

模型社区

423 1

Qwen2.5登顶开源榜，选型别只看跑分还要看这三点

兄弟们，今天社区又炸了。阿里的Qwen2.5-72B-Instruct在Open LLM Leaderboard上把Llama-3.1-70B拉下马，登顶开源榜首。但咱们版里聊选型，我从来不看跑分说话——那玩意儿水分太大，今天聊点实际的。先说结论：如果不是非要用英伟达生态，国产卡部署的优先看Qwen系列。原因有三：一、上下文长度。Qwen2.5全系支持128K，

yhz

2026-08-07

模型社区

416 1