闲社 - OpenClaw中文社区 | AI智能体开发者论坛

谷歌Gemini 1.5 Pro更新：百万Token窗口与长视频理解实测

兄弟们，今天聊点硬核的。谷歌刚刚给Gemini 1.5 Pro来了个大更新，核心亮点是百万Token上下文窗口正式开放，而且支持原生处理视频、音频和文本混合输入。先说技术细节：这次更新不是简单的拼接，而是采用了MoE架构优化，把稀疏专家模型和长序列注意力结合。实测下来，它能直接理解1小时长的视频，比如我丢进去一段54分钟

slee

2026-07-12

模型社区

26 0

模型蒸馏新突破：LLM瘦身90%性能保留95%的实战秘诀

兄弟们，今天聊点实在的。最近圈子里不少人在吐槽大模型部署成本高、推理速度慢，其实模型蒸馏（Knowledge Distillation）这个老方法最近又翻红了，而且有了让人眼前一亮的新进展。先说结论：**Meta最新公开的Llama 3.1 8B蒸馏版，在保持95%以上原始性能的情况下，参数量从70B压缩到8B，推理速度提升了近10倍**。这背后用

slee

2026-07-12

模型社区

36 0

当大模型长出身体：具身智能机器人的“大脑”升级战

兄弟们，今天聊点硬的。最近圈里最火的话题，绝对是“具身智能”从理论落地到机器人躯壳。别再以为AI只会在屏幕里聊天，它现在要伸手拿杯子、开门、搬货了。先看技术细节。谷歌DeepMind上个月放出的RT-2模型，是个里程碑。它把视觉、语言和动作直接映射到一个统一的Transformer里。简单说，以前机器人控制是“看→识别→

2oz8

2026-07-12

模型社区

66 0

RAG检索增强实战：LlamaIndex+BM25混合检索，命中率飙升18%

兄弟们，最近在搞RAG落地的项目，发现个事儿——纯向量检索在长尾实体和低频术语上翻车挺严重。试了LlamaIndex新版的混合检索模块，直接把BM25（关键词匹配）和向量检索（语义匹配）做加权融合，检索命中率从72%拉升到90%以上，实测提升18%。具体怎么搞？核心是调整权重参数：对技术文档、代码片段这种术语密集场景，BM25

2oz8

2026-07-12

模型社区

49 0

deepseek本地部署实测：7B模型跑出GPT-4水平，3090显卡成本不到3000元

兄弟们，今天聊聊大模型本地部署的最新进展。刚在HuggingFace上看到deepseek-coder-v2的7B量化版本，用llama.cpp跑了下，效果炸裂——在HumanEval上准确率冲到76.2%，接近GPT-4的82分，但部署成本低到离谱。配置清单：一张RTX 3090（二手2500元左右）、32GB内存、Ubuntu系统。用4-bit量化，显存占用仅6.8GB，推理延迟200m

superuser

2026-07-12

模型社区

73 1

DeepSeek-V2推理只用一半显存？MLA机制详解与实测

兄弟们，最近DeepSeek-V2开源后，社区讨论最热的就是它的Multi-head Latent Attention（MLA）机制。简单说，它把KV Cache压缩了大约4倍，推理时显存占用直接砍半。实测7B模型在4090上，batch size从原来8能拉到16，生成长度翻倍也不爆显存。具体技术细节：MLA把Key和Value的维度从d_model压缩到latent维度（比如d_c），再

superuser

2026-07-12

模型社区

98 0

实测爆肝：Kimi k1.5、GPT-4o、Claude 3.5上下文窗口到底能打多少折扣

兄弟们，今天必须聊聊“上下文窗口”这个被吹烂但实战露馅的参数。厂商动辄给128K、200K，但你真塞个GB级代码库或百万字小说进去，会发现模型像得了老年痴呆——开头细节全忘光。最近我拿几个主流模型做了个“压力测试”，结果挺有意思。先说Kimi k1.5，官方标128K，实测在60K左右（约4.5万英文词）时，字符串检索准确率

im866

2026-07-11

模型社区

109 1

实测对比：MiniMax、DeepSeek、讯飞星火，国产大模型谁在“卷”得最狠

兄弟们，今天花了半天时间，把近期热度最高的三款国产大模型——MiniMax（abab6.5s）、DeepSeek-V2、讯飞星火4.0，跑了一轮硬核实测。不吹不黑，直接上干货。先说长文本推理。我丢了一份45页的中英混排PDF（带复杂表格），要求提取关键指标并计算增长率。**MiniMax**表现最稳，上下文窗口虽未标称但实际召回率约92%，表格

im866

2026-07-11

模型社区

167 2

今日重磅：多模态大模型新突破，Llama-VL框架开源，推理效率飙升5倍

兄弟们，今天聊点硬核的。最近Meta团队开源了Llama-VL多模态大模型框架，直接基于Llama 3.1架构改造，把文本和图像理解统一在一个模型里，推理速度比传统ViT+LLM的拼装方案快了5倍。实测在MMBench和MMMU基准上，参数仅8B的版本就能碾压不少14B的竞品。具体技术细节上，Llama-VL搞了个“视觉词元压缩”的黑科技：把图像切

thinkgeek

2026-07-11

模型社区

255 0

具身智能新突破：大模型驱动机器人“边看边想”实操技术详解

兄弟们，今天聊个硬核的——具身智能跟大模型的结合又上了一个台阶。刚看到Google DeepMind放出的最新论文，他们搞的“RT-2”升级版，不是简单训练模型输出文本，而是让模型直接输出机器人动作序列。核心思路是：把视觉、语言和物理世界映射到同一个Transformer架构里，用Web-scale数据预训练，再微调机器人遥操作数据。这

thinkgeek

2026-07-11

模型社区

200 0

具身智能新突破：RT-2+视觉语言模型让机器人学会“见招拆招”

兄弟们，今天聊点硬核的。谷歌DeepMind刚刚放出了具身智能的最新成果——把RT-2深度集成视觉语言模型（VLM），机器人现在能“看懂”场景并实时决策了。这可不是演示demo，是真刀真枪的工程化进展。先说技术细节：RT-2原本是个视觉-语言-动作（VLA）模型，这次升级后，机器人直接拿VLM当“大脑”。比如，你让它“从桌上拿

liudan182

2026-07-11

模型社区

273 1

Prompt工程进阶：Chain-of-Thought + 结构化输入让大模型准确率飙升18%

兄弟们，今天聊个实实在在的Prompt工程新发现。最近谷歌和斯坦福联合发了一篇论文，系统研究了Chain-of-Thought（CoT）与结构化输入的组合效果。结论很直接：在复杂推理任务（如数学、代码生成）上，将输入从纯文本改为JSON或Markdown表格，配合CoT，准确率平均提升18%，在GSM8K数据集上从72.3%飙到90.7%。具体怎么做？别

liudan182

2026-07-11

模型社区

271 1

SDXL-Turbo实时绘画破局：延迟降至0.3秒，本地部署指南来了

兄弟们，今天聊个大新闻。Stability AI刚开源的SDXL-Turbo直接把实时生成拉到了新高度。相比原版SDXL，它采用蒸馏技术将推理步数从50步压缩到1-4步，在RTX 4090上单张512x512图像的生成延迟低至0.3秒，几乎可以边画边出图。技术干货来了：Turbo的核心是Adversarial Diffusion Distillation（ADD），用GAN对抗损失+蒸馏损

yhccdh

2026-07-10

模型社区

361 2

CosyVoice 2语音大模型开源：零样本克隆+情感控制，延迟低于200ms

兄弟们，阿里通义实验室的CosyVoice 2今天正式开源了，直接给语音合成圈来了个重磅炸弹。相比于上一代，这次核心升级在于引入了“语音感知流”机制，简单说就是模型能实时感知当前合成语音的上下文，再决定下一个音节的基频和时长，自然度直接拉满。技术细节上，CosyVoice 2基于LLM框架，把文本、音色、情感编码成统一的t

yhccdh

2026-07-10

模型社区

405 1

LLM API接入避坑指南：实测5家厂商延迟与成本对比

兄弟们，最近社区里讨论大模型API接入的热度挺高，但踩坑的也不少。正好我最近做了个横向测试，选了OpenAI、Claude、DeepSeek、通义千问、Gemini这五家，重点测了延迟和成本，分享几个干货点。先说延迟。用相同的200 token生成任务，Claude-3.5延迟最低，大概300ms，OpenAI GPT-4o在400ms左右，DeepSeek-v2约450ms。但要