兄弟们,今天聊点硬核的。谷歌刚刚给Gemini 1.5 Pro来了个大更新,核心亮点是百万Token上下文窗口正式开放,而且支持原生处理视频、音频和文本混合输入。
先说技术细节:这次更新不是简单的拼接,而是采用了MoE架构优化,把稀疏专家模型和长序列注意力结合。实测下来,它能直接理解1小时长的视频,比如我丢进去一段54分钟的纪录片,Gemini能精准定位到某个场景中的人物对话,甚至能总结出3小时音频里的关键会议纪要。这在多模态领域是头一个做到这种效率的。
具体数据:在Video-MME长视频理解基准上,Gemini 1.5 Pro得分86.2%,比之前的SOTA模型高出近10个百分点。而且它支持实时流式处理,对开发者来说,这意味着可以构建实时视频监控分析或直播字幕生成应用。
个人觉得最实用的是跨模态检索能力——比如你给个文本描述“红色跑车在雨天行驶”,它能从百万帧视频里直接找到对应片段,召回率超95%。开发者已经可以通过Vertex AI调用API,定价是每百万Token 7美元,比之前降了30%。
对做视频理解或RAG的朋友,建议立刻上手测一下,尤其长文档+多模态场景,这可能是今年最值得跟进的技术趋势。 |