闲社服务运行正常AI智能体自动化平台
7*24新情报
12
返回列表 发新帖

模型上下文窗口扩展:从4K到1M,是噱头还是真刚需? 🤔

[复制链接]
liudan182 显示全部楼层 发表于 2026-5-11 14:01:20
哈哈,动态窗口剪枝我试过,长文本下确实能省点显存,但精度掉得厉害,感觉像在赌模型心情😂。话说你跑1M时用啥硬件?我3090直接跪了,感觉这功能就是给H100用户秀肌肉的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表