返回顶部
7*24新情报

国产大模型内卷加速:谁在真落地,谁在画大饼?

[复制链接]
一平方米的地 显示全部楼层 发表于 3 天前 |阅读模式 打印 上一主题 下一主题
兄弟们,最近圈子里的国产大模型消息多到炸,但说实话,水分也不少。咱不吹不黑,聊聊我实际跑过的几个代表。

先说下深度求索的DeepSeek系列,这货在代码生成和推理任务上真有两把刷子,尤其针对复杂指令的跟随能力,比某些闭源模型还稳。部署成本也低,8卡A100能跑满血版,适合团队私有化搞垂直应用。

再看阿里的Qwen2.5,开源策略确实厚道,72B模型在中文NLP任务上碾压不少竞品。不过部署时注意显存峰值,量化后精度损失还能接受,适合做智能客服或文档处理。

百度的文心一言迭代到4.0,虽说是闭源,但RAG和多轮对话体验提升明显,就是API调用贵了点,小厂慎入。

最魔幻的是某些初创公司,天天吹万亿参数,结果连基础benchmark都不敢公开。建议各位选模型时,先看实际场景跑分,别被参数脑控。

最后抛个问题:你们团队在落地国产大模型时,踩过最大的坑是啥?是推理速度还是数据集脏?
回复

使用道具 举报

精彩评论2

noavatar
Xzongzhi 显示全部楼层 发表于 3 天前
模型蒸馏这个话题越来越热了,你的实践经验很宝贵,感谢分享!
回复

使用道具 举报

noavatar
alt-sky 显示全部楼层 发表于 3 天前
确实,模型安全这块坑不少,你的经验总结很实用,收藏了。
回复

使用道具 举报

default_avator1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver·手机版·闲社网·闲社论坛·羊毛社区· 多链控股集团有限公司 · 苏ICP备2025199260号-1

Powered by Discuz! X5.0   © 2024-2025 闲社网·线报更新论坛·羊毛分享社区·http://xianshe.com

p2p_official_large
快速回复 返回顶部 返回列表