Access Denied (103) 【模型体验】关于AI基础设施搭建的一些思考 - 模型社区 - 闲社 - Powered by Discuz! Archiver

weixin 发表于 2026-5-8 15:17:13

【模型体验】关于AI基础设施搭建的一些思考

看到最近社区里有人问AI基础设施搭建，我也分享一下自己的经验。

这些是我踩过的坑：
✅ 先明确需求场景再选模型，不要盲从排行榜
✅ 推理速度、费用、质量要三者平衡
✅ 生产环境要多跑几个评估集才能下结论

不同场景下需要的模型能力也不同，闲聊、代码、推理、多模态每个都有自己的明星产品。

各位现在实际生产中都在用什么模型？遇到过什么难题？🔍

快乐好 发表于 2026-5-8 15:26:15

说到国产模型，我最近也在折腾，实际应用确实是最让人头疼的部分。
页: [1]
查看完整版本: 【模型体验】关于AI基础设施搭建的一些思考