潞晨训推一体机，画出大模型到企业的一条龙路线图

文章预览

最近跟一位企业的CIO交流，对方关于大模型的认知让我惊呆了，他说，“听说做私域大模型要两千万的软件投入和两千万的算力投入，我们公司没有这个预算”。 于是我问道：“那如果按照你们公司的数据基础和业务场景，只需要十分之一甚至更少的投入，你愿意做大模型吗？” 他马上表示：“这个预算可以搞！” 如果只关注基础模型厂商和卖“铲子”的英伟达的发布会，会觉得大模型立马就可以将企业用户“带飞”。事实上，很多企业在应用大模型时，还有大量的困惑与难题。 比如以为需要大算力、大投入，要么望而却步，要么盲目囤了很多卡/服务器，却发现基座模型与业务融合的过程漫长且复杂，涉及大量试错、调优等工作，后续训练、推理、部署等环节的算力资源消耗与浪费情况，是容易被忽略的隐藏问题。 这有点像我们要去一个地形 ………………………………