傅盛的AI大课（4）：企业专用大模型，百亿参数就够了

文章预览

欢迎大家关注我的视频号： 傅盛 观看相关短视频 猎 户星空大模型，专为企业应用而生。 2023年5月，我们在服务一个客户时，他们提出了一个需求：“能不能帮我私有化部署大模型？” 但是当时一个千亿参数大模型一年私有化授权费用就是几千万，到今天应该还是，然后私有化部署以后，买服务器的费用最低成本160万（当时的价格）。客户说，“我们其实就想做一个客服，AI大模型被讲的那么牛，一年投个几千万难以承受，再高深的技术最后也得算账，我不能因为有这个技术就用，用了以后比我现在的成本高几十倍，有没有更便宜又不损失性能的方案？” 一、千亿全面，百亿专业 在我们自己的实践中，我们就给客户做调试，后来发现用百亿参数的模型，加上客户自己的私有数据，再加应用的打磨，效果是可以约等于甚至大于千亿参数大模型的。 ………………………………