大模型一体机塞进这款游戏卡，价格砍掉一个数量级

主要观点总结

本文主要介绍了大模型一体机的现状和发展趋势，指出英特尔推出的锐炫显卡和至强处理器的组合方案已经成为了一种新的高性价比选择。该方案可以在性能与成本之间取得平衡，降低运营成本，简化运维流程，保证业务稳定性和连续性。同时，该方案还可以支持多种开源模型，满足不同场景的需求。

关键观点总结

关键观点1: 大模型一体机的内部配置可以是多样的，包括搭载N卡和锐炫显卡等。

大模型一体机的选择不仅仅基于性能，还有性价比的考量。锐炫显卡与至强处理器的组合方案被证明是一种新的高性价比选择。

关键观点2: 锐炫显卡和至强处理器的组合可以带来多方面的优势。

这种组合简化了运维流程，降低了运营成本，保证了业务的稳定性和连续性，同时还可以支持多种开源模型。

关键观点3: 越来越多的企业选择一体机形式来部署大模型。

企业越来越倾向于选择一体机形式部署大模型，这是因为一体机具有部署速度快、性能与成本平衡等优势。

关键观点4: 英特尔的架构AI一体机正在成为行业的热门选择。

越来越多的合作伙伴选择英特尔的平台来构建AI一体机的解决方案，这从侧面证明了英特尔方案的高性价比和行业认可度。

文章预览

金磊 梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 家人们，你知道近段时间大火的各种大模型 一体机 ，里面到底是什么卡吗？ 相信很多小伙伴的第一反应，或许就是N卡。 但在我们接触、体验了真实的大模型一体机之后，发现了一个大写的 “万万没想到” ： 没错，里面也可以是英特尔的 锐炫 ™  显卡！ 那这性能到底能不能跟上呢？ 带着这个问题，在体验之余，我们还“抓”来了一个正在为这种一体机开发方案的软件公司进行了一番“盘问”。 这家公司叫 飞致云 ，主要是把大模型一体机用在了自家的 MaxKB 上（一款基于大语言模型的知识库问答系统）。 他们是把4张锐炫 ™  A770显卡和2张N卡放到一起，做了一下对比测试： 对于同一个相对规模较大的任务，搭载N卡的一体机大约耗时半小时，而搭载锐炫 ™  A770显卡的一体机则需要50分钟。 但是！ ………………………………