文章预览
作者 | 量子位 ( QbitAI) 编辑 | 金磊 梦晨 点击下方 卡片 ,关注“ 3D视觉之心 ”公众号 第一时间获取 3D视觉干货 >> 点击进入→ 3D视觉之心技术交流群 是时候让CPU在AI应用上 “支棱”起来了。 这是去年大语言模型大火之时,权威期刊 IEEE Spectrum 在一篇文章中,开门见山给出的一个观点;并且是由一群AI研究人员得出、声量越来越大的那种。 文章还坦言道: 诚然GPU可能占据了主导地位,但在AI领域中的很多情况下,CPU却是更合适的那一个。 例如文章引援了Hugging Face首席布道官Julien Simon体验的真实案例—— 拿一个 英特尔 ® 至强 ® 系列CPU ,就能轻松驾驭Q8-Chat这个大语言模型,而且响应速度很快。 Simon对此开诚布公地表示: GPU虽然很好,但垄断从来不是一件好事,可能会加剧供应链问题并导致成本上升。 英特尔CPU在许多推理场景中都能很好地运
………………………………