访谈清华大学高滨教授：大模型时代的存算一体芯片

文章预览

近日，马斯克透露，他的人工智能初创公司xAI正计划建造一台超级计算机，并希望在 2025年秋季之前让拟议的超级计算机运行，为其下一版本的人工智能聊天机器人Grok提供算力。 其实，早在今年3月，xAI就发布了其最新版的Grok 1.5。不过，4月，马斯克宣布，由于没有足够多的先进芯片，故推迟了Grok 2模型的训练和发布。他表示，训练Grok2模型需要大约2万块英伟达H100，而Grok3模型及更高版本将需要10万块英伟达H100。完成后，其连接的芯片组将至少是当今最大GPU集群的4倍。 确实，生成式AI从云端走向终端， 芯片已经成为推进大模型发展的关键。 大模型企业也已经开始将目光聚焦到芯片公司，期待从底层展开合作，以解决算力成本在端侧的覆盖问题。基于算力需求，芯片厂商与大模型厂商走得更近了。 在泰克最新对 清华大学教授高滨 的采访中，他表 ………………………………