今天看啥  ›  专栏  ›  机器学习研究组订阅

马斯克豪掷40亿训Grok-3!红杉高盛大泼冷水,AI收支鸿沟或已达5000亿美元

机器学习研究组订阅  · 公众号  · AI  · 2024-07-06 20:48

文章预览

硅谷大厂的人工智能军备竞赛,还在加剧。 马斯克连连为xAI造势,宣布Grok 2将于下个月上线,并且还将豪掷近40亿买10万张H100训练Grok 3! 根据此前SemiAnalysis的爆料,1.8万亿巨量参数的GPT-4,由13万亿token训练,为此OpenAI斥资6300万美元,用了2.5万张A100。 如今,智算集群早已迈入超万卡时代。据分析,GPT-5的训练或将用到5-10万卡,GPT-6的训练则有很大概率超越10万卡,耗资百亿美元。 图源:阿里云 在模型训练的投资上,根据拾象科技的预测,OpenAI和谷歌未来几年的训练预算将达到200亿-300亿美元。 而在算力投资规模上,已知微软和OpenAI「星际之门」将达到千亿美元。谷歌CEO劈柴也曾表示谷歌的算力投资将超千亿美元。 而美国科技大公司每年在云和AI的投资上,至少要耗资4000亿美元。 然而,商业闭环的路径在哪里? 至今无人回答。 在这样的背景下,业 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览