专栏名称: 星海情报局
关注国产替代和中国品牌出海,每年写100个中国品牌案例,见证中国产业崛起!
今天看啥  ›  专栏  ›  星海情报局

2美元/小时出租H100:GPU泡沫破灭前夜

星海情报局  · 公众号  · 硬件 科技媒体  · 2024-10-18 18:31

主要观点总结

本文深入探讨了AI基础设施的投资现状,特别是在GPU市场繁荣与泡沫之间的微妙平衡。文章详细分析了H100 GPU的需求、价格变动、投资回报率以及市场趋势,涉及GPU基础设施提供商、模型训练者、投资者等各方角色的互动和影响。随着开放权重模型的兴起和GPU价格的波动,市场正在经历一系列变化。此外,本文也关注了AI推理和微调需求的增长以及其在行业转型中的影响。

关键观点总结

关键观点1: AI基础设施投资现状

随着AI的繁荣,GPU需求激增,但市场也呈现出泡沫化的迹象。投资者和企业在决策时需要考虑多方面的因素,包括GPU的价格、性能、市场需求等。

关键观点2: H100 GPU的需求和价格变动

H100 GPU的需求受到开放权重模型的兴起和AI训练热潮的推动。然而,随着市场的饱和和竞争的加剧,H100 GPU的价格开始下跌,这对投资者和GPU提供者来说意味着更高的风险和挑战。

关键观点3: 投资回报率与市场趋势

新的H100集群的投资回报率开始下降,市场出现分层。一方面,大型集群仍然能够收取溢价;另一方面,小型集群面临无利可图的风险。市场还出现了新的趋势,如加密货币挖矿影响的减少,AMD和Intel的替代产品的兴起等。

关键观点4: 开放权重模型的兴起

随着开放权重模型的兴起,对AI推理和微调的需求增长,这推动了GPU市场的变化。同时,这也为业余爱好者、AI开发者和工程师提供了更实惠的选择。

关键观点5: 市场影响与挑战

新的公共云H100集群进入市场较晚可能会面临无利可图的风险。同时,投资者可能会遭受损失,特别是在市场饱和和竞争激烈的情况下。然而,也有人认为这些挑战可能会激发更多的创新和市场机会。


文章预览

红杉资本的报告曾指出,AI产业的 年产值超过6000亿美元,才够支付数据中心、加速GPU卡等AI基础设施费用。而 现在一种普遍说法认为,基础模型训练的资本支出是“历史上贬值最快的资产”,但关于GPU基础设施支出的判定仍未出炉,GPU土豪战争仍在进行。尤其是,以OpenAI为代表的大模型公司在训练+推理上的支出超过了收入,最近他们在有史以来最大的风险投资轮中筹集了66亿美元,同时预计2026年的亏损将达到140亿美元。 近期,NVIDIA的新一代Blackwell系列芯片交付给了OpenAI,他们还表示接下来一年的产品已经售罄,NVIDIA CEO黄仁勋指出这可能是行业历史上最成功的产品。与此同时,AMD CEO苏姿丰推出了MI325X,而 AI推理芯片公司Cerebras 提交了IPO申请。 随着数十亿美元投入到AI基础设施层,这会促进AI上层的 繁荣还是泡沫?现在, 是时候深入探讨 GPU 市场 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览