从狂热到冷静：2美元/小时出租H100意味着什么？|【经纬低调分享】

主要观点总结

本文深入探讨了AI技术飞速发展下GPU市场的巨变，尤其关注了H100算力的供需变化和经济模型。文章分析了导致H100价格大幅下降的多种因素，并探讨了这一趋势对各方可能产生的影响。

关键观点总结

关键观点1: AI技术的飞速发展对GPU市场产生了巨大的影响。

随着AI基础设施的大量投资，市场上的H100算力经历了供不应求到过剩的转变。

关键观点2: H100的价格大幅下降。

由于各种原因，包括硬件供应商的转变、数据中心的过度投资以及开放权重模型的兴起等，导致H100的价格大幅下降。

关键观点3: 市场上的算力供应增加和需求减少。

大型模型创建者开始转向微调现有的开放权重模型，导致对H100的需求减少。同时，由于各种原因延迟的算力供应现在正在上线，进一步增加了市场上的算力供应。

关键观点4: H100集群价格的分层可能成为一个趋势。

预计大型集群仍然会收取溢价，而基于以太网的小型集群可能会定较低的价格。同时，新进入市场的公共云H100集群可能会面临无利可图的风险。

关键观点5: 便宜的H100可能加速开放权重AI的采用浪潮。

随着H100价格的下降，更多的业余爱好者、AI开发者和工程师将能够运行、微调和探索开放模型，这可能会激发AI应用的浪潮。

文章预览

在AI技术的飞速发展下，GPU市场正经历着翻天覆地的变化。 由于AI基础设施的巨额投资，市场上的H100算力已经供过于求，导致租赁价格从8美元/小时大幅下降至低于2美元/小时。 本文作者Eugene Cheah深入研究H100市场后， 建议用户按需租用算力，而非购买，以避免潜在的亏损。 文章还讨论了AI竞赛的历史，从GPT-3.5和ChatGPT的兴起到H100的推出，以及由此引发的对H100的高需求。然而，随着时间的推移，H100的价格不仅没有保持稳定，反而出现了大幅下降。 这种价格下降的原因很复杂，包括硬件供应商的转变、数据中心的过度投资、以及开放权重模型的兴起等。这些因素共同导致了对H100需求的减少，以及市场上算力供应的增加。 最后，文章提出了几种可能的市场走向，包括H100集群价格的分层、新公共云H100集群可能面临的无利可图的风险，以及便宜的H100可 ………………………………