专栏名称: Alpha Engineer
费同学的赛博书屋,分享关于科技、投资的最新观点
今天看啥  ›  专栏  ›  Alpha Engineer

【深度】一文看懂Gen AI浪潮下数据中心的新机遇

Alpha Engineer  · 公众号  ·  · 2024-10-15 21:02

文章预览

作者 | 费斌杰 北京市青联委员 熵简科技CEO 随着生成式 AI 出现突破性进展,数据中心行业目前正在经历史无前例的跨越式发展,在未来经济增长和国家安全中有着举足轻重的地位。 Nvidia 的 GB200 系列需要直接对芯片进行液冷,机架功率密度高达 130kW。在性能上,GB200 相比 H100 推理性能提升了约 9 倍,训练性能提升约 3 倍。 因此,那些无法提供更高功率密度的数据中心将错失为其客户提供巨大的性能  TCO  改进的市场机遇,并将在生成式  AI  军备竞赛中落后。 AI 需求的驱动促使数据中心设计向适应高功率密度转变。例如, Meta 拆除了一整栋在建建筑,因为这是他们多年来一直使用的低功率密度的旧数据中心设计。 相反,他们用全新的 AI-Ready 设计取而代之。 变化之 下 往 往潜藏着机遇 。 昨日 SemiAna lysis发布了一篇深度报告,深入探讨了 【AI时 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览