主要观点总结
本文主要介绍了字节公司在算力布局及采购情况、GPU租赁业务、国产芯片采购及评价等方面的信息,包括未来几年的预算、采购策略、应用进展等。同时,也涉及了其他相关话题,如AI云的增长趋势、国产云厂的增长预期等。
关键观点总结
关键观点1: 字节公司算力布局及采购情况
字节公司未来的算力预算在不断增加,主要用于训练算力和推理算力。采购策略上,以英伟达为主,但也考虑国产芯片。对不同厂商的芯片采购预算和预期进行了详细阐述。
关键观点2: GPU租赁业务情况
字节公司的GPU租赁业务规模计划扩大,以补充云的营收。在价格方面不太在意,更看重营收规模,有资源成本优势。租赁业务对AI本身帮助不大,主要是为了赚钱。
关键观点3: 国产芯片采购及评价
字节公司在国产芯片采购上有一定计划,对国产卡座训练持保留态度,主要用于推理。对昆仑芯、海光等国产芯片厂商的产品有一定的采购预期。
关键观点4: AI云的增长趋势
AI云需求增长趋势明显,保守估计最少翻倍,高点可能翻几倍。字节公司对自身应用落地信心较高,但对下游厂商外部调用相对不乐观。
关键观点5: 其他相关信息
包括多模态应用场景、AI算力的IaaS服务、AI云和GPU租赁的区别等相关信息。
文章预览
2025.01.02 字节算力布局及采购情况 2024年算力购买总预算大概是880亿,其中通算规划大概是500多亿。 2025年算力预算为1400到1500亿,英伟达份额从去年的80%多下降到40%多。GPU采购量:海外大概500亿,国内大概400亿。 2025年上半年,可能主要采购昇腾和寒武纪的产品,每家可能一万张卡;昆仑芯如果努力,可能会分到小几万张订单;2025年机会面较大的还有海光,其DW100芯片还不错,寒武纪已有9万多张卡的预期。 1、字节算力布局及采购情况 2024年算力采购: 芯片采购量:拿了超过二十多万张的H20,大概4到5万张的L20,采购以英伟达的卡为主,还买了一些升腾、海光的K100-AI、寒武纪等芯片,以及少量的昆仑芯类型的芯片。此外,还进阶采购了一些英伟达的H100芯片,但总量不多。 服务器预算:2024年CAPEX的服务器预算为850亿到880亿,其中有大概60万台的通用CP
………………………………