【民生计算机】从英伟达CES演讲看AI真正机遇方向

文章预览

1.本周观点 1.1 大模型进入推理时代，第三缩放定律带动算力需求 Scaling Law仍在持续，英伟达在集群、芯片、边缘计算持续推陈出新。 在演讲中，黄仁勋坚信Scaling Law仍在继续，而且除了Pre-Training Scaling Law（预训练缩放定律）之外，还出现了后两个阶段的Scaling Law，分别是Post-training Scaling law（后训练缩放定律）和Test-Time Scaling Law（测试时间缩放定律）。测试时缩放是指AI在使用过程中，能够灵活分配计算资源，不再仅仅改进参数，而是专注于决定使用多少计算资源来生成答案。推理和长期思考是两种实现方式，AI系统可能将问题分解成多个步骤，产生多个想法并进行评估，最终选择最佳方案，当前以O1、O3为代表的推理大模型成功就是测试时间缩放定律的验证。 AI应用走向千行百业，英伟达提供超200种不同配置的系统满足各类算力需求。 当前Blackwell ………………………………