天风·海外 | 展望Gemini 2/GPT Next，从Intelligence Per Token到Intelligence

文章预览

我们认为从Intelligence Per Token到Inlligence Per Task的模型变化是重要方向。1）训练阶段，大模型训练预计继续遵循“Scaling Law”。2）推理阶段，我们认为树状搜索/自博弈等方式有望快速提升Intelligence Per Token，我们看好在计算阶段GPU与CPU的高速互联。 模型架构之变：回应AI应用的六千亿美元之问 GPU投入与AI商业化收入之差--AI商业化的六千亿美元之问： 红杉认为，如果GPU在大模型训练的投入有商业化回报，那么英伟达数据中心年化1500亿美元收入应该对应着6000亿美元的终端市场。AI应用如何达到六千亿美元的市场规? 对于六千亿问题的三种最常见的回答： 1)“成熟度曲线”:大模型存在大量的前置投入 2) “Scaling Law”:大模型随着不断更大规模训练将会实现更强能力 3)加速计算/“AI+”:GPU已经在推荐算法等领域替代和加速传统CPU工作负载 与市场普遍观点不同 ………………………………