预训练卷到头了，推理却是一片蓝海

文章预览

就在刚刚结束的 NeurIPS 2024 上，OpenAI 前首席科学家、联合创始人 Ilya 提到“预训练即将终结”，“接下来将是超级智能：agent、 推理 、理解和自我意识。” 从商业价值的角度看，尽管大模型技术的发展进步值得欣喜，但对投资者而言，如何带来商业价值才是他们最为关注的。Ilya 提到的 推理 ，也被认为很具商业潜力。近期，来自纽约的风投专家 Eric Flaningam 对 AI 模型推理(Inference) 的技术现状、市场格局和发展趋势进行了全面梳理，旨在从日新月异的技术变革中捕捉最具投资潜力的机会点。 什么是“模型推理” （熟悉的读者可以跳过） 模型推理的简单解释 简单来说，如果把 AI 模型比作一个"学生"，那么： 模型训练 就是老师带着学生反复学习、练习，让模型从海量数据中总结规律、积累“知识”的过程；这个过程需要消耗大量的计算资源。 模型 ………………………………