更小更强大的 GPT-4o mini 背后，AI 模型的未来不再是越大越好

文章预览

上周 OpenAI 深夜放出大招，GPT-4o mini 一脚将 GPT-3.5 Turbo 踹退役了，甚至在大模型竞技场 LMSYS 上也超越了 GPT-4。 到了本周 Meta 发布的 Llama 3.1 大模型，如果说第一梯队的 405B 尺寸还在意料之中，那么新版本的 8B 和 70B 尺寸则带来了更多惊喜。 而这或许不是小模型竞争的终点，更可能是一个新的起点。 不是大模型用不起，而是小模型更有性价比 在 AI 圈的广袤天地里，小模型始终始终有着自己的传说。 往外看，去年一鸣惊人的 Mistral 7B 刚一发布就被誉为「最好的 7B 模型」，在多项评估基准中均胜过了 13B 参数模型 Llama 2，并在推理、数学和代码生成方面超越了 Llama 34B。 今年微软也开源最强小参数大模型 phi-3-mini，虽然参数量仅有 3.8B，但性能评测结果远超同等参数规模水平，越级比肩 GPT-3.5、Claude-3 Sonnet 等更大模型。 往内看，面壁智能在 2 月初推出 ………………………………