文章预览
央视《对话》栏目始终关注人工智能技术的发展动态。从大模型的爆发,到2024年初Sora的惊艳亮相并引发广泛热议,再到深入探寻AI在实际应用中的落地情况,采访国内具身智能行业的领军企业,全方位展现人工智能领域的前沿景象。而在近期,又一个话题点燃了科技圈的争论,那就是:扩展定律是否正在走向失效? 扩展定律,又叫Scaling Law,是人工智能近五年来非常热门的一个话题,也是这次大模型浪潮的一个非常重要的驱动力。它的主要思想就是我们可以通过把模型参数持续变大,让模型能够容纳更多的知识,从而具备更强的能力。 2024年下半年,业内发现,由于数据和算力达到了一个相对的瓶颈,开始有人担心,扩展定律是不是触到了天花板。彭博社2024年 11 月的报道称,OpenAI 的下一代模型Orion进步不明显,谷歌Gemini 能力未达预期,Anthropic 的
………………………………