今天看啥  ›  专栏  ›  机器学习研究组订阅

大模型时代结束?大佬齐预测:AI模型或需先缩小规模,才能再次扩大规模

机器学习研究组订阅  · 公众号  · AI  · 2024-07-22 20:06

文章预览

 「小模型周」过去了 ,小模型的最新战场才刚刚开辟。 上周GPT-4o mini和Mistral NeMo二连发,「麻雀虽小,五脏俱全」的小模型成为业界大佬密切关注的新方向。 这么说来,难道大模型要失宠了? Scaling Law要失效了? 前OpenAI和特斯拉AI研究员Andrej Karpathy刚刚入局AI教育,「K老师」最近发表推文指导行业迷津,揭秘科技巨头纷纷转向小模型研发的背后新趋势:AI大模型的竞争即将逆转。 他预判,未来的模型将会更小,但仍然会变得更智能。 人工智能巨头公司和一些新晋独角兽,最近都发布了与其他同行相比更紧凑、更强大、更实惠的人工智能模型,最新的例子是OpenAI的GPT-4o mini。 Karpathy预测这一趋势将持续下去。他写道,「我敢打赌,我们会看到很多能够有效可靠思考的模型,而且体积非常小。」 小模型:站在巨人的肩膀上 在LLM发展的初期阶段,吞吐 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览