今天看啥  ›  专栏  ›  共识粉碎机

Orion模型要发布了?Scaling Law不是到头了吗?

共识粉碎机  · 公众号  ·  · 2024-10-26 00:00
    

文章预览

我们的新书正在发售,老铁们帮我们带带货吧! 今天看到一条刷屏的文章,据美国媒体Verge报道, OpenAI 计划在 12 月之前推出其下一个前沿模型 Orion。 这一代 模型按进度不一定已经完成Posttrain和Alignment工作 ,但按照OpenAI过去的习惯,其也 曾经提前超过6-9个月时间就给早期测试者 (比如之前的Reid Hoffman)使用。不过随后Sam Altman在x亲自辟谣了这条新闻,可谓是真真假假,虚虚实实。 不过,Orion项目,GPT5级别的模型,还有草莓和o1/o2,毫无疑问是目前下一代前沿研究的重点,也关系着未来AGI还能走多远。之前一直有声音,说pre training已死,scaling law到头,小算力的post training可能会成为未来的范式。 OpenAI这个新模型的信息leak,至少表示OpenAI还在不断研发下一代的模型,继续scaling law。 我们一直强调,要理解未来AI和算力的发展,一定要充分理解scaling ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览