今天看啥  ›  专栏  ›  大模型智能

Ilya宣判后GPT-5被曝屡训屡败,一次训数月,数据要人工从头构建

大模型智能  · 公众号  ·  · 2024-12-23 09:31
    

文章预览

大模型智能|分享 来源 | 量子位 作者 | 明敏 克雷西 GPT-5被曝效果远不达预期。 OpenAI连续12场发布会刚刚结束,大家最想看的GPT-5/4.5影子都没有,于是华尔街日报这边爆料了。 GPT-5已至少完成2轮训练,每次长达数月,但是每次训练后都遇到新问题。 OpenAI正在专门雇人写代码、做数学题为GPT-5从头创建数据,o1合成数据也用,但效率不够高,想要满足GPT-5的预训练需求有难度。 按照市场估算,一次长达6个月的训练仅计算就需要花费5亿美金。GPT-5两次训练进展都不顺,背后的成本想必也是个天文数字。 Ilya前不久在NeurIPS 2024上宣判的预训练即将终结 ,似乎再次得到论证…… 这也和The Information此前爆料相呼应,随着GPT系列进化速度放缓,OpenAI正在尝试调整战略,比如o1、o3系列的推出。 目前,OpenAI对最新爆料尚无回应。 但GPT-5究竟是OpenAI藏着不发,还 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览