Ilya宣判后GPT-5被曝屡训屡败，一次训数月，数据要人工从头构建

主要观点总结

本文介绍了OpenAI的GPT-5模型的开发进展以及相关的技术细节。GPT-5模型已经完成了至少两轮的训练，但每次训练后都遇到新问题，导致其预训练需求难以满足。尽管GPT-5被寄予厚望，但其推出时间一直悬而未决，且存在诸多挑战。同时，OpenAI正在尝试新的战略，如推出o1、o3系列。GPT-5的开发启动时间超过18个月，内部代号为猎户座Orion。此外，OpenAI还发布了关于安全问题的论文，引入了一种名为慎重对齐的对齐方式，以提高模型的安全性。

关键观点总结

关键观点1: GPT-5开发进展及挑战

GPT-5已至少完成两轮训练，每次长达数月，但每次训练后都遇到新问题。OpenAI正在专门雇人写代码、做数学题为GPT-5从头创建数据，但效率不够高，满足GPT-5的预训练需求有难度。

关键观点2: GPT-5的预期与发布时间

GPT-5被寄予厚望，但发布时间一直悬而未决。据奥特曼之前表示，GPT-5的发布时间可能会推迟到2025或2026年。

关键观点3: OpenAI的新战略

OpenAI正在尝试新的战略，如推出o1、o3系列模型。其中o3在ARC-AGI测试上取得了显著的进展。

关键观点4: GPT-5的开发时间与代号

GPT-5的开发启动时间超过18个月，内部代号为猎户座Orion。

关键观点5: OpenAI的安全问题

OpenAI发布了一篇关于安全问题的论文，引入了一种名为慎重对齐的对齐方式，直接向推理模型传授人工编写、可解释的安全规范，以提高模型的安全性。

文章预览

来自：量子位 | 公众号 QbitAI GPT-5被曝效果远不达预期。 OpenAI连续12场发布会刚刚结束，大家最想看的GPT-5/4.5影子都没有，于是华尔街日报这边爆料了。 GPT-5 已至少完成2轮训练 ，每次长达数月，但是每次训练后都遇到新问题。 OpenAI正在专门雇人写代码、做数学题为GPT-5 从头创建数据，o1合成数据也用 ，但效率不够高，想要满足GPT-5的预训练需求有难度。 按照市场估算，一次长达6个月的训练 仅计算就需要花费5亿美金 。GPT-5两次训练进展都不顺，背后的成本想必也是个天文数字。 Ilya前不久在NeurIPS 2024上宣判的预训练即将终结 ，似乎再次得到论证…… 这也和The Information此前爆料相呼应，随着GPT系列进化速度放缓，OpenAI正在尝试调整战略，比如o1、o3系列的推出。 目前，OpenAI对最新爆料尚无回应。 但GPT-5究竟是OpenAI藏着不发，还是不能发？答案更确 ………………………………