主要观点总结
本文探讨了从GPT-4到GPT-5的扩展规律，以及GPT-5的相关技术细节，包括推理、个性化等方面的发展。文章还讨论了标记预测算法（TPAs）的重要性，以及OpenAI在弥合GPT-4和GPT-5之间的差距方面所做的努力。最后，文章提到了GPT-5的参数规模、训练数据、计算资源等方面的信息。
关键观点总结
关键观点1: GPT-5的扩展规律及技术进步
GPT-5在推理、个性化等方面有显著的进步，通过关注与OpenAI相关的人物和顶尖实验室发表的论文，可以了解这些进步的实现方式。
关键观点2: 标记预测算法（TPAs）的重要性
TPAs是包括DALL-E、Sora和Voice Engine等模型的总称，它们极其强大，是建立现代生成性人工智能的前提。GPT-5也会涉及到TPAs的应用。
关键观点3: 推理能力的重要性及GPT-5的进步
推理能力是AI智能体的核心，GPT-5将带来强大的推理能力，借鉴类似Q*的RL模型。个性化也是GPT-5关注的重点，使用户与AI建立更亲密的关系。
关键观点4: GPT-5的参数规模、训练数据和计算资源
GPT-5的参数规模估计在7-15万亿之间，训练数据量也在不断增加。更多的GPU资源允许训练更大的模型并提升性能。OpenAI可能使用MoE架构的优化和更高效的训练策略来提高模型性能。
文章预览
原文：https: //www.thealgorithmicbridge.com/p/gpt-5-everything-you-need-to-know?open=false#%C2%A7algorithmic-breakthroughs-in-gpt 中文：https: //mp.weixin.qq.com/s/7zvmglJPsrJ1h0mE0Sc1Aw 从GPT-4到GPT-5的扩展规律是可行的，在当前领域不透明的情况下， 预测算法 的进步更加困难。 最好的启发式方法是关注与OpenAI相关的人物，并阅读顶尖实验室发表的论文。 尽管Altman的营销可能带有夸张成分，但可以从他的结构化愿景中提取有价值的见解。这些能力在行为方面，例如 推理 （ 自我游戏/循环/试错、系统2思维 ） 、 Agent 和消费者方面，例如 个性化 （ RAG、微调 ）， 都有所体现，所有这些都需要算法上的突破。 GPT-5是否会实现这一愿景 ？ 智能体（Agents） GPT-5是否会具有智能体能力，或者它是否会像之前的GPT版本一样，是一个标准的语言模型， 能够做很多事情但不能制定计划并根据这些计
………………………………
