Ilya预言错了！华人Nature一作给RLHF“判死刑”，全球大模型都不可靠！

文章预览

在人工智能领域，每一次技术突破都伴随着无数的预测与期待。然而，最新发表在 《Nature》 上的一项研究，却如同一记重锤，击碎了两年前AI大牛Ilya Sutskever的乐观预言。这篇由剑桥大学等团队完成的论文，不仅揭示了 全球大模型（LLM） 的不可靠性，更是给备受关注的 RLHF（人类反馈强化学习） 技术判了 “死刑” 。本文将深入剖析这一研究的核心发现，并探讨其对人工智能未来发展的影响。   Ilya的预言与大模型的现实 2022年，AI领域的 领军人物Ilya Sutskever 曾预测： “随着时间推移，人类预期和AI实际表现差异可能会缩小。” 这一预言在当时无疑为整个行业注入了信心与期待。然而，现实却远比预期复杂和残酷。 最新发表在《Nature》上的论文，由VRAIN、剑桥等机构的研究人员共同完成，他们对包括o1-preview在内的多个领先LLM进行了全方位评测 ………………………………