专栏名称: 专知
专知,为人工智能从业者服务,提供专业可信的人工智能知识与技术服务,让认知协作更快更好!
今天看啥  ›  专栏  ›  专知

NeurIPS 2024最佳论文出炉,北大字节VAR获最佳论文、厦大清华获亚军,

专知  · 公众号  ·  · 2024-12-05 11:00
    

主要观点总结

本文报道了人工智能顶会NeurIPS公布的最新最佳论文,包括两篇论文获得最佳论文奖和两篇论文获得最佳论文亚军。文章详细介绍了各篇论文的研究内容、研究团队和论文简介。

关键观点总结

关键观点1: NeurIPS公布了今年的最佳论文,包括两篇论文获得最佳论文奖。

其中,《Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction》论文介绍了图像生成的自回归模型VAR,并展示了其效果和速度的提升;《Stochastic Taylor Derivative Estimator: Efficient amortization for arbitrary differential operators》论文则解决神经网络优化中的计算效率问题。

关键观点2: 有两篇论文获得了最佳论文亚军。

其中,《Not All Tokens Are What You Need for Pretraining》论文提出了一种新的语言模型预训练方法,通过选择性语言建模来提高语言模型的性能;《Guiding a Diffusion Model with a Bad Version of Itself》论文则探讨了图像生成扩散模型的引导问题,提出了一种使用较小模型版本引导生成的方法,以提升图像质量和多变程度。

关键观点3: NeurIPS 2024大会的举办时间和投稿情况。

NeurIPS 2024将于12月10日至15日在温哥华举办,本届大会共收到15671篇有效论文投稿,投稿数量持续增长。


文章预览

机器之心报道 机器之心编辑部 刚刚,人工智能顶会 NeurIPS 公布了今年的最佳论文(包括 Best Paper 和 Best Paper Runner-up,大会注册者可以看到)。 一共有两篇论文获得最佳论文奖: 一是由北京大学、字节跳动研究者共同完成的《Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction》(视觉自回归建模:通过 Next-Scale 预测生成可扩展图像), 论文一作为田柯宇(此前因涉攻击内部大模型,被字节起诉)。 参见机器之心报道《 GPT 超越扩散、视觉生成 Scaling Law 时刻!北大 & 字节提出 VAR 范式 》。 机器之心获悉,从 2023 年开始,字节商业化技术团队就在研究图像生成的自回归模型,一直将 VAR 作为高优项目推进,不仅安排多名研究人员重点攻关此技术方向,还投入大量算力资源支持模型训练和实验。该团队近期将发布新的 VAR T2I 模型研究成果 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览