1890美元，就能从头训练一个还不错的12亿参数扩散模型

文章预览

前言   只用1890美元、3700 万张图像，就能训练一个还不错的扩散模型。 Pytorch训练营，花两个星期彻底掌握代码实现 CV各大方向专栏与各个部署框架最全教程整理 CV全栈指导班、基础入门班、论文指导班 全面上线!! 来源： 机器之心 仅用于学术分享，若侵权请联系删除 现阶段，视觉生成模型擅长创建逼真的视觉内容，然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研究者使用最先进的方法，也需要在 8×H100 GPU 上训练一个多月的时间。 此外，训练大模型也对数据集提出了挑战，这些数据基本以亿为单位，同样给训练模型带来挑战。 高昂的训练成本和对数据集的要求为大规模扩散模型的开发造成了难以逾越的障碍。 现在，来自 Sony AI 等机构的研究者仅仅花了 1890 美元，就训练了一个不错 ………………………………