文章预览
Aurora 微软在近期发布了大气AI模型Aurora :https://arxiv.org/abs/2405.13063。 Aurora是一个1.3B参数的Foundation Model ,在不同变量、等压面和分辨率的多个异构数据集上进行预训练。这些数据集包含气候模拟、再分析、分析和预测数据。在此基础上,模型可以针对各种任务进行微调。 论文给出了Aurora对5天内全球空气污染和10天内0.1°高分辨率天气预报能力,展示了卓越的分辨率、准确率和适应性。 Aurora是大气领域第一个大规模Foundation Model。通过特别设计的3D perceiver encoder/decoder,不同维度的大气信息将被压缩为统一的3D Latent Representation,模型的主要结构则采用了3D Swin Taransformer Unet。配合LoRA微调技术, 该模型将能被应用于大气相关的广泛领域 。 Foundation Model及其扩展能力是AI在各领域成功的关键。我们期待Aurora的发布为“大模型”在大气领域应用迈出坚实的第
………………………………