世良情感网

天气虽难以操控,但距离精准预测又更近了一步! 微软研究院推出的地球系统基础模型A

天气虽难以操控,但距离精准预测又更近了一步! 微软研究院推出的地球系统基础模型Aurora,轻松实现了几个关键预测领域的SoTA,计算成本还要小好几个数量级: 0.4° 分辨率的 5 天全球空气污染预报:在74%的预测指标上优于高资源消耗的大气化学数值模拟;【图2】 0.25° 分辨率的10天全球海浪预报:在86%的目标上优于成本高昂的数值模型。【图3】 5天热带气旋路径预报:在100%的预测指标上优于七大业务预报中心【图4】 0.1° 分辨率的10天全球天气预报:在92%的预测指标上领先最先进数值模型,且极端天气预测性能显著提升【图5】 可以看出,多领域预测能力以及高分辨率预测是Aurora的强项。 那么,功能如此强悍的Aurora,具体具有什么样的结构呢? 该模型由三部分组成: (1)编码器:将不同类型的数据转换为统一的三维潜空间表征; (2)处理器:让这些表征按照时间顺序自然地发展和变化; (3)解码器:将处理后的表征重新转换成我们能看懂的实际预测结果。 其中,处理器采用了3D Swin Transformer U-Net架构,编码器与解码器则基于3D Perceiver模块构建。【图6】 整个训练结果可以分为两个阶段来看: 1、预训练阶段:使用超过一百万小时的多样化地球系统数据进行预训练,通过增加预训练数据量和模型规模,模型性能还有望进一步提升。 2、微调阶段:完成预训练后,模型可利用习得的通用表征,通过第二阶段训练高效适配新任务、新数据集及新变量。 值得一提的是,Aurora可以以极低的成本微调,适配多种地球系统预测任务,有望用于海洋环流预测、植被生长监测、极端天气预警等领域。 论文链接: