克雷西 发自 凹非寺
量子位 | 公众号 QbitAI
DeepMind大模子再登上Nature——
表象预计大模子GenCast,8分钟内完成15天的预计,何况无论惯例照旧极点天气齐能分析。
在97.2%的场景中,GenCast的推崇齐越过了各人顶尖的中期天气预告系统ENS。

不同于DeepMind之前推出的GraphCast的笃定性预计,GenCast关心的是各式天气情况的概率。
和GraphCast相同,GenCast也依然开源。
它基于扩散模子扫尾,分离率为0.25度经度/纬度(在赤谈处约为28×28公里),相配于将地球名义分割成了越过100万个网格。
每个网格齐涵盖80多个地表和大气变量,相配于每次预计齐稀有千万以致上亿条数据生成。
测试铁心标明,在1320种试验条目中,GenCast在97.2%的任务中,齐比ENS更准确。

关于GenCast的推崇,论文作家、DeepMind究诘东谈主员Ilan Price暗意:
咱们照实取得了浩大的跳跃,通过机器学习赶上了并超越了基于物理的模子。
准确率超最强传统门径传统天气预告基于数值天气预告(NWP)算法扫尾,中枢是对模拟大气能源学的方程求类似解。
不外,比拟于单一笃定性的预计,表象机构越来越依赖逼近预告,生成多个基于NWP的铁心,对各式可能的情景进行建模。
GenCast作念的亦然逼近式预告,固然基于的旨趣不是NWP而是AI。

发轫提到的ENS,就是现在起始进的逼近预告系统,来自欧洲欧洲中期天气预告中心(ECMWF),将来将被纳入其笃定性预告系统HRES。
但即就是这种最强的传统花式,也无法征服AI系统。
在惯例预告当中,DeepMind团队期骗考研数据中未涵盖的真确历史(2019年)数据,设立了1320种试验条目,波及不同的物理变量、预告时长和垂直高度。
铁心在97.2%的场景当中,GenCast的CRPS齐显贵优于ENS,若是只看对36小时之后的预计,GenCast在99.6%的条目下齐能胜出。
(CRPS预计了预告与不雅测值之间积贮概率漫步的各异,数值越小讲明预告越准确)

关于高温、大风等极点天气事件(试验中按发生概率分为1%/0.1%/0.01%三档),除了在个别场景下,GenCast的预告的相对经济价值(REV)显贵优于ENS。
(2t代表距离海平面2米高处温度,10wind_speed代表10米处风速,msl代表平均海平面气压,蓝线代表GenCast)

除了基础的预计,不才游应用上GenCast也推崇出了更强的预计才智。
DeepMind团队测试了一款区域风电应用,使用各人发电厂数据库中的5344个风电场位置和装机容量信息,通过插值取得各风电场位置的10米风速预告,并通过功率弧线治疗为风电功率。
在120公里、240公里、480公里三个空间团员门径上,GenCast的风电功率预告CRPS和REV在7天内齐显贵优于ENS。

不仅精确性强,GenCast的预计速率也很快,完成一次15天的预计仅需约8分钟,而ENS需要几个小时。
用扩散模子预计天气不同于DeepMind旧年在Science上发表的GraphCast(基于图神经收罗GNN),GenCast基于扩散模子扫尾。
它以最近的X(t)和前一步天气状况X(t-1)的残差Z(t)为采样条目,经昔日噪后得到预计铁心,然后期骗预计铁心筹画新的残差手脚新的输入依据,将预计向更长本领延迟。

而具体的去噪经过,DeepMind又选拔了交给Transformer来完成。
Transformer编码器领先将物理状况场从经纬度网格表征映射到一个六次细化的二十面体网格上。
然后,在Transformer的自小心力机制中,网格上的每个节点齐会关心其周围32跳邻域内的通盘节点,从而灵验捕捉局部和中等门径的天气特征。
临了,解码器将铁心映射回原始分离率,得到去噪后的铁心。
GenCast从公开的ERA5再分析数据鸠集,中式了1979至2018这40年的数据(阻隔12小时,分离率0.25°)对GenCast进行了考研。
为了擢升预考研效果,数据领先被降采样到1°分离率,使用5次细化的二十面体网格进行学习。
这个阶段需要200万步,在32个TPUv5实例上运转约3.5天。
完成预考研后,再用原始的0.25度分离率数据和6次细化的二十面体网格,对模子进行高精度微调,觉得64000步,需要约1.5天完成。
现在,像旧年发布的笃定性预计模子GraphCast相同,GenCast也依然开源,代码和模子权重均已发布。
DeepMind还暗意,将会很快发布GenCast(和以前的模子)生成的及时和历史预告铁心,为其他究诘者提供更多的究诘资源。
论文地址:
https://www.nature.com/articles/s41586-024-08252-9参考流通:[1]https://deepmind.google/discover/blog/gencast-predicts-weather-and-the-risks-of-extreme-conditions-with-sota-accuracy/[2]https://www.nature.com/articles/d41586-024-03957-3— 完 —
量子位 QbitAI · 头条号签约
关心咱们,第一本领获知前沿科技动态