Bericht van Nu.nl
https://www.nu.nl/wetenschap/6289125/ho ... html#nujij
Ook bij weersverwachtingen is kunstmatige intelligentie (AI) aan een opmars bezig. Zo is er met behulp van AI een model ontwikkeld dat zomerweer op de langere termijn beter voorspelt. En dat is niet alleen handig voor supers die ijs willen inkopen.
Atmosfeerwetenschapper Chiem van Straaten heeft het model ontwikkeld. Het kan de gemiddelde zomertemperatuur over drie tot zes weken beter voorspellen. Dat is misschien niet heel nuttig voor de gemiddelde Nederlander, geeft Van Straaten toe.
Maar er zijn heel veel partijen die daar wel heel veel aan hebben. Zoals boeren die gewassen telen, supermarkten die ijs willen inkopen of een festivalorganisator die wil weten of het extra watertappunten moet plaatsen.
Het weer voor morgen voorspellen is al lastig, zegt Wilfred Janssen van Weerplaza. Maar op de langere termijn wordt het helemaal moeilijk. "Hoe verder je vooruit kijkt, hoe onzekerder de verwachting wordt."
"Chiem van Straaten laat zien dat je met AI een stukje verder komt", zegt Maurice Schmeits van het KNMI. Hij was mede-begeleider bij het onderzoek aan de Vrije Universiteit (VU) en het KNMI.
Van Straaten vergeleek verwachtingen uit het verleden met de daadwerkelijke temperaturen. Hij gebruikte artificial intelligence om te ontdekken waar het misging in de verwachting.
De Stille Oceaan beïnvloedt de temperatuur in Europa
Zo ontdekten Van Straaten en zijn collega-onderzoekers dat processen in de Stille Oceaan een grote rol spelen bij temperaturen bij ons. "Daar zit een soort vertraging in."
Deze link in het klimaatsysteem ontbreekt in een veelgebruikt weermodel. Daardoor ontstaan er fouten in de langetermijnverwachtingen. Alleen de zomer is onderzocht. De kans is groot dat de temperatuur in andere seizoenen door heel andere factoren wordt beïnvloed.
Van Straaten denkt dat zijn model 20 procent van de langetermijnverwachtingen in de zomer kan verbeteren. Toch is de kans klein dat het binnenkort door alle weerbureaus wordt gebruikt. Zo is het goed om eerst te checken of de geleerde processen stabiel blijven in een veranderend klimaat. Daarnaast volgen de ontwikkelingen op dit gebied elkaar snel op.
Zo is de VU alweer bezig met een nieuw onderzoek dat voortbouwt op dat van Van Straaten. Weerplaza werkt "op heel kleine schaal" met machine learning, zegt Janssen.
Ondertussen zijn grote bedrijven als Google en Huawei druk bezig om hun weermodellen volledig op kunstmatige intelligentie te baseren, zegt Schmeits.
AI staat in de kinderschoenen, maar ontwikkelingen gaan snel
De techniek voor gebruik in de praktijk staat volgens Schmeits en Janssen nog in de kinderschoenen. De resultaten zijn tot nu toe wisselend, zegt Janssen.
Maar Janssen verwacht dat dit soort modellen "met een gigantisch tempo heel veel beter gaan worden". Dan zullen de weerbureaus het ook veel meer gaan gebruiken.
Het duurt mogelijk niet lang meer voordat kunstmatige intelligentie op grote schaal wordt gebruikt, zegt Schmeits. "Ik denk dat het binnen een paar jaar al het geval zal zijn. Zoals gezegd: die grote techbedrijven zitten hier ook heel erg bovenop."
Hoe kunstmatige intelligentie het weerbericht verbetert
-
Sebastiaan
- Berichten: 12295
- Lid geworden op: 31-12-1977
Re: Hoe kunstmatige intelligentie het weerbericht verbetert
Weerromantiek van vroeger......
Totaal verdwenen!
Jammer!!!
Totaal verdwenen!
Jammer!!!
Re: Hoe kunstmatige intelligentie het weerbericht verbetert
Het is natuurlijk allemaal sterk vereenvoudigd in zo'n verhaaltje van nu.nl.
Toen ik bij het KNMI kwam (masterthesis in mijn geval) was Chiem daar ook net nieuw met zijn project. Ze hebben een heel leuk project gedaan, dat precies in een niche zit, op een terrein waar modellen relatief moeizaam een deugdelijke spreiding produceren EN, tegelijkertijd, ook nog de fysica tot op een bepaalde hoogte realistisch reproduceren. Juist omdat de oceaan-atmosfeerinteractie een van de weinige bronnen van enige mate van potentiële voorspelbaarheid is. Naast eventueel MJO en dergelijke. In dat bereik kan je met statistische modellen relatief veel. Al deze "AI" is in feite een geavanceerd statistisch model. In het kortetermijnbereik verkrijgt men op vergelijkbare wijze verbeteringen door deze complexere statistische modellen aan een numeriek weermodel te koppelen, maar de voornaamste bron van informatie is het circulatiemodel. Het statistische model is eigenlijk gewoon geavanceerde calibratie.
Op de termijn van meerdere maanden staat het statistische model meer op zichzelf, al is dat nog niet volledig het geval. Nog steeds is het afhankelijk van een circulatiemodel en reanalysedata e.d. Soms is het circulatiemodel onvoldoende in staat om de processen op de juiste manier aan elkaar te linken en helpt het statistische model een handje. Bovendien is het grootste probleem dat ensembles niet de juiste spreiding ontwikkelen op de langere termijn, langer dan ca. 2 weken. Het zal vast bekend zijn: als je een ensemblegemiddelde van de anomalie van het 500 hPa geopotentiaal voor een week vooruit bekijkt, is de afwijking meestal tot zo'n 30 m van de klimatologie, terwijl de daarop volgende anomalie uiteindelijk gemiddeld 100 m blijkt af te wijken van het gemiddelde. Dit betekent dat de spreiding minder dan deugdelijk is. Je kunt dit weergeven in rank histograms (rank histogrammen, waarop je kan zien hoe vaak een uitkomst in een bepaald deel van het ensemble valt; de staarten vormen dan bijna alle waarnemingen en je krijgt een typische u-vorm). Dit is een groot probleem in verwachtingen op de lange termijn op het moment.
In het eerste geval is het niet het complexe statistische model ("AI") dat de juiste verwachting aflevert. In het tweede geval is het al wat realistischer om te claimen dat het statistisch complexe model ("AI") de juiste verwachting aflevert, maar wat je ziet kan je over het algemeen nog steeds het beste beschrijven als een substantiële mix van de klassieke fysische en de machine learning informatiebronnen.
Nu is het ook zo dat men probeert weermodellen te maken zoals Pangu weather, AIFS (nieuw) etc. Deze modellen zijn, nadat ze ooit getraind zijn op fysische informatie, onafhankelijk van de circulatiemodellen gebaseerd op fysica. De beste modellen onder deze modellen zijn op dit moment goed, vergelijkbaar met een enkele run met de ruwe uitvoer van het ECMWF, als je puur naar scores kijkt. Maar deze modellen zullen niet verbeteren na calibratie van bijvoorbeeld een statistisch model voor de 2m temperatuur of de neerslag. Bovendien is men nog niet in staat redelijke ensembles te produceren, die enigszins de competitie aan kunnen gaan met een ECMWF ensemble. Omdat het klassieke fysische model aannames gebruikt die impliciet leiden tot sub-optimale scores, moet je eigenlijk voor een eerlijke vergelijking de "AI" modellen (opnieuw puur statistisch gecompliceerde machine learning modellen) vergelijken met een ECMWF-verwachting, nadat dit model ook statistisch juist gecalibreerd is met een goed statistisch algoritme.
Voordat het mogelijk is met de statistisch gecompliceerde modellen echt goede (competitieve) ensembles te produceren zijn we nog wel een jaar of 15-20 verder vermoed ik zo. Maar recent was er een publicatie die eventueel enige hoop zou kunnen geven in die richting. Dat is een heel voorzichtig bedoelde opmerking met onzekerheid erin. Er was ook een andere publicatie die ik zag en die laat zien dat we nog erg voorzichtig moeten zijn en de ontwikkelingen rustig moeten afwachten.
Een ander "gat in de markt" voor machine learning modellen is het nowcasten van o.a. buien (eventueel ook ander weer, maar voornamelijk buien). Aangezien modellen wat tijd nodig hebben om op te starten, lopen modellen achter op de werkelijkheid. Met de informatie over het tijdsbestek na de laatste initialisatie van een model is op dit moment de verwachting tot ca. 2-6 uur vooruit vaak beter op basis van machine learning modellen of hybride varianten van weermodellen en machine learning modellen dan van klassieke weermodellen. Dit zal wel zo blijven, zelfs als de initialisatie van verwachtingen op de korte termijn vaker plaats gaat vinden. Het data-assimilatieproces nodig om modellen te initialiseren kost veel energie en daarom blijft het mijns inziens zo dat de machine learning en hybrideoplossingen het beste blijven.
Verder zou ik willen zeggen dat binnen de komende ca. 15-20 jaar al wel modellen zullen verschijnen van een ander type hybride, waar (waarschijnlijk) de dynamica nog steeds fysisch opgelost wordt, maar waar bijvoorbeeld parameterisaties met machine learning worden doorgerekend (dit is al in onderzoeksconfiguratie gedaan). Geleidelijk zal je dan steeds meer variatie in hybride mengsels van weermodellen zien. Tenminste, als men echt blijft gaan voor optimale weersverwachtingen zonder misleid te worden door Techbedrijven met vaak overdreven claims...
Maar het zal steeds lastiger worden om de werkelijkheid nog goed te overzien voor veel mensen, ook experts. Daarmee is het ook ingewikkeld, en al helemaal voor journalisten, om alles goed te overzien. Het blijft zo dat het verhaal kort moet. Zo krijg je een goed verhaal van Maurice, Chiem en Wilfred, maar zonder verdere achtergronden (die zullen ze zelf waarschijnlijk deels hebben geschetst, maar moeten eruit voor nu.nl). Hopelijk heb ik die achtergronden goed aangevuld voor geïnteresseerden.
Tot slot is het einde van het stukje inderdaad een belangrijk punt om door te laten dringen: als je snelle, energiezuinige en doelmatige modellen wil ontwikkelen, zal machine learning een grote rol spelen en het heeft potentieel om het rekenen t.o.v. de bestaande circulatiemodellen flink te versnellen, of ze nou hybdride zijn of volledig op machine learning gebaseerd.
Maar aan de andere kant moet je om het maximale uit alle modellen te halen (te blijven verbeteren in de toekomst), blijven begrijpen wat je doet en zo blijft een circulatiemodel op basis van fysica essentieel. De machine learning modellen kunnen niet beter worden dan de trainingsdata die je erin zou stoppen.
Toen ik bij het KNMI kwam (masterthesis in mijn geval) was Chiem daar ook net nieuw met zijn project. Ze hebben een heel leuk project gedaan, dat precies in een niche zit, op een terrein waar modellen relatief moeizaam een deugdelijke spreiding produceren EN, tegelijkertijd, ook nog de fysica tot op een bepaalde hoogte realistisch reproduceren. Juist omdat de oceaan-atmosfeerinteractie een van de weinige bronnen van enige mate van potentiële voorspelbaarheid is. Naast eventueel MJO en dergelijke. In dat bereik kan je met statistische modellen relatief veel. Al deze "AI" is in feite een geavanceerd statistisch model. In het kortetermijnbereik verkrijgt men op vergelijkbare wijze verbeteringen door deze complexere statistische modellen aan een numeriek weermodel te koppelen, maar de voornaamste bron van informatie is het circulatiemodel. Het statistische model is eigenlijk gewoon geavanceerde calibratie.
Op de termijn van meerdere maanden staat het statistische model meer op zichzelf, al is dat nog niet volledig het geval. Nog steeds is het afhankelijk van een circulatiemodel en reanalysedata e.d. Soms is het circulatiemodel onvoldoende in staat om de processen op de juiste manier aan elkaar te linken en helpt het statistische model een handje. Bovendien is het grootste probleem dat ensembles niet de juiste spreiding ontwikkelen op de langere termijn, langer dan ca. 2 weken. Het zal vast bekend zijn: als je een ensemblegemiddelde van de anomalie van het 500 hPa geopotentiaal voor een week vooruit bekijkt, is de afwijking meestal tot zo'n 30 m van de klimatologie, terwijl de daarop volgende anomalie uiteindelijk gemiddeld 100 m blijkt af te wijken van het gemiddelde. Dit betekent dat de spreiding minder dan deugdelijk is. Je kunt dit weergeven in rank histograms (rank histogrammen, waarop je kan zien hoe vaak een uitkomst in een bepaald deel van het ensemble valt; de staarten vormen dan bijna alle waarnemingen en je krijgt een typische u-vorm). Dit is een groot probleem in verwachtingen op de lange termijn op het moment.
In het eerste geval is het niet het complexe statistische model ("AI") dat de juiste verwachting aflevert. In het tweede geval is het al wat realistischer om te claimen dat het statistisch complexe model ("AI") de juiste verwachting aflevert, maar wat je ziet kan je over het algemeen nog steeds het beste beschrijven als een substantiële mix van de klassieke fysische en de machine learning informatiebronnen.
Nu is het ook zo dat men probeert weermodellen te maken zoals Pangu weather, AIFS (nieuw) etc. Deze modellen zijn, nadat ze ooit getraind zijn op fysische informatie, onafhankelijk van de circulatiemodellen gebaseerd op fysica. De beste modellen onder deze modellen zijn op dit moment goed, vergelijkbaar met een enkele run met de ruwe uitvoer van het ECMWF, als je puur naar scores kijkt. Maar deze modellen zullen niet verbeteren na calibratie van bijvoorbeeld een statistisch model voor de 2m temperatuur of de neerslag. Bovendien is men nog niet in staat redelijke ensembles te produceren, die enigszins de competitie aan kunnen gaan met een ECMWF ensemble. Omdat het klassieke fysische model aannames gebruikt die impliciet leiden tot sub-optimale scores, moet je eigenlijk voor een eerlijke vergelijking de "AI" modellen (opnieuw puur statistisch gecompliceerde machine learning modellen) vergelijken met een ECMWF-verwachting, nadat dit model ook statistisch juist gecalibreerd is met een goed statistisch algoritme.
Voordat het mogelijk is met de statistisch gecompliceerde modellen echt goede (competitieve) ensembles te produceren zijn we nog wel een jaar of 15-20 verder vermoed ik zo. Maar recent was er een publicatie die eventueel enige hoop zou kunnen geven in die richting. Dat is een heel voorzichtig bedoelde opmerking met onzekerheid erin. Er was ook een andere publicatie die ik zag en die laat zien dat we nog erg voorzichtig moeten zijn en de ontwikkelingen rustig moeten afwachten.
Een ander "gat in de markt" voor machine learning modellen is het nowcasten van o.a. buien (eventueel ook ander weer, maar voornamelijk buien). Aangezien modellen wat tijd nodig hebben om op te starten, lopen modellen achter op de werkelijkheid. Met de informatie over het tijdsbestek na de laatste initialisatie van een model is op dit moment de verwachting tot ca. 2-6 uur vooruit vaak beter op basis van machine learning modellen of hybride varianten van weermodellen en machine learning modellen dan van klassieke weermodellen. Dit zal wel zo blijven, zelfs als de initialisatie van verwachtingen op de korte termijn vaker plaats gaat vinden. Het data-assimilatieproces nodig om modellen te initialiseren kost veel energie en daarom blijft het mijns inziens zo dat de machine learning en hybrideoplossingen het beste blijven.
Verder zou ik willen zeggen dat binnen de komende ca. 15-20 jaar al wel modellen zullen verschijnen van een ander type hybride, waar (waarschijnlijk) de dynamica nog steeds fysisch opgelost wordt, maar waar bijvoorbeeld parameterisaties met machine learning worden doorgerekend (dit is al in onderzoeksconfiguratie gedaan). Geleidelijk zal je dan steeds meer variatie in hybride mengsels van weermodellen zien. Tenminste, als men echt blijft gaan voor optimale weersverwachtingen zonder misleid te worden door Techbedrijven met vaak overdreven claims...
Maar het zal steeds lastiger worden om de werkelijkheid nog goed te overzien voor veel mensen, ook experts. Daarmee is het ook ingewikkeld, en al helemaal voor journalisten, om alles goed te overzien. Het blijft zo dat het verhaal kort moet. Zo krijg je een goed verhaal van Maurice, Chiem en Wilfred, maar zonder verdere achtergronden (die zullen ze zelf waarschijnlijk deels hebben geschetst, maar moeten eruit voor nu.nl). Hopelijk heb ik die achtergronden goed aangevuld voor geïnteresseerden.
Tot slot is het einde van het stukje inderdaad een belangrijk punt om door te laten dringen: als je snelle, energiezuinige en doelmatige modellen wil ontwikkelen, zal machine learning een grote rol spelen en het heeft potentieel om het rekenen t.o.v. de bestaande circulatiemodellen flink te versnellen, of ze nou hybdride zijn of volledig op machine learning gebaseerd.
Maar aan de andere kant moet je om het maximale uit alle modellen te halen (te blijven verbeteren in de toekomst), blijven begrijpen wat je doet en zo blijft een circulatiemodel op basis van fysica essentieel. De machine learning modellen kunnen niet beter worden dan de trainingsdata die je erin zou stoppen.
-
Sebastiaan
- Berichten: 12295
- Lid geworden op: 31-12-1977
Re: Hoe kunstmatige intelligentie het weerbericht verbetert
https://twitter.com/PeterWBattaglia/sta ... 8104993826
Model van Google
Excited to see our AI weather model #GraphCast published in @ScienceMagazine
! GraphCast is fast & accurate: in 1 minute it generates a 10-day forecast that outperforms the top operational forecasts, including on extreme weather.
Model van Google
Excited to see our AI weather model #GraphCast published in @ScienceMagazine
! GraphCast is fast & accurate: in 1 minute it generates a 10-day forecast that outperforms the top operational forecasts, including on extreme weather.