Künstliche Intelligenz in der N–A Modellierung
N. Schütze, S.Pahner, T. Morgenstern
HoWa-innovativ-Verbundtreffen
Offenbach, 30.09.2021
Folie 1/41

Übersicht
Blick zurück
Methodik der datengetriebenen Hochwasservorhersage
KI der ersten Generation
KI der zweiten Generation
Neuentwicklungen
Beispiel: Wavelet-Transformation und Singular Spektrum
Analyse
Beispiel: Encoder-Decoder LSTM
Folie 2/41

Übersicht
Blick zurück
Methodik der datengetriebenen Hochwasservorhersage
KI der ersten Generation
KI der zweiten Generation
Neuentwicklungen
Beispiel: Wavelet-Transformation und Singular Spektrum
Analyse
Beispiel: Encoder-Decoder LSTM
Folie 3/41

KI in der Hochwasserfrühwarnung?
Nutzer
Daten
Modelle
pro-aktive Versorgung der
Nutzer (SMS,push,…)
Frühwarnung als Teil des HW-
Nachrichtendienstes
Von Landkreisen zu
Flussgebieten
Benötigte VHS-
Zeiträume/Vorwarnzeiten
3h? 6h? 12h? 24h?
update-Zyklus
Rückmeldung (i.S.v.
Verifikation der Abschätzung)
durch Nutzer; crowdsourcing
Kulisse der HW-
Entstehungsgebiete
Probabilistische Produkte
Bewarnung/Kommunikation?
Generalisierte
Produkte/Schwellenwert-
Ansätze (2.8km
28km)
Grenzen akzeptieren (FAR>0.5,
Grenzen der Vorhersagbarkeit
A
E
<??km²)
recht generelle Quantil-VHS
schneidet ebenfalls gut ab
(+Experteneinschätzung)
räumliche Grenzen der
Methoden?
Frühwarnung für kleine
EZG/flächenhaften Abfluss (lt.
Jeschke-Bericht)
nicht möglich
Wenn deterministische
Modellierung
Synthese mit operationellen,
pegelbezogenem VHS-System
("Frühwarnung und VHS aus
einem System")
Pegelbezogene Aussagen
HQ(T)s
konkrete Auswirkungen "am
Ort" (z.B. Gemeinde)
es braucht den operationellen
Hydrologen (kein Automatismus)
Warnphilosophie
Multi-Modell/Modell-Mix
Kombination?
Whiteboard vom LfULG Workshop 2016 »Hochwasserfrühwarnung«
Folie 4/41

image
Hochwasserentstehung in sächsischen Einzugsgebieten (2)
Kleinräumige Ereignisse in den Jahren 2010 und 2013
Folie 5/41

image
Hochwasserentstehung in sächsischen Einzugsgebieten (3)
Pilotgebiete im Projekt »Hochwasserwarnung und -vorhersage in kleinen EZG«
Folie 6/41

Übersicht
Blick zurück
Methodik der datengetriebenen Hochwasservorhersage
KI der ersten Generation
KI der zweiten Generation
Neuentwicklungen
Beispiel: Wavelet-Transformation und Singular Spektrum
Analyse
Beispiel: Encoder-Decoder LSTM
Folie 7/41

image
Methodik der datengetriebenen Hochwasservorhersage
Gegebene Daten, u.a.:
I
gemessene Niederschläge
p
M
=
(p
1
,...,
p
t
)
I
vorhergesagte Niederschläge
p
V
=
(p
t+1
, ... ,
p
t+l
)
I
gemessene Durchflüsse
q
=
(q
1
,...,q
t
)
Problemstellung Hochwasservorhersage (Quelle: Andy Philipp)
Folie 8/41

Methodik der datengetriebenen Hochwasservorhersage
Gegebene Daten, u.a.:
I
gemessene Niederschläge
p
M
=
(p
1
,...,
p
t
)
I
vorhergesagte Niederschläge
p
V
=
(p
t+1
, ... ,
p
t+l
)
I
gemessene Durchflüsse
q
=
(q
1
,...,q
t
)
Problem:
Finde
I
geeignete Eingangs- und Trainingsdaten,
I
eine mathematische Funktion oder einen Algorithmus
f
, der
q
t+1
und
die damit verbundene Unsicherheit
ε
berechnet:
(q
t+1
,ε)
=
f
(
p
M
,
p
V
,
q
,θ).
I
sowie einen geeigneten (Lern-) Algorithmus (einschl. Gütekriterium),
der den optimalen Parametervektor
θ
berechnet.
Folie 9/41

Methodik der datengetriebenen Hochwasservorhersage (2)
Ergebnisprodukt eines stochastischen Modells (GP-Modell)
2
4
6
8
10
0
2
4
6
8
10
prediction time [h]
Discharge [m³/s]
Vorhersage mit Unsicherheitsbereich
Folie 10/41

image
Methodik der datengetriebenen Hochwasservorhersage (3)
Mögliche Probleme datengetriebener Modelle
Minns und Hall (1996)
a) Phasenfehler durch Autokorrelation
b) Extrapolationsfehler
Folie 11/41

Übersicht
Blick zurück
Methodik der datengetriebenen Hochwasservorhersage
KI der ersten Generation
KI der zweiten Generation
Neuentwicklungen
Beispiel: Wavelet-Transformation und Singular Spektrum
Analyse
Beispiel: Encoder-Decoder LSTM
Folie 12/41

image
Standardmethoden und Workflow
Die Referenz – Multilayer Perceptron (Rummelhardt 1989)
Folie 13/41

Standardmethoden und Workflow
Multilayer Perceptron
Architektur:
MLP zusammen mit
Backpropagation-Trainingsalgorithmus
(Gradientenverfahren) + u.a. regularization and
early stopping
Datengrundlage:
Zeitreihen (Stationsdaten) beobachteter
Niederschläge & Durchflüsse (täglich)
Datenteilung:
ad hoc
training|validation|test
Datentransformation:
Standardisierung (0,1)
Zielfunktion (loss function):
RMSE
Folie 14/41

Standardmethoden und Workflow (2)
Beispiel: geeignete Eingangs- und Trainingsdaten
Eingangsdaten (Messdaten)
I
interpolierte
Niederschlags-Stationsdaten
Eingangsdaten (Vorhersagen)
I
Quantilvorhersage – DWD
I
deterministische Vorhersage –
COSMO-DE
I
Ensemble-Vorhersage –
COSMO-DE-EPS
Trainingsdaten
I
Durchflussflussdaten (aus
Wasserständen an Pegeln)
I
Hochwasserwarnstufen der Pegel
Folie 15/41

image
image
Standardmethoden und Workflow (3)
Beispiel: geeignete Eingangs- und Trainingsdaten
Eingangsdaten, z.B.
I
Durchfluss zu Zeitpunkten
t=i,i-1,. .. ,i-3
I
Niederschlag zu Zeitpunkten
t=i,i-1,. .. ,i-3
I
(Vorhergesagter) summierter
Niederschlag t=i+1 bis t=i+12
Trainingsdaten
I
Zeiträume (kontinuierliche
Trainingsdaten ) versus
I
Ereignisse (ereignisbasierte
Trainingsdaten)
Eingangsdaten
Trainingsdaten (Einzelereignis)
Folie 16/41

image
image
Standardmethoden und Workflow (4)
Beispiel: Datenvorverarbeitung
normierte Daten
nicht normierte Daten
Folie 17/41

image
Bibliothek »datengetriebener Modellbausteine« (5)
Beispiel: untersuchte KI-Methoden
Parametrische Modelle
I
Lineare Regression
I
Regressionsbäume
I
Neuronale Netze (MLP)
Nichtparametrische Modelle
I
Gauß-Prozesse (GP)
I
Support Vektor Regression
MLP
GP
Folie 18/41

image
image
image
Standardmethoden und Workflow (6)
Ausgewählte Ergebnisse (Müglitz):
Approximation
Vorhersage
6h
12h
Folie 19/41

image
image
Standardmethoden und Workflow (7)
Ausgewählte Ergebnisse (Müglitz):
DeHM
DaHM
Quell-EZG
Mündungs-EZG
Folie 20/41

Standardmethoden und Workflow (8)
Validierung: datengetriebene Vorhersagemodelle
Gütekriterium
MLR
MLP
GP
SVR
RT
NSE
0,87
0,90
0,94
0,88
0,73
PPD(h)
-5
-4
-4
-3
-11
Pegel Dohna (Müglitz), 12 h - Vorhersage, Ereignisbasiertes Training
Folie 21/41

image
image
image
Die schlechteren Nachrichten
Beispiel: typische Fehler, insbesondere bei kleinen EZG
Folie 22/41

Übersicht
Blick zurück
Methodik der datengetriebenen Hochwasservorhersage
KI der ersten Generation
KI der zweiten Generation
Neuentwicklungen
Beispiel: Wavelet-Transformation und Singular Spektrum
Analyse
Beispiel: Encoder-Decoder LSTM
Folie 23/41

Standardmethoden und Workflow
Multilayer Perceptron
Architektur:
MLP zusammen mit
Backpropagation-Trainingsalgorithmus
(Gradientenverfahren) + u.a. regularization and
early stopping
Datengrundlage:
Zeitreihen (Stationsdaten) beobachteter
Niederschläge & Durchflüsse (täglich)
Datenteilung:
ad hoc
training|validation|test
Datentransformation:
Standardisierung (0,1)
Zielfunktion (loss function):
RMSE
Folie 24/41

Neuentwicklungen
Architektur:
MLP zusammen mit Backpropagation-Trainingsalgorithmus
(Gradientenverfahren) + u.a. regularization and early stopping
I
deep MLP mit mehr als 2 »hidden layers«
I
Convolutional Neural Networks zur Bilderkennung
I
Long Short-Term Memory Networks (LSTMs) als
Weiterentwicklung von rekurrenten Netzen
I
Frame et al.: Mass Conserving LSTM
https://doi.org/10.5194/hess-2021-423
I
neue Trainingsalgorithmen: stochastische
Gradientenverfahren, Bayes’sche
Optimierungsalgorithmen
Folie 25/41

Neuentwicklungen
Datengrundlage:
Zeitreihen (Stationsdaten) beobachteter
Niederschläge & Durchflüsse (täglich)
I
Niederschlagsfelder (RADOLAN) statt Stationsdaten oder
Gebietsmittel
Datenteilung:
ad hoc
training|validation|test
I
umfangreiche cross-validation: Leave One Out, Stratified
Cross Validation
Folie 26/41

Neuentwicklungen
Datentransformation:
Standardisierung (0,1)
I
z. B. Wavelet-Transformation und Singular Spektrum
Analyse
Zuverlässige Deep learning Infrastrukturen und Bibliotheken:
I
z. B. Keras und TensorFlow
Folie 27/41

Neuentwicklungen
hybride Modelle:
I
Verbindung von hydrologischen Modell und KNN zur
Fehlerkorrektur (Training auf Basis der Residuen)
I
modulare Netze und Modell-Ensemble (z.B.
Regressionsbäume oder gradient boosting)
Folie 28/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Vorgehen
Folie 29/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Vorgehen (2)
Folie 30/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Methoden
Folie 31/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Methoden (2)
Folie 32/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Ergebnisse Modell (wavelet)
Folie 33/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Ergebnisse Modell (SSA)
Folie 34/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Ergebnisse Real (wavelet)
Folie 35/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Ergebnisse Real (SSA)
Folie 36/41

image
Beispiel: Wavelet-Transformation und Singular Spektrum Analyse
Problem Real (SSA)
Folie 37/41

image
Beispiel: Encoder-Decoder LSTM
Methode
Folie 38/41

image
Beispiel: Encoder-Decoder LSTM
Vorgehen
Folie 39/41

image
Beispiel: Encoder-Decoder LSTM
Ergebnisse
Folie 40/41

image
Beispiel: Encoder-Decoder LSTM
Ergebnisse (2)
Folie 41/41