Beginn: Ab sofort
Erstbetreuer: Prof. Dr. Heisenberg
Zweitbetreuer: Dr. Akdag
Niveau: Masterarbeit
Problemstellung:
Die Black-Box-Natur vieler Deep-Learning-Modelle stellt ein erhebliches Hindernis für deren Akzeptanz in den Umweltwissenschaften dar. Zwar existieren post-hoc XAI-Verfahren wie SHAP oder Integrated Gradients, doch deren Erklärungen sind oft instabil und schwer zu interpretieren. Kolmogorov-Arnold-Netzwerke (KANs) bieten eine intrinsisch erklärbare Modellklasse, die auf expliziten 1D-Funktionen je Eingabevariable beruht. Diese Arbeit untersucht, ob KANs im Bereich hydrologischer Zeitreihen nicht nur konkurrenzfähige Vorhersagen liefern, sondern auch stabilere, physikalisch plausiblere und transparenter kommunizierbare Erklärungen erzeugen.
Die Black-Box-Natur vieler Deep-Learning-Modelle stellt ein erhebliches Hindernis für deren Akzeptanz in den Umweltwissenschaften dar. Zwar existieren post-hoc XAI-Verfahren wie SHAP oder Integrated Gradients, doch deren Erklärungen sind oft instabil und schwer zu interpretieren. Kolmogorov-Arnold-Netzwerke (KANs) bieten eine intrinsisch erklärbare Modellklasse, die auf expliziten 1D-Funktionen je Eingabevariable beruht. Diese Arbeit untersucht, ob KANs im Bereich hydrologischer Zeitreihen nicht nur konkurrenzfähige Vorhersagen liefern, sondern auch stabilere, physikalisch plausiblere und transparenter kommunizierbare Erklärungen erzeugen.
Ziel der Arbeit:
Die Masterarbeit vergleicht die Erklärungsqualität von KANs mit gängigen post-hoc XAI-Methoden auf Black-Box-Modellen (LSTM, XGBoost) am Beispiel des CAMELS-DE-Datensatzes. Neben klassischen Fehlermaßen (RMSE, NSE) stehen Stabilität, physikalische Konsistenz, zeitliche Interpretierbarkeit und symbolische Komprimierbarkeit der Erklärungen im Fokus. Die Arbeit verfolgt damit einen innovativen Beitrag zur erklärbaren KI in der Umweltinformatik.
Die Masterarbeit vergleicht die Erklärungsqualität von KANs mit gängigen post-hoc XAI-Methoden auf Black-Box-Modellen (LSTM, XGBoost) am Beispiel des CAMELS-DE-Datensatzes. Neben klassischen Fehlermaßen (RMSE, NSE) stehen Stabilität, physikalische Konsistenz, zeitliche Interpretierbarkeit und symbolische Komprimierbarkeit der Erklärungen im Fokus. Die Arbeit verfolgt damit einen innovativen Beitrag zur erklärbaren KI in der Umweltinformatik.
Vorgehensweise:
- Implementierung von KANs als Response-Modelle mit expliziten Lags
- Training von Vergleichsmodellen (LSTM, XGBoost) auf denselben Inputs
- Anwendung post-hoc XAI (SHAP, Integrated Gradients, PDP)
- Vergleich entlang von Metriken wie Erklärungskonsistenz, Vorzeichenstabilität, Monotonieverletzungen
- Evaluation anhand realer hydrologischer Zeitreihen aus CAMELS-DE
Voraussetzungen:
Sehr gute Kenntnisse in Python, ML-Frameworks (PyTorch oder TensorFlow) und Zeitreihenverarbeitung sind erforderlich. Erfahrung mit XAI und Interesse an Umwelt-/Hydrologiedaten sind wünschenswert.
Sehr gute Kenntnisse in Python, ML-Frameworks (PyTorch oder TensorFlow) und Zeitreihenverarbeitung sind erforderlich. Erfahrung mit XAI und Interesse an Umwelt-/Hydrologiedaten sind wünschenswert.