Explainable AI & Monitoring
KI Explainability & Monitoring
KI-Entscheidungen müssen nachvollziehbar sein. Wir implementieren XAI-Methoden und kontinuierliches Monitoring für Ihre KI-Systeme.
Warum Explainability?
KI-Systeme, die Entscheidungen treffen, müssen diese erklären können – für Nutzer, Auditoren und Regulatoren. Der EU AI Act schreibt für Hochrisiko-KI umfangreiche Transparenz- und Erklärungspflichten vor. Explainable AI (XAI) ist nicht nur Compliance-Anforderung, sondern auch entscheidend für das Vertrauen in KI-Systeme.
XAI-Methoden
Wir implementieren etablierte XAI-Methoden wie SHAP (SHapley Additive exPlanations), LIME (Local Interpretable Model-agnostic Explanations) und Attention Visualization. Die Wahl der Methode hängt von Ihrem Modelltyp, dem Anwendungsfall und den Compliance-Anforderungen ab.
Kontinuierliches Monitoring
KI-Modelle verändern sich im Betrieb – durch Data Drift (Veränderung der Eingabedaten) und Concept Drift (Veränderung der Zielvariable). Wir implementieren Monitoring-Pipelines, die Drift frühzeitig erkennen und Alarm schlagen, bevor die Modellqualität leidet.
Erklärbarkeit als regulatorische Pflicht
Der EU AI Act schreibt für Hochrisiko-KI-Systeme in Art. 13 umfangreiche Transparenz- und Erklärungspflichten vor: Nutzer müssen die Logik hinter Entscheidungen verstehen können, Aufsichtsbehörden müssen Modelle prüfbar vorfinden. DORA verlangt für KI-Systeme im IKT-Risikomanagement von Finanzunternehmen entsprechende Nachvollziehbarkeit. In der Kreditvergabe besteht nach der DSGVO (Art. 22) ein Recht auf Erklärung bei vollautomatisierten Entscheidungen. Explainability ist damit nicht nur technische Qualität – sondern messbare rechtliche Anforderung.
Typische Einsatzszenarien
Bank mit KI-gestützter Kreditentscheidung
Ein Kreditinstitut setzt KI für die automatische Kreditbewertung ein. Nach EU AI Act und DSGVO Art. 22 müssen Entscheidungen erklärbar sein – für Antragsteller ebenso wie für die BaFin. Wir implementieren SHAP-basierte Erklärungen, die sowohl für Aufsichtsbehörden als auch für Ablehnungsgespräche mit Kunden geeignet sind.
Versicherer mit verschlechterter Modellqualität nach Extremwetterereignis
Ein Versicherungsunternehmen bemerkt, dass sein KI-Schadensmodell nach einem extremen Wetterereignis schlechtere Ergebnisse liefert. Ursache: Data Drift durch veränderte Schadensmuster. Wir richten Drift-Monitoring ein, identifizieren den Auslöser und begleiten das Retraining auf aktualisierten Daten.
Pharmaunternehmen mit Zulassungsbehörden-Anforderungen
Ein Pharmaunternehmen muss KI-gestützte Qualitätssicherungsentscheidungen gegenüber EMA und FDA dokumentieren und erklären. Wir entwickeln XAI-Reports, die den spezifischen Anforderungen der Zulassungsbehörden entsprechen und revisionssicher archiviert werden.
Unsere Leistungen
- SHAP / LIME Implementierung
- Model Interpretability Reports
- Data Drift Monitoring
- Concept Drift Detection
- Fairness Monitoring
- Performance Monitoring Dashboards
- Modell-Audit und -Review
- XAI für Aufsichtsbehörden
KI erklärbar machen
Wir helfen Ihnen, KI-Entscheidungen nachvollziehbar und prüfbar zu gestalten.
Beratung anfragenHäufige Fragen zu Explainability und Monitoring
Was ist der Unterschied zwischen erklärbarer KI und transparenter KI?
Transparente KI offenbart ihre interne Struktur (z.B. Entscheidungsbäume). Erklärbare KI (XAI) macht Entscheidungen für Menschen nachvollziehbar – auch wenn das Modell intern intransparent ist (Black Box). XAI-Methoden wie SHAP ermöglichen Erklärungen für komplexe Modelle ohne Zugang zur internen Logik.
Welche XAI-Methode ist die richtige für mein Modell?
Das hängt vom Modelltyp und Anwendungsfall ab. SHAP funktioniert modellunabhängig und liefert konsistente Erklärungen. LIME ist schneller, aber weniger stabil. Attention Visualization eignet sich für Transformer-Modelle. Wir evaluieren Ihren spezifischen Anwendungsfall und empfehlen die passende Methode.
Wie erkenne ich Data Drift frühzeitig?
Statistische Tests wie Kolmogorov-Smirnov oder Population Stability Index (PSI) messen Veränderungen in den Eingabedaten. Monitoring-Pipelines berechnen diese Kennzahlen kontinuierlich und schlagen Alarm, wenn definierte Schwellenwerte überschritten werden – bevor die Modellqualität merklich leidet.
Ist KI-Monitoring auch für zugekaufte Modelle (APIs) möglich?
Ja. Auch bei API-basierten KI-Diensten können Ein- und Ausgaben protokolliert, auf Drift analysiert und auf unerwünschte Muster überwacht werden. Das Monitoring greift am Schnittstellenpunkt – Zugriff auf das interne Modell ist nicht erforderlich.
Kontakt aufnehmen
Erklärbare KI für Ihre Organisation
Implementieren Sie XAI und Monitoring, die Vertrauen schaffen und regulatorische Anforderungen erfüllen.