Was ist Erklärbare KI (XAI)?
Erklärbare KI (Explainable AI, XAI) bezeichnet Methoden, die KI- Entscheidungen für Menschen nachvollziehbar machen. Bei Personalentscheidungen, Krediten und rechtlichen Fragen ist Erklärbarkeit keine Option, sondern Pflicht. Der EU AI Act schreibt sie für Hochrisiko-KI vor.
DEFINITION
Erklärbare KI (Explainable AI, XAI) umfasst Techniken, Methoden und Designprinzipien, die es ermöglichen, KI-Entscheidungen und -Outputs für Menschen verständlich, nachvollziehbar und prüfbar zu machen.
Das Grundproblem: Viele leistungsfähige KI-Systeme. Insbesondere Deep-Learning-Modelle. Sind „Black Boxes”. Sie liefern Ergebnisse, aber nicht die Begründung. Warum wurde der Kredit abgelehnt? Warum wurde diese Bewerberin nicht für das Interview eingeladen? Ohne Erklärbarkeit ist die Antwort: „Das Modell hat es so entschieden.”
Warum XAI wichtig ist:
-
Rechtliche Pflicht: Der EU AI Act verlangt für Hochrisiko-KI-Systeme (u. a. in Personalentscheidungen, Kreditvergabe, kritischer Infrastruktur) Transparenz und menschliche Aufsicht. DSGVO räumt EU-Bürgerinnen das Recht auf Erklärung bei automatisierten Entscheidungen ein (Art. 22 DSGVO).
-
Vertrauensbildung: KI-Systeme, deren Logik nachvollziehbar ist, werden von Mitarbeitenden und Kunden eher akzeptiert.
-
Fehlerkorrektur: Erklärbarkeit macht KI-Fehler sichtbar und korrigierbar. Ohne Erklärbarkeit bleiben systematische Fehler oft verborgen.
-
Ethische Kontrolle: Nur wer versteht, wie die KI entscheidet, kann prüfen, ob sie fair, diskriminierungsfrei und ethisch handelt.
Zwei Ansätze:
- Intrinsische Erklärbarkeit: Das Modell ist von Haus aus transparent (z. B. Entscheidungsbäume, lineare Regression).
- Post-hoc-Erklärbarkeit: Externe Methoden erklären Outputs eines komplexen Modells (z. B. LIME, SHAP).
VERBINDUNGEN ZU ANDEREN THEMEN
Führung
Psychologische Sicherheit in KI-Entscheidungsprozessen erfordert Erklärbarkeit: Teams und Mitarbeitende, die nicht verstehen, nach welcher Logik ein KI-System entscheidet, entwickeln Misstrauen oder blindes Vertrauen. Beides ist problematisch. Erklärbarkeit ist die Voraussetzung für informiertes Vertrauen.
Agilität
Definition of Done für KI-Features sollte Erklärbarkeits-Anforderungen enthalten: Kann erklärt werden, warum das System diese Empfehlung gibt? Gibt es einen nachvollziehbaren Begründungspfad? Ohne Erklärbarkeit ist ein KI-Feature für viele Anwendungsfälle nicht wirklich „fertig.”
Projektmanagement
Im Risikoregister von KI-Projekten ist fehlende Erklärbarkeit ein Compliance-Risiko: Hochrisiko-KI ohne XAI-Konzept verletzt den EU AI Act und gefährdet Projektgenehmigung und -betrieb. XAI muss von Anfang an eingeplant werden. Nicht nachträglich.
DAS WICHTIGSTE AUF EINEN BLICK
- XAI macht KI-Entscheidungen für Menschen nachvollziehbar und prüfbar.
- EU AI Act und DSGVO machen XAI für viele Anwendungen zur rechtlichen Pflicht.
- Zwei Ansätze: Intrinsisch erklärbare Modelle und post-hoc-Erklärungsmethoden.
- Erklärbarkeit ist Voraussetzung für ethische Kontrolle und Fehlerkorrektur.
- Ohne XAI bleibt KI-Vertrauen blind. Und KI-Fehler unsichtbar.
PRAXISBEISPIEL
Ein Versicherungsunternehmen nutzt KI für die Bewertung von Schadensmeldungen. Problem ohne XAI: Die KI lehnt 30% der Anträge ab. Aber niemand weiß warum. Kunden haben rechtlichen Anspruch auf Erklärung (DSGVO Art. 22). Mit XAI-Methoden (SHAP): Das System zeigt, welche Faktoren die Entscheidung beeinflusst haben. Schadenshöhe, Meldezeit, Vertragsdauer. Ergebnis: Kunden können widersprechen, Fehler werden sichtbar und korrigiert, systematischer Bias (z. B. kürzere Meldezeit bei berufstätigen Antragstellenden) wird identifiziert und behoben. XAI ist hier Compliance, Qualität und Fairness zugleich.
HÄUFIGE MISSVERSTÄNDNISSE
XAI bedeutet, das Modell muss sich immer vollständig erklären.
Nein. Erklärbarkeit ist kontextabhängig. Bei einer Musikempfehlung ist vollständige Erklärbarkeit optional. Bei Kreditentscheidungen ist sie Pflicht. Der Grad der erforderlichen Erklärbarkeit richtet sich nach Risiko und rechtlichen Anforderungen. Nicht nach technischer Machbarkeit.
Erklärbare Modelle sind weniger leistungsfähig.
Manchmal gibt es einen Trade-off. Aber er wird überschätzt. Moderne XAI-Methoden wie SHAP erklären auch komplexe Modelle post-hoc. Und für viele Anwendungsfälle sind intrinsisch erklärbare Modelle genauso gut wie Black Boxes. Bei deutlich besserer Nutzbarkeit.