Was ist eine KI-Halluzination?
Eine KI-Halluzination ist ein falsches oder frei erfundenes Ergebnis eines Sprachmodells, das der KI dabei überzeugend und selbstsicher formuliert klingt, aber nicht von Fakten gedeckt ist.
DEFINITION
Bei der Arbeit mit einem Sprachmodell tauchen früher oder später Halluzinationen auf. Das Modell zitiert Studien, die nicht existieren, nennt Namen mit falschen Positionen oder beschreibt historische Ereignisse falsch, alles überzeugend formuliert und ohne Hinweis auf Unsicherheit. Das passiert, weil ein LLM keine Fakten abruft, sondern Wortfolgen generiert, die statistisch plausibel klingen. Wenn es für einen Sachverhalt keine guten Trainingsdaten gab oder das Modell in einer Grauzone zwischen mehreren Antworten rechnet, erfindet es. Halluzinationen entstehen besonders bei sehr spezifischen Fragen, bei langen Konversationen und unter dem Druck, eine Antwort zu liefern, die das Modell nicht kennt. Der Umgang damit ist klar: jede faktisch relevante Aussage aus KI-Outputs überprüfen, besonders vor der Weiterverwendung. Blindes Vertrauen in KI- Ausgaben ist der häufigste Fehler bei der KI-Anwendung.
VERBINDUNGEN ZU ANDEREN THEMEN
Führung
In Teams, die KI nutzen, braucht es psychologische Sicherheit, damit Mitarbeitende Fehler und Unsicherheiten ansprechen können. Wer Angst hat, KI-Outputs in Frage zu stellen, gibt halluzinierte Informationen weiter.
Agilität
Agile Teams, die KI nutzen, brauchen eine klare Definition of Done für KI-generierte Outputs. Halluzinationen passieren, deshalb muss Faktenkontrolle expliziter Bestandteil der Abnahmekriterien sein.
Projektmanagement
KI-Halluzinationen sind ein messbares Projektrisiko, besonders wenn KI für Recherchen, Analysen oder Berichte eingesetzt wird. Das Risikoregister sollte KI-spezifische Qualitätsrisiken explizit führen.
DAS WICHTIGSTE AUF EINEN BLICK
- KI-Halluzinationen sind überzeugend formulierte Falschantworten ohne Faktengrundlage.
- Sie entstehen, weil LLMs Wahrscheinlichkeiten berechnen, keine Fakten abrufen.
- Spezifische Fragen, lückenhafte Trainingsdaten und Gesprächsdruck begünstigen Halluzinationen.
- Faktisch relevante KI-Aussagen müssen immer geprüft werden.
- RAG und Fine-Tuning können Halluzinationen reduzieren, aber nicht eliminieren.
PRAXISBEISPIEL
Du fragst ein Sprachmodell nach einer Studie zur Wirksamkeit eines Führungstrainings. Das Modell nennt Autorin, Verlag, Jahr und eine plausibel klingende Kernaussage. Du suchst die Studie und findest sie nicht. Das Modell hat sie erfunden, weil es im Kontext einen ähnlichen Stil und ähnliche Inhalte gesehen hat und daraus eine überzeugend klingende Antwort generiert hat. Deshalb immer: verlinkte Quellen vor der Weiterverwendung prüfen.
HÄUFIGE MISSVERSTÄNDNISSE
Weiß ein LLM, wenn es halluziniert?
Nein. Das Modell hat keinen Zugang zu Metawissen über seine eigene Korrektheit. Es generiert die plausibelste Fortsetzung seines Outputs, egal ob diese faktisch korrekt ist oder nicht.
Halluzinieren nur günstige oder kleine Modelle?
Nein. Auch sehr große und leistungsfähige Modelle halluzinieren. Die Rate sinkt mit besseren Modellen, aber sie verschwindet nicht.