KI-Halluzinationen: Was sie sind und wie du Fakten prüfst

Was sind KI-Halluzinationen?

Eine KI-Halluzination ist eine Antwort, die überzeugend klingt, aber faktisch falsch ist. Das Modell erfindet Informationen, Quellen oder Zusammenhänge, die nicht existieren. Das ist kein seltener Bug, sondern ein systemisches Verhalten von Sprachmodellen: Sie sind darauf trainiert, plausible Texte zu erstellen, nicht zwingend korrekte.

Zwei Beispiele zeigen, wie real das Problem ist:

• 1.Google Bard und das Webb-Teleskop (2023): Bei der Live-Vorstellung von Bard behauptete die KI, das James-Webb-Teleskop habe die ersten Bilder eines Exoplaneten aufgenommen. Falsch. Das war 2004 ein anderes Teleskop. Die Alphabet-Aktie fiel daraufhin deutlich.
• 2.Mata vs. Avianca (2023): Zwei New Yorker Anwälte reichten Schriftsätze mit sechs erfundenen Gerichtsurteilen ein, die ChatGPT erstellt hatte. Das Gericht stellte fest, dass keines der zitierten Urteile existierte. Beide Anwälte wurden mit Geldstrafen belegt.

Der Unterschied zu einem simplen Softwarefehler: Halluzinationen sehen richtig aus. Die Antwort ist grammatisch einwandfrei, der Tonfall sachlich, die Struktur logisch. Nur der Inhalt stimmt nicht. Genau das macht sie gefährlich. Mehr zu typischen ChatGPT-Fehlern findest du im Artikel über falsche ChatGPT-Antworten.

Warum halluzinieren KI-Modelle?

Halluzinationen sind keine Nachlässigkeit der Entwickler. Sie entstehen aus der Art, wie Sprachmodelle grundsätzlich arbeiten. Vier Ursachen erklären das:

• 1.Unvollständige Trainingsdaten: Kein Modell kennt alles. Der Trainingsdatensatz hat einen Stichtag, und Nischenthemen sind unterrepräsentiert. Wenn das Modell keine verlässliche Information hat, füllt es die Lücke mit dem, was statistisch am wahrscheinlichsten klingt.
• 2.Optimierung auf Plausibilität: LLMs werden darauf trainiert, den wahrscheinlichsten nächsten Token vorherzusagen. Das Ziel ist"klingt richtig", nicht "ist richtig". Ein feiner, aber entscheidender Unterschied.
• 3.Kein Echtzeitzugang: Ohne Websuche arbeitet ein Sprachmodell nur mit dem, was im Training enthalten war. Aktuelle Ereignisse, neue Studienergebnisse oder geänderte Preise kennt es nicht. Das führt zu veralteten oder erfundenen Angaben.
• 4.Übertriebene Sicherheit: Modelle signalisieren selten Unsicherheit. Statt "Ich bin mir nicht sicher" kommt eine formulierte Antwort mit dem gleichen selbstbewussten Tonfall wie bei gesicherten Fakten.

Wer die technischen Hintergründe vertiefen will, findet im Grundlagen-Artikel zu Token und Prompts die Basis dafür, wie Sprachmodelle Text verarbeiten.

Wie oft halluzinieren aktuelle KI-Modelle?

Die gute Nachricht: Halluzinationsraten sinken rapide. Die Benchmark-Plattform Vectara HHEM misst regelmäßig, wie häufig verschiedene Modelle falsche Behauptungen aufstellen.

Benchmarks wie das Vectara Hallucination Leaderboard messen, wie treu Modelle einen Quelltext zusammenfassen. Die besten Modelle erreichen dort Fehlerquoten im niedrigen einstelligen Prozentbereich. Frühe Benchmarks zeigten noch Raten im zweistelligen Prozentbereich. Der Fortschritt ist real.

Aber diese Benchmarks messen Zusammenfassungstreue, nicht Faktengenauigkeit bei offenen Fragen. Wenn du ein Modell ohne Quelldokument nach Fakten fragst, liegt die tatsächliche Fehlerquote deutlich höher. Je nach Thema, Komplexität und Modell variieren die Raten stark.

Die Kernaussage bleibt: Halluzinationen werden seltener, aber selbst bei den besten Modellen passieren sie regelmäßig. In einem langen Gespräch mit mehreren Dutzend Antworten ist die Wahrscheinlichkeit hoch, dass mindestens eine Angabe nicht stimmt. Wer KI-Texte ungeprüft übernimmt, geht ein messbares Risiko ein.

So prüfst du KI-Antworten auf Fakten

Faktencheck muss keine halbe Stunde dauern. Mit diesen fünf Schritten erkennst du die meisten Halluzinationen in unter zwei Minuten:

• 1.Quellen einfordern: Frag die KI direkt: "Nenne mir die Originalquelle für diese Aussage." Viele Modelle liefern dann URLs oder Studiennamen. Wenn das Modell keine Quelle nennen kann, ist das bereits ein Warnsignal.
• 2.Quellen selbst öffnen: Eine genannte Quelle ist nicht automatisch richtig. Öffne den Link, prüfe, ob die Seite existiert und ob die zitierte Aussage dort tatsächlich steht. Erfundene URLs und falsch zugeordnete Zitate sind typische Halluzinationen.
• 3.Websuche aktivieren: Tools wie Perplexity oder ChatGPTs Browsing-Modus greifen auf aktuelle Webinhalte zu und verlinken ihre Quellen direkt. Bei Fakten-Fragen ist Websuche dem reinen Sprachmodell überlegen, weil die Antwort auf echten Quellen basiert statt auf Wahrscheinlichkeiten.
• 4.Zweites Modell fragen: Gib die gleiche Frage an ein anderes Modell. Wenn ChatGPT und Claude unterschiedliche Antworten liefern, weißt du, dass mindestens eine davon unsicher ist. Bei Übereinstimmung steigt die Wahrscheinlichkeit, dass die Angabe korrekt ist.
• 5.Spezifisch fragen: Vage Fragen erzeugen vage Antworten. Statt "Erzähl mir über Klimawandel" lieber: "Wie hoch war der globale CO2-Ausstoß 2024 laut IEA?" Je konkreter dein Prompt, desto prüfbarer die Antwort.

Wer KI systematisch mit eigenen Daten füttert, reduziert Halluzinationen deutlich. Wie das funktioniert, erklärt der Artikel zu RAG und Custom Instructions.

Fazit

KI-Halluzinationen sind kein Defekt, sondern eine Eigenschaft von Sprachmodellen. Die Raten sinken von Generation zu Generation, aber null werden sie auf absehbare Zeit nicht.

Das bedeutet: Faktencheck bleibt Pflicht. Quellen einfordern, gegenprüfen, Websuche nutzen. Wer diese Gewohnheit aufbaut, holt das Beste aus KI-Tools heraus, ohne auf falsche Informationen hereinzufallen.

Wie du KI insgesamt richtig einordnest und systematisch lernst, findest du im KI-Lernpfad 2026.

Häufige Fragen