KI Halluzinationen: Wenn ChatGPT Dinge erfindet

Wer einmal mit ChatGPT, Gemini oder einem anderen KI-Assistenten geschrieben hat, ist vielleicht schon auf etwas Seltsames gestoßen: Die KI antwortet selbstsicher – und liegt trotzdem falsch. Sie nennt Fakten, die nicht stimmen. Sie erfindet Buchtitel, die es nicht gibt. Sie beschreibt Ereignisse, die nie stattgefunden haben.

Das hat sogar einen eigenen Begriff: KI-Halluzination. Dieser Artikel erklärt, was dahinter steckt, wo das Problem besonders häufig auftritt – und was man tun kann.

Was ist eine KI-Halluzination?

Der Begriff klingt dramatischer, als er ist. Er bedeutet schlicht: Die KI hat etwas erfunden, das nicht der Realität entspricht – und tut dabei so, als wäre es richtig.

Ein Beispiel: Sie fragen ChatGPT nach einer deutschen Ärztin, die Bücher über Ernährung geschrieben hat. Die KI nennt Ihnen einen Namen, Buchtitel, Erscheinungsjahr und Verlag. Alles klingt plausibel. Alles ist falsch. Diese Person existiert nicht, die Bücher gibt es nicht.

Das Verblüffende: Die KI wirkt dabei vollständig überzeugt. Sie schreibt nicht „ich bin mir nicht sicher” – sie schreibt einfach drauflos.

Warum passiert das?

KI-Assistenten wie ChatGPT haben gelernt, Text zu produzieren, der in bestimmten Situationen sinnvoll klingt. Sie wurden auf riesigen Mengen an Text aus dem Internet trainiert – Bücher, Webseiten, Artikel, Diskussionen. Dabei haben sie gelernt, wie Sprache funktioniert und wie bestimmte Arten von Aussagen klingen.

Was sie nicht gelernt haben: zwischen wahr und falsch zu unterscheiden. Sie haben kein inneres Faktenbuch, das sie nachschlagen. Sie produzieren den Text, der in diesem Moment am wahrscheinlichsten klingt – basierend auf dem, was sie im Training gesehen haben.

Das ist ein grundlegender Unterschied zu einer Suchmaschine. Google verweist Sie auf Webseiten, die tatsächlich existieren. ChatGPT schreibt selbst – und wenn ein Thema in den Trainingsdaten dünn besetzt war, erfindet es, was plausibel klingt.

Wo passiert das am häufigsten?

Namen und Referenzen: Wenn Sie nach einer Person, einem Buch, einem Artikel oder einer Studie fragen, ist das Risiko hoch. KI-Assistenten erfinden regelmäßig Literaturangaben.

Aktuelle Ereignisse: Die meisten KI-Systeme haben einen Wissensschnitt – einen Zeitpunkt, bis zu dem sie trainiert wurden. Was danach passiert ist, wissen sie nicht. Das hält sie aber nicht davon ab, zu antworten. Im besten Fall sagen sie, dass sie keine aktuellen Informationen haben. Im schlechteren Fall spekulieren sie.

Sehr spezifische lokale Informationen: Was kostet eine bestimmte Versicherungsleistung genau? Welche Regelung gilt in einem bestimmten Bundesland? Solche Details sind in Trainingsdaten schlecht vertreten – das Risiko von Fehlern ist entsprechend höher.

Gesundheitliche und rechtliche Fragen: KI kann einen allgemeinen Überblick geben, aber bei konkreten medizinischen oder juristischen Fragen ist Vorsicht besonders geboten.

Was die KI gut kann

Das klingt bisher beunruhigend – und das Gegenstück ist wichtig. KI-Assistenten sind sehr hilfreich für viele Aufgaben, bei denen die Halluzinations-Anfälligkeit gering ist:

Texte schreiben und überarbeiten: Einen Brief formulieren, einen Text kürzen, eine E-Mail freundlicher formulieren. Dabei gibt es keine Fakten zu erfinden.

Erklären und zusammenfassen: Allgemein bekannte Konzepte erklären (was ist eine Rentenversicherung, was bedeutet Inflation) ist wenig fehleranfällig, weil die Information in vielen Quellen konsistent vorhanden ist.

Ideen entwickeln: Brainstorming, Vorschläge, Planungen – keine Faktenprüfung nötig.

Übersetzungen und Sprachkorrekturen: KI übersetzt gut und korrigiert Texte zuverlässig.

Wie man damit umgeht

Konkrete Fakten immer prüfen. Was die KI Ihnen sagt, ist ein guter Ausgangspunkt – kein Endergebnis. Wichtige Aussagen, Zahlen oder Referenzen immer mit einer anderen Quelle bestätigen. Eine schnelle Suche bei Google reicht oft.

Nach der Quelle fragen. Sie können die KI direkt fragen: „Woher stammt diese Information?” oder „Haben Sie eine Quelle dafür?” Die KI wird manchmal eine Quelle nennen – prüfen Sie dann, ob diese Quelle tatsächlich existiert und das wirklich enthält.

Formulierungen beachten. Gute KI-Assistenten schreiben manchmal „ich bin nicht sicher, ob das stimmt” oder „das sollten Sie überprüfen”. Wenn eine KI so formuliert, ist das ein Zeichen für Ehrlichkeit, nicht für Schwäche. Manche KIs fügen das leider nicht immer hinzu.

Vertrauen, aber nachprüfen – das gilt für KI genauso wie für viele andere Quellen im Alltag.

Häufige Fragen

Wird das besser? Halluzinieren neuere KI-Systeme weniger? Ja – die Fehlerquote ist mit jeder Generation gesunken. Aber vollständig zuverlässig sind KI-Assistenten noch nicht, und das Grundproblem besteht weiter: KI-Systeme erzeugen Text, der wahrscheinlich klingt – sie prüfen keine Fakten in Echtzeit.

Kann ich KI für medizinische Fragen nutzen? Für einen ersten Überblick kann das hilfreich sein – etwa um Fachbegriffe zu verstehen oder sich auf ein Arztgespräch vorzubereiten. Für konkrete Diagnosen, Dosierungen oder Entscheidungen zur Behandlung: ausschließlich mit Ärzten besprechen.

Was tue ich, wenn ich eine falsche Antwort bekommen habe? Einfach weiternutzen – und die Information mit einer anderen Quelle bestätigen. Es gibt nichts zu befürchten, wenn man eine falsche KI-Antwort bekommen hat und sie nicht ohne Prüfung weitergenutzt hat.

Ist KI trotz Halluzinationen für ältere Menschen sinnvoll? Durchaus. Für Texte formulieren, Informationen einordnen, Briefe schreiben – ja. Für die Überprüfung konkreter Fakten, Adressen, Preise, Gesetze – lieber eine andere Quelle hinzuziehen.