Künstliche Intelligenz (KI) kann Antworten liefern, die selbst dann sicher, detailliert und logisch klingen, wenn die Informationen falsch sind. Forscher nennen dieses Verhalten „Halluzination“. Eine Halluzination entsteht, wenn ein künstliches Intelligenzsystem Informationen generiert, die nicht mit der Realität, verifizierten Fakten oder den Eingabedaten übereinstimmen.
In Chatbots, Suchassistenten, Bildgenerator-Apps, Codierungstools und Sprachassistenten können Halluzinationen auftreten. Ein Chatbot kann eine wissenschaftliche Studie erfinden, die es nie gab. Eine Bildgenerator-App kann eine Person mit sechs Fingern erstellen. Ein Codierungsassistent schreibt möglicherweise Computercode, der korrekt aussieht, bei der Ausführung jedoch fehlschlägt.
Halluzinationen durch künstliche Intelligenz entstehen, weil moderne Systeme Muster vorhersagen, anstatt die Wahrheit auf die gleiche Weise zu verstehen wie Menschen. Das Problem liegt darin, wie Modelle künstlicher Intelligenz lernen, wie Entwickler sie testen, wie sich Trainingsdaten verhalten und wie wahrscheinlichkeitsbasierte Vorhersagen funktionieren.
Wie sehen KI-Halluzinationen aus?
Halluzinationen durch künstliche Intelligenz können in vielen Formen auftreten.
Erfundene Fakten
Ein Chatbot kann Folgendes erfinden:
- Gefälschte Forschungsarbeiten
- Falsche historische Ereignisse
- Nicht existierende Gesetze
- Imaginäre Unternehmensleiter
- Falsche medizinische Beratung.
Beispielsweise reichten Anwälte in mehreren Gerichtsverfahren Rechtsakten ein, die gefälschte Gerichtsentscheidungen enthielten, die von Systemen der künstlichen Intelligenz generiert wurden. Der Chatbot erzeugte Fallzitate, die authentisch aussahen, aber nicht existierten.
Falsche Zusammenfassungen
Ein KI-Modell fasst ein Dokument möglicherweise falsch zusammen, obwohl es überzeugend klingt. Microsoft-Forscher haben kürzlich herausgefunden, dass fortschrittliche Sprachmodelle Dokumentinhalte bei langen Arbeitsabläufen beschädigen oder verzerren können. Einige Systeme haben beim Testen bis zu 25 % des Inhalts beschädigt.
Visuelle Halluzinationen
Bildgenerator-Apps manchmal:
- Fügen Sie zusätzliche Gliedmaßen hinzu
- Erstellen Sie unleserlichen Text
- Produzieren Sie unmögliche Reflexionen
- Verzerren Sie die menschliche Anatomie.
Dieses Problem fällt Ihnen möglicherweise besonders bei Zeigern, Zähnen, Uhren oder komplexen Hintergründen auf, da diese Details präzise räumliche Beziehungen erfordern.
Logische Halluzinationen
Einige KI-Modelle liefern Antworten, die Widersprüche oder unmögliche Argumentationsschritte enthalten. Ein System kann Mathematik falsch erklären, während es die Erklärung mit völliger Sicherheit präsentiert.
Gründe, warum künstliche Intelligenz Halluzinationen hat
1. Künstliche Intelligenz sagt Muster voraus, anstatt die Wahrheit zu überprüfen
Der wichtigste Grund für Halluzinationen liegt im Kerndesign großer Sprachmodelle.
Moderne Sprachmodelle sagen das nächste Wort in einer Sequenz voraus. Sie „kennen“ die Wahrheit nicht direkt. Sie schätzen, welches Wortmuster am wahrscheinlichsten auf die vorherigen Wörter folgt.
Wenn Sie zum Beispiel fragen:
„Wer hat das Telefon erfunden?“
Das Modell berechnet Wahrscheinlichkeiten auf der Grundlage von Mustern, die aus riesigen Textmengen gelernt wurden. Wenn die Trainingsdaten „Alexander Graham Bell“ stark mit „Erfand des Telefons“ in Verbindung bringen, liefert das Modell diese Antwort.
Wenn das Modell jedoch auf unsichere, seltene, unvollständige oder widersprüchliche Informationen stößt, versucht das System dennoch, das Muster fortzusetzen.
Das System bleibt nicht von Natur aus stehen und sagt: „Ich weiß es nicht.“
Forscher von OpenAI erklärten, dass Halluzinationen teilweise dadurch entstehen, dass Sprachmodelle die Vorhersage des nächsten Wortes optimieren und nicht die sachliche Überprüfung.
2. Trainieren Sie das Erraten von Belohnungen
Eine weitere wichtige Ursache liegt in der Art und Weise, wie Entwickler Modelle trainieren und bewerten.
Die meisten Benchmark-Tests belohnen richtige Antworten, bestrafen jedoch selbstsichere falsche Antworten nicht streng. Aufgrund dieser Bewertungsmethode lernen Systeme der künstlichen Intelligenz, dass Raten häufig bessere Ergebnisse liefert als das Eingeständnis von Unsicherheit.
Forscher verglichen dieses Verhalten mit Schülern, die eine schwierige Multiple-Choice-Prüfung ablegten. Ein Schüler, der rät, erhält manchmal zufällig Punkte. Ein Student, der Fragen leer lässt, erhält immer null Punkte.
Der gleiche Druck wirkt sich auf Systeme der künstlichen Intelligenz aus.
Laut einer von OpenAI Research veröffentlichten Studie reduzierten einige neuere Modelle Halluzinationen, indem sie unsichere Fragen häufiger ablehnten. Diese Untersuchung zeigte einen bemerkenswerten Unterschied:
- Ein Modell lieferte bei einem schwierigen Benchmark in 75 % der Fälle falsche Antworten
- Ein anderes Modell antwortete häufiger mit „Ich weiß nicht“ und reduzierte die Fehlerquote auf 26 %.
Diese Forschung legt nahe, dass Bewertungssysteme selbst Halluzinationen fördern.
3. Trainingsdaten enthalten Fehler und Widersprüche
Künstliche Intelligenzsysteme lernen aus riesigen Datensätzen, die gesammelt werden von:
- Websites
- Bücher
- Artikel
- Foren
- Code-Repositorys
- Soziale Medien.
Viele dieser Quellen enthalten:
- Falsche Behauptungen
- Veraltete Informationen
- Voreingenommene Meinungen
- Widersprüchliche Fakten
- Satire
- Spam
- Schreiben von geringer Qualität.
Aus all diesen Informationen übernimmt das Modell statistische Zusammenhänge.
Wenn in Trainingsdaten wiederholt widersprüchliche Informationen auftauchen, kann das Modell diese Informationsfragmente zu einer erfundenen Antwort kombinieren.
Zum Beispiel:
- Ein Artikel enthält ein falsches Datum
- Ein anderer Artikel erwähnt ein ähnliches Ereignis
- Das Modell kann beide Muster zu einer falschen Aussage verschmelzen.
Da das Modell nicht über menschliches Verständnis oder Faktenprüfungsbewusstsein verfügt, kann es zuverlässige Informationen nicht immer von unzuverlässigen Informationen trennen.
4. Seltene Fakten schaffen große Probleme
Künstliche Intelligenzsysteme funktionieren am besten bei gängigen Mustern, die während des Trainings häufig auftreten.
Seltene Fakten schaffen viel größere Schwierigkeiten.
Zum Beispiel:
- Berühmte historische Ereignisse tauchen millionenfach online auf
- Der Geburtstag eines Kleinstadtbürgermeisters darf nur einmal erscheinen.
Forscher erklären, dass sich seltene Fakten aus der Sicht des Modells nahezu zufällig verhalten. Das System kann diese Details nicht zuverlässig verallgemeinern, da in den Trainingsdaten nur begrenzte Beispiele vorhanden sind.
Besonders gravierend wird dieses Problem in den folgenden Bereichen:
- Medizin
- Gesetz
- Wissenschaftliche Forschung
- Technisches Ingenieurwesen
- Lokale Geschäftsinformationen
- Aktuelle Nachrichtenereignisse.
5. KI-Modelle versuchen, flüssig und hilfreich zu klingen
Entwickler trainieren Chatbots so, dass sie natürlich, gesprächig und nützlich klingen.
Dieses Training schafft ein weiteres Problem.
Würde ein Model häufig antworten: „Ich weiß nicht“, würden viele Nutzer dieses System als frustrierend oder unintelligent empfinden.
Daher optimieren Entwickler Systeme häufig für:
- Reibungsloses Gespräch
- Ausführliche Erläuterungen
- Schnelle Antworten
- Vertrauen
- Benutzerzufriedenheit.
Leider kann eine fließende Sprache falsche Informationen verbergen.
Mehrere Forscher argumentieren nun, dass Halluzinationen eine Nebenwirkung von Systemen sind, die für überzeugende Kommunikation statt für vorsichtige Unsicherheit optimiert sind.
6. Der künstlichen Intelligenz mangelt es an fundiertem Verständnis
Menschen verbinden Sprache mit:
- Körperliche Erlebnisse
- Emotionen
- Sensorischer Input
- Interaktion in der realen Welt.
Große Sprachmodelle erleben die Realität nicht direkt.
Ein Mensch versteht „Feuer“ teilweise durch:
- Hitze
- Gefahr
- Visuelles Gedächtnis
- Körperliche Interaktion.
Ein Sprachmodell erkennt nur Wortmuster, die mit „Feuer“ verbunden sind.
Aufgrund dieser Einschränkung generiert das System möglicherweise eine Sprache, die bedeutungsvoll erscheint, ohne die zugrunde liegende Realität wirklich zu verstehen.
Einige Forscher beschreiben dieses Problem als mangelnde „Erdung“.
7. Halluzinationen nehmen mit längeren Aufgaben zu
Neuere Untersuchungen zeigen, dass sich Halluzinationen bei langen Arbeitsabläufen oft verschlimmern.
Wenn Gespräche länger werden:
- Frühere Fehler breiten sich weiter aus
- Kleinere Ungenauigkeiten häufen sich
- Der Kontext wird schwieriger zu verfolgen
- Die inneren Widersprüche nehmen zu.
Microsoft-Forscher fanden heraus, dass die Leistung mit zunehmender Komplexität und Länge des Dokuments abnahm.
Dieses Problem kann auftreten, wenn:
- Erstellen langer Berichte
- Schreiben großer Softwareprogramme
- Durchführung ausgedehnter Forschungsgespräche
- Lange Dokumente zusammenfassen.
8. Probleme beim Abrufen von Informationen können Halluzinationen auslösen
Einige Systeme verbinden Sprachmodelle mit externen Datenbanken oder Suchmaschinen. Entwickler nennen diesen Ansatz Retrieval-Augmented Generation.
Diese Methode reduziert Halluzinationen, beseitigt sie jedoch nicht.
Probleme treten immer noch auf, wenn:
- Das Suchsystem ruft irrelevante Informationen ab
- Die abgerufenen Informationen enthalten Fehler
- Das Modell interpretiert die abgerufenen Daten falsch
- Der Datenbank fehlen aktualisierte Fakten.
Wenn das Abrufsystem beispielsweise zwei widersprüchliche Artikel findet, kann das Modell beide zu einer irreführenden Antwort kombinieren.
9. Reinforcement Learning kann Halluzinationen unbeabsichtigt verstärken
Entwickler optimieren Modelle oft mithilfe von menschlichem Feedback.
Menschliche Prüfer belohnen in der Regel Antworten, die hilfreich, vollständig, höflich oder selbstbewusst erscheinen.
Es kann jedoch sein, dass Gutachter nicht jede Tatsachenbehauptung sorgfältig prüfen.
Dieser Trainingsprozess kann Modellen unbeabsichtigt beibringen, überzeugender Kommunikation Vorrang vor strikter Genauigkeit zu geben.
Mehrere Forscher und Community-Diskussionen betonen dieses Problem wiederholt.
Warum wirken Halluzinationen manchmal äußerst überzeugend?
Halluzinationen durch künstliche Intelligenz erscheinen oft glaubwürdig, weil Sprachmodelle sich durch Grammatik, Struktur, Ton, Stilimitation und Kontextfluss auszeichnen.
Das System kann Folgendes produzieren:
- Akademische Sprache
- Fachsprache
- Professionelle Formatierung
- Detaillierte Zitate
- Logische Übergänge.
Selbst völlig erfundene Informationen können verbindlich klingen.
Diese Kombination erzeugt einen gefährlichen Effekt:
- Hohe Sprachkompetenz
- Hohes Selbstvertrauen
- Geringe sachliche Zuverlässigkeit.
Menschen vertrauen einer fließenden Sprache oft automatisch, insbesondere wenn die Antwort detailliert und professionell erscheint.
Halluzinationen verschwinden möglicherweise nie vollständig
Einige Forscher argumentieren nun, dass Halluzinationen in wahrscheinlichkeitsbasierten Sprachsystemen nicht vollständig beseitigt werden können.
In einer Forschungsarbeit aus dem Jahr 2025 wurde argumentiert, dass es immer Kompromisse zwischen Kreativität, Vollständigkeit, Vertrauen, Genauigkeit und Informationsabdeckung geben kann.
Wenn Entwickler ein Modell zwingen, alle möglichen Halluzinationen zu vermeiden, kann es sein, dass dieses Modell übermäßig vorsichtig wird und viele berechtigte Fragen ablehnt.
Wenn Entwickler detaillierte hilfreiche Antworten fördern, kann das Halluzinationsrisiko steigen.
Dieses Gleichgewicht schafft ein schwieriges technisches Problem.
Die Art und Weise, wie Unternehmen Halluzinationen reduzieren
Unternehmen der künstlichen Intelligenz nutzen verschiedene Strategien, um Halluzinationen zu reduzieren.
Bessere Informationsabrufsysteme
Entwickler verbinden Modelle mit:
- Suchmaschinen
- Verifizierte Datenbanken
- Interne Unternehmensdokumente
- Wissenschaftliche Archive.
Durch diese Erdungsmethode erhalten Modelle Zugriff auf aktuelle Sachinformationen.
Vertrauensschätzung
Einige Systeme versuchen, die Unsicherheit zu messen, bevor sie antworten.
Ein Modell kann:
- Lehnen Sie unsichere Fragen ab
- Stellen Sie weitere Fragen
- Vertrauenswarnungen anzeigen.
Verbesserung der Ausbildung
Entwickler trainieren zunehmend Modelle, um Unsicherheiten einzugestehen, Quellen zu zitieren, Ergebnisse zu überprüfen und Argumentationsschritte zu verwenden.
Menschliche Aufsicht
Viele Organisationen verlangen immer noch, dass Menschen Rechtsdokumente, medizinische Empfehlungen, Finanzanalysen und Forschungszusammenfassungen prüfen.
Die menschliche Aufsicht bleibt äußerst wichtig, da Halluzinationen immer noch unerwartet auftreten können.
Sie sollten künstliche Intelligenz als Assistenten und nicht als perfekte Autorität betrachten
Künstliche Intelligenzsysteme können bemerkenswerte Ergebnisse erzielen:
- Schreibunterstützung
- Codierungshilfe
- Übersetzung
- Forschungsunterstützung
- Zusammenfassung
- Brainstorming.
Dennoch sollten Sie wichtige Informationen unabhängig überprüfen.
Beim Einsatz künstlicher Intelligenz in diesen Bereichen sollten Sie besonders vorsichtig sein:
- Medizin
- Gesetz
- Finanzen
- Maschinenbau
- Akademische Forschung
- Sicherheitskritische Entscheidungen.
Halluzinationen entstehen, weil künstliche Intelligenzsysteme statistisch wahrscheinliche Sprachmuster erzeugen, anstatt die objektive Wahrheit direkt zu überprüfen. Diese Systeme können Wissen sehr gut nachahmen, aber Nachahmung ist nicht immer gleichbedeutend mit Genauigkeit.
Forscher verbessern weiterhin Zuverlässigkeit, Kalibrierung und Verifizierungsmethoden. Die Halluzinationsraten sind in vielen neueren Systemen zurückgegangen, aber dieses Problem ist immer noch eine wesentliche Einschränkung der modernen künstlichen Intelligenz.
