Im Bereich der
Künstlichen Intelligenz (KI) ist eine
Halluzination (alternativ auch
Konfabulation genannt) ein überzeugend formuliertes Resultat einer KI, das nicht durch Trainingsdaten gerechtfertigt zu sein scheint und objektiv falsch sein kann.
[1]
Solche Phänomene werden in Analogie zum Phänomen der
Halluzination in der menschlichen Psychologie als von
Chatbots erzeugte
KI-Halluzinationen bezeichnet. Ein wichtiger Unterschied ist, dass menschliche Halluzinationen meist auf falschen Wahrnehmungen der menschlichen Sinne beruhen,
während eine KI-Halluzination ungerechtfertigte Resultate als Text oder Bild erzeugt. Prabhakar Raghavan, Leiter von
Google Search, beschrieb Halluzinationen von Chatbots als überzeugend formulierte, aber weitgehend erfundene Resultate.
[2] Der spezifische Begriff
KI-Halluzination kann Computer unangemessen vermenschlichen.