Was ist Halluzination / Delusion

Definition

Unter einer Halluzination (oder Delusion) bei künstlicher Intelligenz versteht man das Phänomen, dass ein generatives Modell Antworten liefert, die zwar plausibel und grammatikalisch korrekt klingen, jedoch sachlich falsch, unlogisch oder frei erfunden sind.

Erklärung

Im geschäftlichen B2B-Kontext und bei SaaS-Lösungen stellen Halluzinationen ein erhebliches Risiko dar, da fehlerhafte Informationen das Vertrauen der Kunden beschädigen oder zu falschen strategischen Entscheidungen führen können. Sie entstehen meist, weil Large Language Models (LLMs) auf Basis von Wahrscheinlichkeiten das nächste Wort vorhersagen, anstatt ein echtes Verständnis von Fakten zu besitzen. Typische Beispiele sind erfundene Produktfeatures, falsche Preise oder fiktive Fallstudien. Um dieses Risiko im Vertrieb zu minimieren, setzen Unternehmen auf Methoden wie Grounding, Retrieval Augmented Generation (RAG) oder die Implementierung von Guardrails. Ein professionelles Monitoring und der Einsatz von Test-Frameworks sind daher essenziell für die Implementierung vertrauenswürdiger KI-Systeme.