Shopify
Stripe
Slack
Notion
Google Workspace
Confluence
KI-Halluzination
Definition
Eine KI-Halluzination liegt vor, wenn ein Sprachmodell eine Antwort erzeugt, die flüssig und selbstbewusst klingt, sachlich aber falsch oder frei erfunden ist — mit Details, Richtlinien oder Quellen, die es nicht gibt.
So entsteht sie
Sprachmodelle erzeugen Text, indem sie plausible Fortsetzungen vorhersagen, nicht indem sie Fakten nachschlagen. Fehlt dem Modell die richtige Information, kann es trotzdem eine überzeugend klingende Antwort produzieren, die schlicht erfunden ist — denn plausibel zu klingen und richtig zu sein sind für das Modell zwei verschiedene Dinge.
Im Support kann eine Halluzination eine ausgedachte Rückgabefrist sein, eine nicht existierende Funktion oder ein erfundener Lösungsschritt, vorgetragen, als wäre er offizielle Richtlinie.
Warum sie für den Support wichtig ist
Halluzinationen sind das zentrale Risiko beim Einsatz generativer KI gegenüber Kunden, denn eine falsche Antwort untergräbt Vertrauen oder schafft Haftungsrisiken. Die wichtigsten Abwehrmittel sind, das Modell an Ihre echten Inhalte zu binden und einzugrenzen, was es sagen darf.
- Retrieval-Augmented Generation — Antworten in Ihrer tatsächlichen Wissensdatenbank verankern
- Guardrails — begrenzen, was der Agent behaupten oder tun darf
- Saubere Übergabe an einen Menschen, wenn der Agent unsicher ist
Häufig gefragt
Warum halluzinieren KI-Modelle?
Weil sie statistisch plausiblen Text erzeugen, statt geprüfte Fakten abzurufen. Fehlt ihnen die richtige Information, füllen sie die Lücke mitunter mit einer selbstbewussten, aber erfundenen Antwort.
Wie verhindert man KI-Halluzinationen im Kundenservice?
Verankern Sie Antworten mit RAG in Ihren echten Wissensquellen, ergänzen Sie Guardrails, die begrenzen, was die KI sagen darf, halten Sie die Dokumentation sauber und aktuell und übergeben Sie an einen Menschen, wenn die Sicherheit gering ist.
Verwandte Begriffe
Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein KI-Modell zur Laufzeit relevante Informationen aus Ihren eigenen Wissensquellen abruft und seine Antwort darauf stützt, statt sich allein auf das zu verlassen, was es im Training gelernt hat..
Grounding
Grounding ist die Praxis, die Antworten eines KI-Modells an geprüftes Quellmaterial zu binden — Ihre Dokumentation, Live-Daten oder Wissensdatenbank —, damit Antworten reale Fakten wiedergeben statt eigener Vermutungen des Modells..
KI-Guardrails
KI-Guardrails sind die Regeln, Prüfungen und Beschränkungen rund um ein KI-System, die sein Verhalten sicher, beim Thema und innerhalb der Richtlinien halten — sie steuern, was es sagen und tun darf und worauf es zugreifen kann..
Konfidenzwert
Ein Konfidenzwert ist ein Wert, den ein KI-System einer Vorhersage oder Antwort zuweist und der schätzt, wie wahrscheinlich sie richtig ist — die Grundlage für die Entscheidung, ob die KI automatisch handelt, nachfragt oder an einen Menschen übergibt..
Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein neuronales Netz, das auf riesigen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen – dadurch kann es Fragen verstehen, zusammenfassen, klassifizieren und menschenähnliche Antworten schreiben..
Setzen Sie diese Ideen ein
Macha ist eine KI-Agent-Schicht, die auf dem Help Desk sitzt, den Sie schon nutzen, Zendesk, Freshdesk, Front, Intercom oder Gorgias.
Trial starten