KI-Halluzinationen im Kundenservice: Warum sie entstehen und wie Sie Ihre Kunden schützen
Eine Halluzination ist eine Antwort, die überzeugend klingt, aber nicht stimmt. Im Kundenservice kann daraus eine falsche Zusage werden, für die Ihr Unternehmen einstehen muss. So entstehen Halluzinationen und so halten Sie sie von Ihren Kunden fern.
Das Wichtigste in Kürze
- Sprachmodelle formulieren die wahrscheinlichste Antwort, nicht die geprüfte. Deshalb können sie Fakten erfinden.
- Auch Bots mit eigener Wissensbasis halluzinieren, etwa wenn Informationen fehlen oder widersprüchlich sind.
- Wirksamer Schutz: Jede Antwort wird vor der Ausgabe gegen freigegebenes Wissen geprüft. Was nicht belegt ist, wird nicht gesagt.
- Zusätzlich nach jeder Änderung testen, ob der Schutz noch greift.
Was ist eine KI-Halluzination?
Große Sprachmodelle erzeugen Text, indem sie Wort für Wort die wahrscheinlichste Fortsetzung wählen. Sie „wissen“ nicht, ob eine Aussage stimmt. Fehlt eine Information oder ist die Frage mehrdeutig, entsteht trotzdem eine flüssige Antwort. Genau das nennt man Halluzination: eine erfundene Aussage, die echt klingt.
Warum auch Bots mit eigener Wissensbasis halluzinieren
Viele Unternehmen geben ihrem Bot Dokumente wie AGB, Preislisten oder FAQs mit (Retrieval Augmented Generation, kurz RAG). Das senkt das Risiko deutlich, beseitigt es aber nicht:
- Die passende Information wird nicht gefunden, und das Modell füllt die Lücke.
- Zwei Dokumente widersprechen sich, etwa alte und neue Preisliste.
- Das Modell vermischt korrekte Informationen zu einer falschen Aussage.
- Ein Kunde formuliert geschickt oder setzt den Bot unter Druck.
Im Fall des OLG Hamm ließ das Gericht das Argument nicht gelten, der Bot sei mit korrekten Daten trainiert worden.
Welche Halluzinationen im Kundenservice teuer werden
- erfundene Rabatte, Preise oder Gebührenbefreiungen
- falsche Fristen für Widerruf, Kündigung oder Rückgabe
- Garantien oder Kulanz, die es nicht gibt
- Produkteigenschaften, Zertifikate oder Qualifikationen, die nicht stimmen
So verhindern Sie, dass Halluzinationen Kunden erreichen
1. Doppelte Prüfung vor der Ausgabe
Die KI formuliert eine Antwort. Bevor sie gesprochen oder geschrieben wird, wird jede Aussage gegen die freigegebenen Inhalte des Unternehmens geprüft. Nur belegte Aussagen werden freigegeben. Bei allem anderen wird auf das Team verwiesen. So arbeitet das Amira-Sprachmodell, am Telefon ohne spürbare Verzögerung.
2. Klare Grenzen
Legen Sie fest, zu welchen Themen der Bot überhaupt Auskunft geben darf, und wann er an Menschen übergibt.
3. Laufend testen
Prüfen Sie nach jeder Änderung mit einem festen Katalog von Testfragen, ob der Bot noch richtig antwortet. Mehr dazu unter Chatbot testen.
Wichtig: Kein Sprachmodell halluziniert von sich aus nie. Entscheidend ist, was geprüft wird, bevor eine Antwort Ihre Kunden erreicht.
Häufige Fragen
Gibt es eine halluzinationsfreie KI?
Sprachmodelle selbst können immer Fehler erzeugen. Man kann aber verhindern, dass ungeprüfte Aussagen ausgegeben werden, indem jede Antwort vor der Ausgabe gegen freigegebenes Wissen geprüft wird.
Reicht eine Wissensbasis (RAG) als Schutz?
Sie senkt das Risiko, verhindert Halluzinationen aber nicht vollständig. Eine zusätzliche Prüfung vor der Ausgabe und regelmäßige Tests schließen die Lücke.
Macht die doppelte Prüfung den Bot langsamer?
Beim Amira-Sprachmodell ist die Prüfung so gebaut, dass sie auch am Telefon ohne spürbare Verzögerung läuft.
Rainer Wilmers, KI-Experte und Geschäftsführer der AC Group. Die AC Group prüft seit 1995 Servicequalität im Kundenservice und betreibt die KI-Plattform Amira.