KI-Halluzinationen sind längst kein theoretisches Problem mehr. Wenn ein Chatbot eine Rückgabefrist erfindet, ein Textgenerator eine Studie zitiert, die es nie gab, oder ein Telefonassistent eine falsche Öffnungszeit nennt, dann hat dein Unternehmen eine falsche Aussage gemacht — nicht die KI. Rechtlich und beim Kunden bist du der Absender.
Und das betrifft inzwischen die Mehrheit. Laut der Bitkom-Erhebung vom September 2026 setzen 57 Prozent der Unternehmen ab 20 Beschäftigten in Deutschland KI ein — nach 36 Prozent im Vorjahr und 20 Prozent im Jahr 2024. Die Nutzung hat sich in zwei Jahren fast verdreifacht. Die Prüfprozesse haben in den seltensten Fällen mitgehalten.
Die entscheidende Frage ist deshalb nicht mehr “Nutzen wir KI?”, sondern: Wer schaut drauf, bevor der Output das Haus verlässt?
Was eine Halluzination eigentlich ist
Von einer Halluzination spricht man, wenn ein KI-System Informationen erzeugt, die plausibel klingen, aber falsch oder frei erfunden sind. Das Modell “weiß” nicht, dass es danebenliegt — es erzeugt die statistisch wahrscheinlichste Wortfolge, ohne Wahrheitsbezug. Das betrifft Sprachmodelle wie ChatGPT genauso wie Chatbots, Voice Agents und automatisierte Content-Tools.
Besonders tückisch: Halluzinationen kommen selten als offensichtlicher Unsinn daher. Sie sind sauber formuliert, mit Zahlen, Paragrafen und Quellenangaben garniert. Genau diese Oberfläche macht sie gefährlich — der Fehler sieht aus wie ein Ergebnis.
Ein Muster, das sich in der Praxis immer wieder zeigt: Je spezifischer die Frage und je dünner die Datenlage, desto selbstbewusster wird die Erfindung. Nach einer Rückgabefrist gefragt, die nirgends hinterlegt ist, antwortet ein Modell im Zweifel nicht “weiß ich nicht”, sondern nennt “14 Tage” — weil das die häufigste Zahl im Trainingsmaterial ist.
Typische Fälle aus dem Unternehmensalltag
- Ein Kundenservice-Chatbot erfindet eine Rückgabefrist, die es so nicht gibt
- Ein Textgenerator zitiert eine Studie, die nie existiert hat
- Ein KI-Tool berechnet einen Preis oder Rabatt falsch
- Ein Voice Agent nennt eine falsche Öffnungszeit am Telefon
- Eine KI-gestützte Recherche liefert Rechtsvorschriften, die niemand erlassen hat
Der letzte Punkt ist kein Randfall. Erfundene Paragrafen und frei halluzinierte Fundstellen gehören zu den am besten dokumentierten Fehlerbildern generativer KI überhaupt — bis hin zu Gerichtsverfahren, in denen Anwälte nicht existierende Urteile eingereicht haben.
Warum es gerade kleine Unternehmen trifft
Große Konzerne leisten sich Teams, die KI-Output systematisch gegenprüfen. Im Mittelstand macht das die Person, die ohnehin schon drei Rollen hat. Dabei ist der Druck dort oft höher: KI soll Personalengpässe auffangen und Prozesse beschleunigen — also wird sie genau dort eingesetzt, wo wenig Zeit zum Nachprüfen bleibt.
So entsteht die eigentliche Lücke: zwischen dem Tempo der Automatisierung und der Geschwindigkeit der Qualitätssicherung. Wer keinen definierten Prüfschritt hat, merkt Fehler nicht etwa später — sondern meistens gar nicht. Der Kunde, der eine falsche Zusage bekommen hat, beschwert sich selten. Er geht.
Die Folgekosten sind real und sortieren sich in vier Gruppen:
- Vertrauensverlust, wenn eine Zusage nicht hält, die dein Unternehmen nie machen wollte
- Rechtliche Risiken bei falschen Preis-, Garantie- oder AGB-Aussagen — eine automatisiert erteilte Auskunft bindet dich unter Umständen
- Nacharbeit, die regelmäßig teurer ist als die eingesparte Erstellungszeit
- Reputationsschäden über Bewertungen und Social Media, die lange sichtbar bleiben
Wer hier haftet, wenn ein autonom arbeitendes System einen Fehler macht, ist eine eigene Frage — die wir im Beitrag KI-Agenten im Unternehmen: Wer haftet, wenn sie einen Fehler machen? ausführlich behandeln.
Nicht jeder KI-Einsatz braucht die gleiche Prüfung
Der häufigste Fehler bei der Qualitätssicherung ist, alles gleich streng zu behandeln. Das kostet so viel Zeit, dass der Prozess nach drei Wochen stillschweigend einschläft. Sinnvoller ist eine Einteilung nach Risiko:
| Risikostufe | Beispiel | Prüfung |
|---|---|---|
| Niedrig | Interner Textentwurf, Brainstorming, Rohfassung | Stichprobe, Prüfung durch den Nutzer selbst |
| Mittel | Blogtext, Social-Media-Post, Newsletter | Vier-Augen-Prinzip vor Veröffentlichung |
| Hoch | Preis- und Fristauskunft, Vertragstext, Kundenantwort | Freigabe durch eine benannte Person, immer |
| Kritisch | Rechtliche Aussage, medizinische oder finanzielle Auskunft | Fachliche Freigabe, KI nur als Entwurf |
Die Logik dahinter: Prüfaufwand folgt dem Schaden, nicht dem Volumen. Ein intern genutzter Entwurf darf Fehler enthalten — die fallen beim Weiterarbeiten auf. Eine automatisierte Antwort an einen Kunden hat keine zweite Instanz mehr hinter sich.
Der schlanke Prüfprozess: drei Schritte
Schritt 1: Zuständigkeit festlegen, bevor das Tool live geht
Bevor ein KI-Tool produktiv geschaltet wird, muss feststehen, wer die Ausgaben kontrolliert. Eine feste Person oder ein rotierendes Prinzip mit Stichproben — beides funktioniert. Was nicht funktioniert, ist “das schaut sich dann jemand an”. Ohne benannte Zuständigkeit bleibt die Prüfung liegen, und zwar ausgerechnet in den Wochen, in denen viel los ist.
Schritt 2: Technisch absichern, statt nur zu kontrollieren
Prüfen allein ist Symptombehandlung. Wirksamer ist, die Erfindung von vornherein unwahrscheinlicher zu machen. Der zentrale Hebel heißt Retrieval-Augmented Generation (RAG): Die KI antwortet nicht aus ihrem Allgemeinwissen, sondern auf Basis deiner hinterlegten Unternehmensdaten — Preisliste, AGB, Öffnungszeiten, Produktdatenblätter.
Das verschiebt die Fehlerquelle an eine Stelle, die du kontrollieren kannst: Wenn die hinterlegte Preisliste stimmt, nennt der Assistent den richtigen Preis. Wie das praktisch funktioniert, steht im Beitrag ChatGPT mit eigenen Unternehmensdaten verbinden. Genau auf diesem Prinzip arbeitet auch unser KI-Web-Assistent.
Dazu kommen Leitplanken im Prompt. Viele Halluzinationen entstehen durch zu offene Anweisungen. Eine klare Grenze — “Antworte ausschließlich auf Basis der folgenden Daten. Wenn die Information dort nicht steht, sage das” — reduziert erfundene Inhalte spürbar. Mehr dazu im Artikel zu Prompt Engineering für KMU.
Schritt 3: Den Prüfschritt in den Ablauf einbauen, nicht dahinter
Viele Unternehmer befürchten, dass gründliches Prüfen den Effizienzgewinn wieder auffrisst. Das stimmt genau dann, wenn die Prüfung als nachgelagerter Block organisiert ist. Gut geplante Workflow-Automatisierung integriert sie stattdessen in den Prozess:
- Die KI erstellt einen Entwurf — Text, Antwort, Angebot
- Das System markiert kritische Passagen automatisch: Zahlen, Fristen, Preise, Rechtsverweise
- Ein Mitarbeitender prüft nur die markierten Stellen, nicht den gesamten Text
- Erst nach Freigabe geht der Inhalt an den Kunden
Der Unterschied ist erheblich. Einen 800-Wörter-Text vollständig gegenzulesen dauert mehrere Minuten; vier markierte Zahlen zu verifizieren dauert unter einer Minute. Das Tempo der Automatisierung bleibt erhalten, die riskanten Stellen sind trotzdem abgedeckt. Weitere Beispiele für solche Abläufe findest du unter 5 Prozesse, die jedes kleine Unternehmen automatisieren sollte.
Vor dem Live-Betrieb: der Testlauf
Bevor ein Chatbot oder KI-Telefonassistent mit echten Kunden spricht, gehört er auf einen systematischen Prüfstand. Nicht “einmal durchklicken”, sondern gezielt die Fragen stellen, bei denen Erfindungen wahrscheinlich sind: Preise, Fristen, Sonderfälle, Dinge, die nirgends hinterlegt sind.
Besonders aufschlussreich sind Fragen, auf die es keine richtige Antwort gibt. Ein gut konfiguriertes System sagt “das kann ich nicht beantworten, ich verbinde dich weiter”. Ein schlecht konfiguriertes erfindet etwas. Dieser eine Test trennt die beiden Fälle zuverlässiger als jede Hochglanz-Demo. Am Telefon wiegt das doppelt, weil Gesagtes weder korrigierbar noch nachlesbar ist — mehr dazu im Beitrag KI-Kundenservice: Wie Voice Agents KMU rund um die Uhr erreichbar machen.
Ein Hinweis zum Schluss, der oft übersehen wird: Der größte unkontrollierte Risikobereich ist meist gar nicht das offiziell eingeführte Tool, sondern die private ChatGPT-Nutzung im Team — ohne Leitplanken, ohne Prüfung, ohne dass jemand davon weiß. Warum das so verbreitet ist und was dagegen hilft, steht im Beitrag Schatten-KI im Unternehmen.
Wo du anfangen solltest
Wenn du nicht weißt, wo in deinem Unternehmen KI-Output ungeprüft nach außen geht, ist das selbst schon der erste Befund. Geh einmal durch: Welche Texte, Antworten und Auskünfte entstehen heute mit KI-Unterstützung? Welche davon erreichen einen Kunden, ohne dass ein Mensch sie gesehen hat? Diese Liste ist in den meisten Betrieben länger als erwartet.
Wenn du dabei Unterstützung willst — bei der Risikoeinstufung, beim Aufsetzen des Prüfprozesses oder bei einem Assistenten, der auf deinen echten Daten statt auf Vermutungen arbeitet: Schreib mir kurz, dann schauen wir uns deinen Fall gemeinsam an. Wenn du zusätzlich wissen willst, wie deine Website technisch dasteht, ist der kostenlose Website-Audit ein guter Einstieg.
FAQ
Was sind KI-Halluzinationen?
KI-Halluzinationen sind Ausgaben eines KI-Systems, die plausibel klingen, aber falsch oder frei erfunden sind. Das Modell erzeugt die statistisch wahrscheinlichste Wortfolge, ohne zu prüfen, ob die Aussage stimmt. Typisch sind erfundene Zahlen, Fristen, Studien oder Rechtsvorschriften — meist sauber formuliert und dadurch schwer zu erkennen.
Lassen sich KI-Halluzinationen vollständig vermeiden?
Nein. Es gibt keine Konfiguration, die Halluzinationen zu hundert Prozent ausschließt, weil sie in der Funktionsweise generativer Modelle angelegt sind. Das Risiko lässt sich aber deutlich senken: durch den Zugriff auf geprüfte eigene Daten statt auf Allgemeinwissen, durch klare Leitplanken im Prompt und durch einen Prüfschritt vor der Veröffentlichung.
Wer haftet, wenn ein Chatbot einem Kunden eine falsche Auskunft gibt?
In der Regel das Unternehmen, das den Chatbot betreibt — nicht der Anbieter des KI-Modells. Eine über deine Website erteilte Auskunft wird dir zugerechnet. Deshalb gehören Preis-, Frist- und Garantieaussagen in die höchste Prüfstufe und sollten technisch an hinterlegte Daten gebunden sein.
Wie viel Zeit kostet ein sinnvoller Prüfprozess?
Weniger als die meisten befürchten, wenn er nach Risiko gestaffelt ist und kritische Passagen automatisch markiert werden. Statt einen vollständigen Text gegenzulesen, prüfst du gezielt die markierten Zahlen und Fristen. Das dauert in der Praxis oft unter einer Minute pro Entwurf.
Hilft es, die KI nach ihren Quellen zu fragen?
Teilweise. Die Aufforderung, Quellen zu nennen oder unsichere Aussagen zu kennzeichnen, macht Zweifelsfälle leichter auffindbar. Verlassen darfst du dich darauf nicht: Auch Quellenangaben können erfunden sein. Jede genannte Quelle, die als Beleg dienen soll, muss einmal tatsächlich aufgerufen werden.
Was ist der schnellste erste Schritt?
Eine Bestandsaufnahme: Liste auf, an welchen Stellen KI-generierte Inhalte heute ohne menschliche Kontrolle nach außen gehen. Alles, was Preise, Fristen oder rechtliche Aussagen enthält, bekommt sofort eine benannte Freigabe. Den Rest kannst du anschließend in Ruhe staffeln.
