Erfahrungen aus meinem ersten KI-Telefonagenten-Projekt

Seit dem Frühjahr betreue ich mein erstes KI-Telefonagenten-Projekt im Echtbetrieb. Der Kunde ist ein inhabergeführter Fachbetrieb mit beratungsintensiven, hochpreisigen Produkten. Die Kundschaft ist überwiegend älter. Also genau die Zielgruppe, von der jeder behauptet: Die spricht doch nie mit einer KI. Sie tut es trotzdem. Die Assistentin nimmt rund um die Uhr ab, beantwortet Produktfragen, vereinbart Termine, nimmt Serviceanliegen auf und legt Rückrufe im System an.

Auf dem Weg dorthin habe ich rund 40 verschiedene Arten von Fehlern dokumentiert — die meisten davon in der Testphase, wo sie hingehören. Das Bemerkenswerte daran: Nicht eine einzige davon war „die KI ist zu dumm”. Fast alle waren Architekturfehler. Ich hatte der KI an einigen Stellen etwas zugetraut, was sie von ihrer Bauart her nicht leisten kann.

Mit diesem Beitrag beginne ich eine Reihe über diese Erfahrungen. Keine Theorie, keine Versprechen — echte Fälle, mit Ursache und Lösung. Den Anfang macht der Fehlertyp, vor dem ich heute den größten Respekt habe: erfundene Daten.

Fall 1: Die KI erfindet eine Telefonnummer — wegen eines Platzhalters

Ein Testanruf mit unterdrückter Rufnummer. Die Assistentin fragt nicht nach der Rückrufnummer — sie legt einen Datensatz an, mit einer vollständigen, plausiblen deutschen Handynummer. Die Nummer existiert. Sie gehört nur nicht dem Anrufer.

Die Ursache war ein einziger falsch geschriebener Platzhalter in der Konfiguration. Das System konnte ihn nicht ersetzen. Die KI sah also sinngemäß den Text „hier gehört die Nummer hin” — und tat, was eine KI dann tut: Sie füllte die Lücke. Überzeugend.

Das war die erste Lektion: Eine KI kennt kein „fehlt”. Es kennt nur „ich formuliere etwas Passendes”. Jede Lücke, die Sie offen lassen, wird gefüllt. Ein leeres Feld würde man sehen — die erfundene Nummer sieht niemand.

Fall 2: Erfundene Rufnummer trifft echte Kundendaten — das Datenschutzrisiko

Wie ernst so etwas werden kann, zeigte sich zum Glück ebenfalls in der Testphase — bevor echte Kunden mit dem System sprachen. Bei Anrufen über die Website wird technisch gar keine Rufnummer übertragen. Auch hier erfand die Assistentin eine Nummer. Diesmal lag sie tatsächlich in der Kundendatenbank: Die Assistentin hielt den Testanrufer prompt für einen anderen, echten Kunden — und sprach ihn mit dessen Namen an. In einer Datenbank mit 1.600 Personen ist eine „plausible” Nummer eben kein harmloser Zufall. Die Wahrscheinlichkeit für einen echten Treffer ist messbar.

Der Fall blieb ohne Folgen, weil er im geschützten Testrahmen passierte. Genau dafür ist eine Testphase da. Aber der Fall hat meinen Blick auf das Risiko verändert. Eine Halluzination ist kein Qualitätsproblem — sie ist ein Datenschutzrisiko, sobald erfundene Daten in ein echtes Kundensystem greifen. Wenn Sie eine Telefon-KI einsetzen oder einkaufen, stellen Sie Ihrem Dienstleister genau diese Frage: „Was passiert bei euch, wenn die KI sich eine Nummer ausdenkt?” Wer darauf keine technische Antwort hat, hat das Problem noch nicht verstanden. Mehr zu den Datenschutz-Grundlagen habe ich in einem eigenen Beitrag beschrieben.

Fall 3: Unterdrückte Rufnummer — warum die Prüfung trotzdem versagte

Der Fix für die unterdrückte Rufnummer war eingebaut, getestet, alles grün. Zwei Tage später brach es im nächsten Testdurchlauf trotzdem wieder. Die Assistentin behauptete, sie sehe die Nummer. Der Testanrufer entlarvte sie sofort: „Die ist doch unterdrückt — woher weißt du die?”

Die Ursache war ein technischer Sonderfall. Eine unterdrückte Rufnummer sieht im System nicht immer gleich aus — je nach Netz und Anrufweg gibt es mehrere Varianten. Unsere Prüfung kannte nur zwei davon. Die dritte rutschte durch und wurde wie eine gültige Nummer behandelt. Die Suche danach traf zufällig eine fremde Person in der Datenbank.

Die Lehre daraus: Solche Sonderfälle stehen in keinem Handbuch. Man findet sie nur durch gründliches Testen. Ein Anbieter, der so etwas noch nie erlebt hat, findet es erst bei Ihren echten Kunden. Fragen Sie im Gespräch deshalb ruhig: „Was macht das System, wenn jemand mit unterdrückter Nummer anruft?” An der Antwort merken Sie schnell, wie viel Praxis dahintersteckt. Bei uns gilt seitdem eine einfache Regel: Nur eine vollständige, echte Nummer zählt als Nummer. Alles andere wird behandelt, als wäre keine da. Der Fehler ist nie wieder aufgetreten.

Fall 4: Die KI erfindet Produkt- und Personennamen in CRM-Feldern

Erfunden werden nicht nur Nummern. Ein Anrufer wollte einen Servicetermin vereinbaren und nannte nicht, um welches Produkt es geht. Im Rückruf-Ticket stand danach trotzdem ein konkreter Produktname — passend ausgewählt aus der Wissensdatenbank. Ein anderes Mal fragte die Assistentin „Sprechen wir mit Herrn oder Frau …?”, ohne dass je eine Suche gelaufen wäre. Und aus einem undeutlich gesprochenen Wort machte sie einen Nachnamen, den es nie gab.

Das Muster ist immer dasselbe: Eine KI lässt ungern etwas offen. Wo ein leeres Feld ist, füllt sie es — ob der Inhalt stimmt oder nicht. Ein gutes System macht deshalb das Gegenteil: Es lässt lieber leer, was der Anrufer nicht gesagt hat.

Die Lösung war ein ausdrückliches Erfindungsverbot — nicht nur fürs Aussprechen, sondern auch fürs Schreiben in Felder. In einen Datensatz kommt kein Produkt- und kein Personenname, den der Anrufer nicht selbst genannt hat. Und ein aktiv erfragter Name wird einmal wiederholt und bestätigt, bevor der Datensatz entsteht.

Fall 5: Im Gespräch bestätigt, im CRM falsch gespeichert

Der subtilste Fall zum Schluss. Ein Anrufer buchstabiert seinen Nachnamen, Buchstabe für Buchstabe. Die Assistentin liest zurück, korrigiert sich, im Gespräch klingt alles richtig. In der E-Mail-Adresse steht der Name danach korrekt. Im Namensfeld steht eine andere Schreibweise.

Was war passiert? Die Korrektur wurde nur auf das Feld angewendet, das gerade „dran” war — nicht auf alle Felder, in denen derselbe Wert steckt. Für die KI war die Korrektur nur ein Moment im Gespräch — keine Änderung an den Daten.

Daraus ist meine wichtigste Abnahme-Regel geworden: Prüfen Sie nie das Gespräch. Prüfen Sie den Datensatz. Das empfehle ich jedem, der ein solches System abnimmt. Bei jeder Auswertung schaue ich zuerst in die Datenbank: Was wurde wirklich gespeichert? Wie gut sich das Gespräch angehört hat, kommt erst danach.

Was gegen erfundene Daten hilft: Struktur statt Anweisungen

Die naheliegende Reaktion auf all diese Fälle wäre: strengere Anweisungen schreiben. „Erfinde niemals Daten” — fett, ganz oben. Das habe ich versucht. Es hilft — aber es hält nicht zuverlässig. Eine KI befolgt Anweisungen mit Wahrscheinlichkeit, nicht mit Garantie.

Wirklich geholfen haben technische Sicherungen — Dinge, die ein guter Dienstleister von sich aus einbaut. Drei Beispiele aus unserem Projekt:

Die echte Anrufernummer kommt direkt aus der Telefonanlage in die Systeme — an der KI vorbei. Eine erfundene Nummer ist damit wirkungslos.
Ein Prüfschritt zwischen KI und Kundendatenbank verweigert das Anlegen eines Datensatzes ohne vollständige echte Nummer — freundlich, mit Rückweg ins Gespräch zur Nummernerfassung.
Felder, deren Inhalt nirgends belegt ist, bleiben leer. Leer ist sichtbar. Erfunden ist unsichtbar.

Sie müssen nicht verstehen, wie diese Sicherungen gebaut sind. Aber Sie dürfen erwarten, dass es sie gibt — und danach fragen.

Warum Anweisungen allein nicht reichen, ist ein eigenes Thema. Dem widme ich den nächsten Beitrag dieser Reihe.

Mein Fazit

Erfundene Daten sind kein Zeichen dafür, dass KI-Telefonassistenten nicht funktionieren. Die Assistentin, um die es hier geht, arbeitet heute zuverlässig — gerade weil diese Fälle gefunden, verstanden und gelöst wurden. Aber eines haben mir diese fünf Fälle deutlich gemacht: Die KI ist der Teil, der spricht — nicht der Teil, dem man die Kundendaten anvertraut. Bevor etwas in Ihrer Datenbank landet, muss es durch eine technische Kontrolle. Sich darauf zu verlassen, dass sich die KI schon an ihre Anweisungen hält, reicht nicht.

Falls Sie irgendwann einen Telefonagenten für Ihren Betrieb einrichten lassen, nehmen Sie eine Frage mit ins erste Gespräch mit dem Anbieter: Was landet in meinen Kundendaten, wenn ein Anrufer seine Nummer nicht nennt? Lassen Sie sich die Antwort zeigen, nicht nur erklären — am besten in der Testphase, bevor das System mit echten Kunden telefoniert. Genau an dieser unscheinbaren Stelle trennt sich eine hübsche Demo von einem System, dem man den eigenen Kundenstamm anvertrauen kann.