Eine Kundenanfrage wartet auf Antwort. Der AI-Assistent formuliert eine Kulanzzusage, obwohl die gültige Regel für diesen Fall nicht vorliegt. Der Text klingt verbindlich. Für das Unternehmen entsteht daraus möglicherweise eine Verpflichtung, die niemand bewusst eingehen wollte.
Das ist eine illustrative Situation, kein Kundenfall. Sie zeigt aber eine Entscheidung, die vor dem Einsatz eines Assistenten geklärt sein muss: Darf das System fehlende Geschäftsregeln durch eine plausible Antwort ersetzen?
Meine Antwort ist nein. Wenn eine notwendige Grundlage fehlt, muss der Assistent diese Lücke benennen, gezielt nachfragen oder den Fall weitergeben. Eine unbeantwortete Frage kann vorerst die richtige Leistung sein. Entscheidend ist, ob die Arbeit danach kontrolliert weitergeht.
Eine hohe Antwortquote ist kein Qualitätsnachweis
Eine 2026 in Nature veröffentlichte Arbeit macht den Zielkonflikt sichtbar. In einem definierten SimpleQA-Test mit 4.326 kurzen Faktenfragen lieferte das Modell o4-mini bei 76,8 % aller Testfragen falsche Antworten. Nur 2,6 % blieben unbeantwortet. Das sind Ergebnisse dieses konkreten Modelltests mit festgelegten Einstellungen. Sie sind keine Fehlerquote für heutige AI-Assistenten im Unternehmen und kein Vergleich ihrer Kundenservicequalität. 1
Die wichtigere Aussage der Arbeit betrifft die Bewertung: Wer ausschließlich richtige Antworten belohnt und Nichtantworten genauso behandelt wie falsche Antworten, kann Raten begünstigen. Für einen Betrieb ist dieser Unterschied wesentlich. Eine Rückfrage kostet Zeit. Eine erfundene Vertragsauslegung kann eine ganz andere Folge haben.
Ich würde deshalb keine möglichst hohe Antwortquote zum alleinigen Ziel machen. Die fachliche Leitung muss festlegen, welche Unsicherheit bei welcher Aufgabe vertretbar ist. Ein interner Ideenentwurf braucht andere Grenzen als eine Zusage an einen Kunden.
Nicht die Formulierung, sondern die Grundlage prüfen
Im Kulanzbeispiel genügt es nicht, dass der Assistent ein Dokument gefunden hat. Es muss für die betroffene Kundengruppe gelten, aktuell sein und die betreffende Ausnahme tatsächlich abdecken. Ein allgemeiner Hinweis zur Kundenorientierung ist keine Ermächtigung, eine konkrete Leistung zuzusagen.
Fehlt nur eine Angabe zur Bestellung, kann eine gezielte Rückfrage den Fall klären. Widersprechen sich zwei gültig erscheinende Regelstände, braucht es dagegen eine fachliche Entscheidung. Ist eine Quelle nicht zugänglich, darf das System daraus weder eine Erlaubnis noch ein Verbot ableiten. Es darf auch keine Zugriffsbeschränkung umgehen, um die Antwort dennoch zu liefern.
Die Ausgabe sollte verständlich machen, welche Grundlage fehlt und was als Nächstes passiert. Eine allgemeine Warnung unter einer trotzdem verbindlichen Zusage hilft wenig. Der Assistent kann bereits belegte Informationen zusammenfassen. Die offene Entscheidung muss er offenlassen.
Der freiwillige US-Referenzrahmen NIST AI 600-1 von 2024 stützt diese Arbeitsweise. Er empfiehlt, Quellen und Zitate vor dem Einsatz sowie im laufenden Monitoring zu prüfen und die Datenherkunft zu verifizieren. Sichere Systeme sollen auch außerhalb ihrer Wissensgrenzen sicher scheitern können. Das ist eine Orientierung für Gestaltung und Prüfung, keine Zertifizierung und keine Rechtsgarantie. 2
Testen Sie Fälle, die nicht beantwortet werden dürfen
Zuerst würde ich einen eng begrenzten Prozess auswählen. Für diesen Prozess legt die fachlich verantwortliche Person die zulässigen Grundlagen und das erwartete Verhalten fest. Dann wird der Assistent in einer abgeschirmten Testumgebung mit Fällen geprüft, bei denen eine direkte Antwort ausdrücklich falsch wäre:
- ◆Die maßgebliche Regel fehlt. Das System benennt die Lücke, statt eine Regel zu erfinden.
- ◆Zwei Quellen widersprechen sich. Der Fall geht an die benannte fachliche Stelle.
- ◆Nur eine abgelaufene Regel ist verfügbar. Sie wird nicht als aktuelle Grundlage verwendet.
- ◆Eine entscheidende Fallangabe fehlt. Der Assistent fragt genau diese Angabe nach.
Daneben gehören regulär beantwortbare Fälle in den Test. Sonst könnte ein System bestehen, das jede Frage ablehnt und im Betrieb kaum hilft. Geprüft werden somit falsche Zusagen, berechtigte Rückfragen und unnötige Ablehnungen. Wie schwer diese Fehler wiegen, entscheidet die Geschäftsleitung anhand der Folgen des jeweiligen Prozesses, nicht anhand einer allgemeinen Benchmarkquote.
Zur Übergabe gehört mehr als ein Hinweis auf einen Menschen. Die zuständige Rolle muss feststehen, den Fall tatsächlich erhalten und die offene Frage mit ihrem Kontext sehen können. Für ausbleibende Bearbeitung braucht es einen vereinbarten Rückfallweg. Bei einer folgenreichen Zusage bleibt die Ausführung bis zur Klärung gesperrt. Diese Festlegungen werden nach Änderungen an Regeln, Quellen oder Modell erneut geprüft.
Das ist ein kleiner, konkreter Baustein eines steuerbaren AI Operating Systems. Wenn solche Entscheidungsregeln über mehrere Prozesse hinweg erst festgelegt und priorisiert werden müssen, kann der Executive AI Transformation Blueprint die dafür nötige Managementarchitektur schaffen. Der dreiwöchige Blueprint plant Verantwortlichkeiten, Kontrollen und Umsetzung. Er ersetzt nicht den anschließenden Test im Betrieb.
Im nächsten Review würde ich daher nicht nur fragen, wie viele Anfragen der Assistent beantwortet. Ich würde mir einen Fall zeigen lassen, den er begründet offengelassen hat und prüfen, ob dieser Fall bei der richtigen Stelle angekommen ist.