Ein gut geplanter Ablauf erkennt solche Ausnahmen und übergibt sie mit den nötigen Informationen an eine zuständige Person. Für Unternehmen ist diese Übergabe ein wichtiger Teil der Einführung solcher Systeme: Sie macht sichtbar, wo der Agent weiterarbeiten kann und wo menschliche Entscheidungen oder zusätzliche Informationen gebraucht werden.
Schnellantwort: Eine Übergabe an Menschen ist sinnvoll, wenn Angaben fehlen, Quellen widersprüchlich sind, eine benötigte Berechtigung oder Freigabe fehlt oder ein technischer Fehler eine sichere Fortsetzung verhindert. Entscheidend sind klare Auslöser, ein zuständiges Team, ein nachvollziehbarer Arbeitsstand und Regeln für die Fortsetzung.
Was bedeutet Eskalation bei einem KI-Agenten?
Eine Eskalation ist die geregelte Weitergabe eines Vorgangs, den ein KI-Agent innerhalb seiner festgelegten Grenzen nicht selbst abschließen kann. Je nach Prozess kann der Agent vorher nachfragen, einen Entwurf sichern oder den Fall unmittelbar an Mitarbeitende übergeben.
Ein Beispiel aus dem Kundenservice: Eine Kundin fragt nach der Lieferzeit. Ist die Information aktuell und zugänglich, kann ein Agent eine Antwort vorbereiten oder innerhalb festgelegter Regeln beantworten. Ist der Auftragsstatus unklar, benötigt das Team möglicherweise eine Prüfung im Fachsystem.
Die konkrete Gestaltung hängt von der Aufgabe und den Folgen einer falschen Handlung ab. Eine Eskalation kann bei einer fehlenden Angabe genügen; eine verbindliche Bestellung verlangt möglicherweise eine zusätzliche fachliche Freigabe. Solche Regeln sollten Unternehmen vor dem produktiven Einsatz festlegen und testen.
Human-in-the-Loop: Mensch und KI arbeiten zusammen
Künstliche Intelligenz kann Teams bei wiederkehrenden Aufgaben unterstützen. Human-in-the-Loop beschreibt einen Ablauf, bei dem ein Mensch an einem vorgesehenen Punkt eingebunden wird. Das kann eine fachliche Prüfung, eine Rückfrage oder die Entscheidung über eine kritische Aktion sein. Welche Aufgaben die digitalen Assistenten übernehmen, wie viel Autonomie sie erhalten und wann die Automatisierung anhält, hängt von der Anwendung ab.
Eine Kontrolle durch Mitarbeitende wirkt nur, wenn die zuständige Person genügend Kontext, Zeit und eine tatsächliche Entscheidungsmöglichkeit hat. Ein automatisch angezeigter Hinweis allein ist keine wirksame Freigabe. Der Mensch muss einen Vorgang ablehnen, korrigieren oder an eine andere Stelle weitergeben können.
Welche Situationen sollten KI-Agenten an Menschen übergeben?
Nicht jeder Sonderfall braucht denselben Ablauf. Die folgende Tabelle zeigt typische Auslöser und mögliche Reaktionen. Sie ist eine Planungshilfe und keine Liste allgemeingültiger gesetzlicher Pflichten.
| Situation | Beispiel | Mögliche Reaktion |
|---|---|---|
| Pflichtangabe fehlt | Lieferadresse oder Artikelnummer fehlt | Gezielte Rückfrage; bei ausbleibender Antwort an zuständiges Team. |
| Quellen widersprechen sich | Zwei Preislisten nennen unterschiedliche Beträge | Entwurf kennzeichnen und fachliche Prüfung anfordern. |
| Berechtigung fehlt | Agent darf Vertragsdaten nicht lesen | Zugriff verweigern und zuständige Stelle informieren; keine Rechte eigenständig ausweiten. |
| Aktion benötigt Freigabe | Angebot überschreitet eine intern definierte Rabattgrenze | Konkrete Fassung zur Prüfung vorlegen und Versand bis zur Freigabe sperren. |
| Technischer Fehler | Schnittstelle antwortet nicht oder liefert einen unklaren Status | Vorgang stoppen, Status prüfen und verantwortliches Team benachrichtigen. |
| Kundenwunsch | Eine Person verlangt ausdrücklich eine menschliche Ansprechperson | An den passenden Kontaktkanal oder das Serviceteam übergeben. |
Fehlende Informationen gezielt nachfordern
Bei einer fehlenden Lieferadresse kann eine Rückfrage an die Kundin ausreichen. Fehlen dagegen wesentliche Angaben zu einem ungewöhnlichen Produkt oder widersprechen sich vorhandene Dokumente, sollte eine Fachperson den Vorgang übernehmen.
Vorab lohnt sich eine Unterscheidung: Welche Felder sind für den nächsten Schritt zwingend? Welche Angaben dürfen offen bleiben? Und wie lange soll auf eine Antwort gewartet werden? So vermeidet das Team sowohl unnötige Rückfragen als auch Entscheidungen auf unvollständiger Grundlage.
Unsicherheit und widersprüchliche Angaben sichtbar machen
Ein KI-Agent kann eine Einschätzung zur Qualität einer Antwort liefern. Ein selbst angegebener „Sicherheitswert“ ist allerdings kein verlässlicher Wahrscheinlichkeitswert. Für kritische Entscheidungen sollten Unternehmen messbare Prüfregeln und geeignete Tests definieren.
Wenn beispielsweise zwei freigegebene Quellen unterschiedliche Preise enthalten, hilft eine konkrete Konfliktmeldung mehr als eine allgemeine Aussage wie „Ich bin unsicher“: Welche Quellen wurden gefunden? Welche Versionen und Zeitpunkte gelten? Welche Information muss das Vertriebsteam prüfen?
Chatbots und die Übergabe im Kundenservice
Ein Chatbot kann Fragen beantworten und je nach Ausstattung ebenfalls externe Tools nutzen. Ein KI-Agent kann innerhalb festgelegter Grenzen zusätzliche Arbeitsschritte planen und ausführen. Die konkrete Ausgestaltung unterscheidet sich je nach Produkt. Für Chatbots und Agenten gilt gleichermaßen: Sobald eine Anfrage die definierten Grenzen überschreitet, braucht es eine erreichbare Ansprechperson.
Mitarbeiter im Service sollten sehen, welche E-Mails, Angaben und Antworten bereits vorliegen. So muss eine Kundin ihr Anliegen nicht erneut von Anfang an erklären. Eine Führungskraft kann mit dem Team festlegen, welche Fälle Vorrang haben und wie die Vertretung organisiert wird.
KI-Tools und externe Eingaben prüfen
Eingehende Nachrichten und Dokumente können Anweisungen enthalten, die im Widerspruch zu den internen Regeln stehen. Eine automatisierte Pipeline sollte externe Inhalte als Daten behandeln und kritische Aktionen technisch begrenzen. Verdächtige Eingaben können zur Prüfung an das zuständige Team gehen. Welche Kontrollen dafür geeignet sind, hängt von den eingesetzten KI-Tools und dem Prozess ab.
Für ein komplexes Vorhaben lohnt sich ein Test mit typischen und absichtlich fehlerhaften Eingaben. Dabei wird geprüft, ob Zugriffsgrenzen greifen und der Vorgang bei unerwartetem Verhalten gestoppt werden kann. Ein Mensch sollte den Prozess bei Bedarf anhalten können.
Unternehmenswissen und Tools zuverlässig einsetzen
Einige KI-Systeme beziehen zusätzliche Informationen aus Dokumenten. Bei Retrieval-Augmented Generation (RAG) werden passende Quellen für die Antwort gesucht und dem KI-Modell zur Verfügung gestellt. Das kann die Arbeit mit Unternehmenswissen unterstützen. Ob ein gefundenes Dokument aktuell und für die konkrete Anfrage geeignet ist, muss dennoch geprüft werden. Fehlt eine gültige Quelle, sollte der Ablauf eine Rückfrage oder Übergabe vorsehen.
Auch ein Tool oder ein externer Dienst kann ausfallen. Deshalb sollten Unternehmen vor dem Einsatz prüfen, wie das System bei Zeitüberschreitung reagiert, wer über eine Störung informiert wird und wie lange ein Vorgang warten darf. Eine robuste Prozessgestaltung berücksichtigt ebenso den Datenschutz: Zugriffe auf E-Mails und andere Informationen werden auf den erforderlichen Umfang beschränkt.
Praxisbeispiel: Eine Anfrage mit fehlenden Daten
Stellen wir uns einen mittelständischen Anbieter technischer Komponenten vor. Das Beispiel ist frei erfunden und zeigt eine mögliche Gestaltung – keinen dokumentierten Kundenfall und keine zugesagte Standardfunktion von AI Cowork.
- Anfrage erfassen: Ein KI-Agent erkennt Produkt, gewünschte Menge und Ansprechpartner. Die Lieferadresse fehlt.
- Daten prüfen: Eine Schnittstelle liefert zwei voneinander abweichende Preisstände. Der Vorgang erhält den Status „Klärung erforderlich“.
- Übergabe vorbereiten: Der Agent erstellt eine Zusammenfassung mit Anfrage, Quellen, Zeitpunkten und offenen Punkten. Ein Preis wird noch nicht als verbindlich ausgegeben.
- Mitarbeitende entscheiden: Eine zuständige Person klärt die Konditionen und fordert die fehlende Adresse an. Sie dokumentiert die Entscheidung im vorgesehenen System.
- Fortsetzung und Freigabe: Der Ablauf kann nach einer definierten Prüfung fortgesetzt werden. Vor dem Versand prüft eine verantwortliche Person die konkrete Angebotsfassung, sofern der Prozess dies vorsieht.
Wird das Angebot nach der Freigabe entscheidungsrelevant geändert, kann eine erneute Freigabe erforderlich sein. Der Prozess sollte deshalb eine Freigabe an die geprüfte Fassung binden. Mehr zum konkreten Vertriebsablauf lesen Sie im Beitrag KI-Agenten für Angebote: Freigabe vor dem Versand.
Was gehört in eine Übergabe an Mitarbeitende?
Eine Nachricht „KI-Agent konnte Aufgabe nicht lösen“ gibt dem Team wenig Orientierung. Eine strukturierte Übergabe beantwortet möglichst fünf Fragen:
- Was ist passiert? Vorgangsnummer, Auftrag und aktueller Stand.
- Warum wurde übergeben? Etwa fehlende Information, ein konkreter Quellenkonflikt oder ein technischer Fehler.
- Was liegt bereits vor? Relevante Eingaben, zulässige Quellen, Versionen und bisherige Ergebnisse.
- Was ist zu tun? Eine klare Frage und gegebenenfalls eine Frist oder Priorität.
- Wie geht es danach weiter? Zuständige Person, Entscheidung und vorgesehener Fortsetzungsweg.
Die Zusammenfassung sollte nur Informationen enthalten, die das empfangende Team für seine Aufgabe benötigt und sehen darf. Sensible Daten, Protokollierung und Aufbewahrungsdauer müssen zur konkreten Verarbeitung passen.
Im Beitrag KI-Agenten im Team: Aufgaben und Wissen übergeben erklären wir, wie mehrere Agenten untereinander einen Arbeitsstand übergeben. Hier steht die Übernahme durch Menschen im Mittelpunkt.
Freigabe und Eskalation: Wo liegt der Unterschied?
Eine Freigabe ist ein vorgesehener Entscheidungsschritt für eine bestimmte Handlung oder Fassung, etwa die Prüfung eines Angebots vor dem Versand. Eine Eskalation behandelt eine Abweichung: Der Agent hat nicht genügend Informationen, darf nicht weiterarbeiten oder trifft auf einen Fehler.
Beides kann zusammenkommen. Ein Agent kann einen Fall eskalieren, weil eine Preisentscheidung fehlt. Nach der Klärung kann zusätzlich eine Freigabe für den fertigen Angebotsentwurf vorgesehen sein. Die zuständigen Rollen und technischen Sperren sollten für beide Schritte eindeutig sein.
Die OWASP-Empfehlungen zur Sicherheit von KI-Agenten beschreiben unter anderem begrenzte Rechte und das Stoppen bestimmter Aktionen, wenn erforderliche Prüfungen fehlschlagen. Wie hoch ein Risiko ist und welche Freigaben passen, muss für den jeweiligen Prozess entschieden werden.
Wie gelangt ein Vorgang nach der Eskalation zurück in die Automatisierung?
Die Übergabe ist erst dann vollständig geplant, wenn die Fortsetzung geklärt ist. Andernfalls sammelt das Team offene Fälle, ohne dass klar ist, wer sie abschließt.
Zuständigkeit festlegen: Ein konkretes Team oder eine Vertretung erhält den Vorgang. Eine technische Benachrichtigung allein ersetzt keine Übernahme.
Entscheidung dokumentieren: Die Fachperson hält fest, welche Angaben ergänzt oder welche Quelle als gültig bestätigt wurden. Je nach Prozess werden Zeitpunkt und freigegebene Fassung erfasst.
Berechtigungen erneut prüfen: Wenn der Ablauf fortgesetzt wird, gelten die aktuellen Rollen und Zugriffsrechte. Eine Übergabe oder Freigabe sollte keine unbegrenzten Berechtigungen erzeugen.
Externe Aktionen absichern: Falls ein System bei einem Verbindungsfehler keinen eindeutigen Status geliefert hat, sollte vor einem erneuten Versuch geprüft werden, ob die Aktion bereits ausgeführt wurde. Sonst kann beispielsweise eine Bestellung doppelt ausgelöst werden. Eine geeignete technische Lösung und die Möglichkeiten des Zielsystems sind im Projekt zu prüfen.
Welche Risiken sind bei kritischen Ausnahmen relevant?
Fehlende Daten können zu falschen Antworten führen. Ein fehlendes Recht kann sensible Informationen schützen; ein Ausfall des Zielsystems kann den Status einer Aktion unklar lassen. Diese Fälle sollten Teams getrennt analysieren, weil jeweils andere Maßnahmen helfen. Im Kundenservice kann eine Rückfrage genügen, während bei einer bereits gesendeten Bestellung zunächst der tatsächliche Status geprüft werden muss.
KI-Modelle können überzeugend formulierte, aber falsche Ergebnisse generieren. Deshalb sollte ein Modell seine eigenen Angaben nicht als einzigen Prüfmaßstab verwenden. Zugriffe und Freigaben gehören in verlässliche Kontrollen des Gesamtsystems. Das reduziert Risiken, garantiert aber keine fehlerfreie Bearbeitung.
Wie vermeiden Unternehmen zu viele Eskalationen?
Eine Übergabe schützt nur dann den Ablauf, wenn die zuständigen Mitarbeitenden sie bearbeiten können. Zu viele Meldungen führen zu langen Wartezeiten und können wichtige Fälle verdecken.
Starten Sie mit klaren Kategorien und beobachten Sie im Pilotbetrieb, welche Fälle häufig auftreten. Wiederholen sich fehlende Adressen, kann eine verständlichere Eingabemaske helfen. Treten Preisabweichungen häufig auf, sollte die Pflege der Preisliste geprüft werden. Regeln sollten nach fachlicher Prüfung angepasst und erneut getestet werden.
Für die Bewertung eignen sich wenige Kennzahlen: Anzahl der Übergaben, Grund und Anteil je Vorgang, Zeit bis zur Übernahme, Zeit bis zur Lösung sowie Fehler oder erforderliche Nacharbeit. Eine niedrige Eskalationsquote allein ist kein Qualitätsnachweis. Sie kann auch bedeuten, dass Probleme übersehen werden. Prüfen Sie deshalb Stichproben erfolgreich abgeschlossener und eskalierter Fälle.
Überwachung: Wie lässt sich die Zusammenarbeit verbessern?
Eine laufende Überwachung hilft, technische Fehler und fachliche Auffälligkeiten früh zu erkennen. Das Management sollte mit den beteiligten Teams festlegen, wer die Meldungen sichtet und welche Ressource für die Bearbeitung zur Verfügung steht. Reale Testfälle aus dem Arbeitsalltag zeigen, ob die geplanten Reaktionszeiten realistisch sind.
Eine einzelne Kennzahl reicht für die Bewertung selten aus: Ein schneller Abschluss kann mit unnötiger Nacharbeit verbunden sein. Das Team sollte daher regelmäßig prüfen, ob Fälle korrekt übergeben wurden, und Ergebnisse gemeinsam bewerten. Aus diesen Erkenntnissen lassen sich Regeln und Arbeitsabläufe verbessern; eine Korrektur durch Mitarbeitende trainiert das eingesetzte KI-Modell dadurch nicht von selbst neu.
Auch die Kosten gehören in die Planung: Ausgaben für Modellnutzung, Rechenleistung und fachliche Prüfung hängen vom Umfang und der gewählten Technologie ab. Ein kleiner Pilot macht sichtbar, welche laufenden Aufwände im eigenen Prozess entstehen.
Checkliste für den ersten Pilot
- Prozess wählen: Einen wiederkehrenden Ablauf mit begrenztem Umfang und verantwortlicher Fachperson auswählen.
- Auslöser festlegen: Fehlende Pflichtdaten, Quellenkonflikte, fehlende Rechte, Systemfehler und Kundenwünsche einzeln beschreiben.
- Grenzen definieren: Festlegen, was der Agent lesen, vorbereiten und tatsächlich ausführen darf.
- Übergabe gestalten: Empfänger, Vertretung, erforderliche Informationen und Reaktionsweg festlegen.
- Fortsetzung prüfen: Dokumentieren, wer Entscheidungen trifft und wie sich Doppelaktionen vermeiden lassen.
- Testfälle durchspielen: Normalfall, fehlende Daten, verweigerter Zugriff, abgelaufene Freigabe und nicht erreichbare Schnittstelle testen.
- Ergebnisse auswerten: Wartezeiten, Bearbeitungsqualität und Arbeitsaufwand mit dem bisherigen Ablauf vergleichen.
Ein technischer Test allein genügt für die fachliche Abnahme nicht. Vertrieb, Service, IT und gegebenenfalls Datenschutzverantwortliche sollten die für sie relevanten Schritte gemeinsam beurteilen.
Wie unterstützt AI Cowork solche Prozesse?
AI Cowork ist auf virtuelle KI-Mitarbeiter, Unternehmenswissen und kontrollierte Arbeitsabläufe ausgerichtet. Welche Datenquellen, Zuständigkeiten, Freigaben und Eskalationswege sinnvoll sind, hängt vom jeweiligen Unternehmen und der konkreten Umsetzung ab. Die Beispiele und Prüfregeln in diesem Artikel sind Gestaltungsvorschläge; vorhandene Funktionen und Integrationen sollten für jedes Projekt gesondert geklärt werden.
Sie möchten einen wiederkehrenden Ablauf in Ihrem Unternehmen prüfen? In einer kostenlosen AI-Cowork-Demo besprechen wir einen konkreten Vorgang und die Stellen, an denen Mitarbeitende eingebunden werden sollten.
Häufige Fragen
Wann sollte ein KI-Agent an einen Menschen übergeben?
Wenn erforderliche Daten fehlen, Informationen widersprüchlich sind, eine Freigabe oder Berechtigung fehlt, ein technischer Fehler auftritt oder der Prozess eine Bearbeitung durch Mitarbeitende vorsieht. Die Auslöser sollten zum Risiko der jeweiligen Aufgabe passen.
Darf ein KI-Agent bei fehlenden Informationen selbst nachfragen?
Ja, wenn der Prozess das vorsieht und der Agent über einen passenden Kanal verfügt. Welche Fragen zulässig sind, wann erneut nachgefragt wird und wann eine Person übernimmt, sollte vorher definiert werden.
Sind menschliche Freigaben bei jeder Aktion notwendig?
Das hängt vom Prozess, den möglichen Folgen und den geltenden Anforderungen ab. Die Klassifizierung einer Nachricht kann andere Kontrollen benötigen als der Versand eines verbindlichen Angebots oder das Auslösen einer Bestellung.
Was passiert, wenn niemand auf eine Eskalation reagiert?
Ein geplanter Prozess legt Vertretung, Frist und Folgeschritt fest. Bei einem Vorgang mit unklarer oder fehlender Freigabe sollte eine gesperrte Aktion bis zur vorgesehenen Entscheidung gesperrt bleiben.