KI-Agenten mit gemeinsamem Unternehmenswissen: So nutzen Sie KI mit kontrolliertem Zugriff

KI-Agenten können gemeinsames Unternehmenswissen nutzen, wenn sie auf eine gepflegte Wissensgrundlage zugreifen und jede Anfrage die erlaubten Quellen berücksichtigt. Dazu gehören nachvollziehbare Herkunft, gültige Versionen, Zuständigkeiten und Regeln dafür, welches neue Wissen übernommen werden darf. Ein gemeinsamer Speicher allein erfüllt diese Anforderungen noch nicht.

Für Unternehmen wird die Architektur besonders interessant, sobald mehrere AI Agents dieselben Produktinformationen, Prozessregeln oder Kundenvereinbarungen benötigen. Dieser Leitfaden zeigt einen möglichen Aufbau, eine Rollenmatrix und konkrete Prüffälle für den Einstieg.

Hinweis: AI Cowork ist unser eigenes Produkt. Das folgende Unternehmensbeispiel ist eine vereinfachte Darstellung.

Wie greifen mehrere KI-Agenten auf Unternehmenswissen zu?

KI-Agenten verbinden ein Sprachmodell mit Anweisungen, Datenquellen und gegebenenfalls Tools, die Aufgaben ausführen. Solche Sprachmodelle werden auch Large Language Models, kurz LLMs, genannt. Das Modell bringt allgemeine sprachliche Fähigkeiten mit. Aktuelle Lieferbedingungen oder Ihre internen Freigabegrenzen müssen ihm für den jeweiligen Vorgang zugänglich gemacht werden.

Ein sinnvoller Ablauf beginnt deshalb vor der Antwort:

1. Das System erkennt die anfragende Person oder die technische Identität des Prozesses.

1. Es prüft, welche Wissensbereiche für diese Aufgabe zugänglich sind.

1. Es sucht passende, freigegebene Informationen.

1. Der Agent erhält die benötigten Inhalte mit Quellen und Versionsangaben.

1. Er erstellt eine Antwort oder einen Entwurf. Eine anschließende Aktion unterliegt eigenen Rechten und Freigaben.

So können mehrere Agenten dieselben fachlichen Quellen nutzen. Der Zugriff bleibt auf den jeweiligen Zweck begrenzt. Eine gemeinsame Wissensbasis muss dafür auch nicht alle Dokumente physisch an einem Ort speichern: Sie kann kontrolliert auf bestehende Systeme zugreifen oder ausgewählte Inhalte in einen Suchindex übernehmen.

Chat mit Unternehmenswissen, RAG und Memory: Welche Aufgabe übernimmt was?

Ein Chat mit Unternehmenswissen ist die sichtbare Oberfläche: Mitarbeitende stellen Fragen und erhalten Antworten aus internen Quellen. Dahinter können unterschiedliche Verfahren stehen.

Retrieval Augmented Generation, kurz RAG, sucht zur Anfrage relevante Inhalte und stellt sie dem Sprachmodell als Kontext bereit. Damit können beispielsweise Produktunterlagen, Handbücher oder Prozessbeschreibungen in eine Antwort einfließen. Die Auswahl und Qualität dieser Inhalte beeinflussen das Ergebnis. Eine gefundene Passage garantiert noch keine korrekte Schlussfolgerung. Microsoft beschreibt RAG als Verbindung externer Wissensquellen mit der Antwortgenerierung und empfiehlt eine Prüfung von Retrieval und Antworten. Microsoft: RAG und Suchindizes

Memory, im Agentenkontext häufig auch Agentic Memory genannt, hält Informationen über eine Interaktion hinaus verfügbar. Dabei sind Gesprächskontext, persönliche Präferenzen und anwendungsweit gespeicherte Informationen zu unterscheiden. LangChain beschreibt kurzfristiges Memory innerhalb einer Unterhaltung sowie langfristiges Memory über mehrere Unterhaltungen hinweg. Daraus entsteht noch kein automatisch fachlich geprüftes Firmenwissen. LangChain: Memory overview

Den übergreifenden Aufbau aus Quellen, Pflege, Rechten und Freigaben nennen wir hier Knowledge Layer. Der Begriff bezeichnet in diesem Artikel eine Architekturaufgabe. Eine feste technische Norm oder ein bestimmtes Produkt ist damit nicht gemeint. Als Unternehmensgedächtnis wird diese Grundlage erst brauchbar, wenn Informationen nachvollziehbar gepflegt und bei Bedarf zurückgenommen werden können.

Gemeinsame Wissensbasis: Was gehört hinein?

Beginnen Sie mit Inhalten, die im gewählten Prozess wiederkehrend benötigt werden und für die es einen fachlichen Verantwortlichen gibt. Für einen Vertriebsprozess können das Produktunterlagen, Angebotsvorlagen, Lieferbedingungen und freigegebene Antworten auf häufige Fragen sein.

Dynamische Werte wie Lagerbestand, offene Posten oder ein individueller Vertragsstatus gehören häufig weiterhin in das führende ERP- oder CRM-System. Der Agent kann sie bei Bedarf über eine erlaubte Schnittstelle abfragen. Eine kopierte Information braucht dagegen eine klare Aktualisierungsregel.

Für jeden Wissenseintrag sollten zumindest diese Angaben verfügbar sein:

• Herkunft: Aus welchem Dokument oder System stammt die Information?

• Verantwortung: Wer entscheidet über Richtigkeit und Änderungen?

• Status: Entwurf, freigegeben, abgelaufen oder widerrufen?

• Gültigkeit: Für welches Produkt, Projekt und welchen Zeitraum gilt sie?

• Zugriff: Welche Rollen und Prozesse dürfen sie verwenden?

• Nachweis: Welche Version wurde für eine konkrete Antwort herangezogen?

Für die Auswahl der ersten Anwendungsfälle helfen drei Fragen: Welche Informationen werden von mehreren Teams regelmäßig benötigt? Wer kann ihre fachliche Richtigkeit bestätigen? Und welche Quellen lassen sich zuverlässig aktualisieren? Eine überschaubare Wissensbasis mit klarer Zuständigkeit erleichtert die Prüfung, bevor weitere Unternehmensdaten hinzukommen.

Der Suchindex ist dabei eine abgeleitete Arbeitsgrundlage. Er benötigt eine Verbindung zur maßgeblichen Quelle. Wenn ein Kunde einen Vertrag ändert, darf eine ältere Zusammenfassung die neue Vereinbarung nicht unbemerkt überlagern.

Modellbeispiel: Vertrieb, Service und Geschäftsführung teilen Wissen

Stellen wir uns einen technischen B2B-Dienstleister vor. Ein Kunde fragt nach einer Erweiterung seiner Anlage. Im Unternehmen arbeiten drei spezialisierte Agenten mit denselben freigegebenen Produktunterlagen, aber verschiedenen Aufgaben.

Der Vertriebsagent erstellt einen Angebotsentwurf aus Produktdaten und den für den Vorgang zugänglichen Konditionen. Der Service-Agent prüft technische Voraussetzungen und Wartungshinweise. Die Assistenz der Geschäftsführung fasst freigegebene Vorgangsdaten für einen Wochenbericht zusammen.

Eine mögliche Rechteverteilung sieht so aus:

Diese Matrix ist eine Planungshilfe. Die tatsächlichen Rechte müssen zum Unternehmen passen. Auch eine Führungskraft benötigt für ihre Aufgabe nur den erforderlichen Zugriff; die Funktionsbezeichnung allein sollte keine pauschale Vollberechtigung auslösen.

Übergaben brauchen dieselbe Sorgfalt wie die Suche

Besonders leicht wird eine Grenze bei der Weitergabe von Ergebnissen übersehen. Der Vertriebsagent darf eine interne Kalkulation lesen. Er erstellt daraus eine Zusammenfassung und gibt sie an den Service-Agenten weiter. Enthält diese Zusammenfassung vertrauliche Margen, kann die Übergabe die ursprüngliche Zugriffsbeschränkung umgehen.

Unsere Empfehlung: Auch abgeleitete Inhalte brauchen eine Einstufung und einen erlaubten Empfängerkreis. Vor der Übergabe wird geprüft, welche Informationen der nächste Agent für seine Aufgabe erhalten darf. Ein Quellenverweis hilft bei der Nachvollziehbarkeit; er ersetzt keine Berechtigungsprüfung.

Für agentenübergreifende Workflows sollte deshalb dokumentiert werden, welche Daten ein Schritt erzeugt, wer sie im nächsten Schritt bekommt und welche Bedingungen dafür gelten.

KI-Agenten im Kundensupport: Wissen und Automatisierung verbinden

Im Kundensupport lassen sich beispielsweise Eingang, Zuordnung und Antwortvorbereitung schrittweise automatisieren. Der Agent sucht die passende Produktregel, berücksichtigt den freigegebenen Vorgangskontext und erstellt einen Entwurf. Fehlen Angaben, wird die Rückfrage manuell geklärt. Der Autonomiegrad wird für jeden Schritt festgelegt: Ein autonom gestarteter Suchlauf braucht andere Grenzen als eine Nachricht, die verbindliche Zusagen an Kunden enthält.

Diese Unterscheidung macht die Wissensgrundlage auch für weitere Anwendungsfälle nutzbar. Generative KI übernimmt die sprachliche Verarbeitung; festgelegte Abläufe regeln beispielsweise Freigabe, Empfänger und Versand. Welche Entscheidungen ein Agent selbst vorbereiten oder ausführen darf, bleibt eine konkrete Gestaltungsfrage.

KI und AI Agents im Unternehmen: Anwendungsfälle und Workflows

Die gemeinsame Wissensbasis wird besonders wertvoll, wenn mehrere Schritte eines Geschäftsprozesses auf dieselben geprüften Informationen zugreifen. Im Kundensupport kann ein KI-Assistent eine Anfrage zusammenfassen und eine zuständige Person bei der Einordnung unterstützen. Ein weiterer Agent sucht die freigegebene Produktregel und erstellt einen Antwortentwurf. Vor dem Versand prüft eine Mitarbeiterin die Aussage und gibt sie frei. Das ist ein möglicher Anwendungsfall; die konkrete Umsetzung hängt von den angebundenen Systemen und den festgelegten Rechten ab.

Unternehmen können solche Workflows schrittweise automatisieren: Zuerst unterstützt KI beim Suchen und Zusammenfassen, während die Entscheidung manuell erfolgt. Später lassen sich klar begrenzte, wiederkehrende Aufgaben weitgehend autonom ausführen, sofern Tests und Freigaben das rechtfertigen. Ein LLM formuliert beispielsweise den Entwurf; verbindliche Entscheidungen und Aktionen erhalten eigene Regeln. Für Tools und Schnittstellen legen Sie fest, welche Daten sie lesen oder verändern dürfen.

Auch bei der Koordination mehrerer AI Agents sollte jeder Schritt seine Berechtigung erneut prüfen. Ein Agentensystem darf Ergebnisse nur weitergeben, wenn der nächste Empfänger sie erhalten darf. So können Vertrieb und Service gemeinsam mit freigegebenem Unternehmenswissen arbeiten, ohne vertrauliche Kundendaten pauschal für alle Rollen verfügbar zu machen.

Berechtigungen für KI-Agenten müssen vor der Antwort greifen

Vertrauliche Informationen sollten bereits beim Abruf ausgeschlossen werden. Hat das Sprachmodell unzulässige Inhalte erhalten, ist eine Aufforderung wie „Bitte gib diese Daten nicht weiter“ als alleinige Schutzmaßnahme unzureichend.

Microsoft beschreibt für Azure AI Search dokumentbezogene Zugriffskontrolle und Suchfilter. Die Umsetzung hängt vom Datenbestand und Identitätsmodell ab; verschiedene native Verfahren sind als Preview gekennzeichnet. Bei indexierten Rechten ist außerdem entscheidend, wann Änderungen aus dem Quellsystem übernommen werden. Microsoft: Document-level access control

Als Planungsregel empfehlen wir: Der erlaubte Wissenszugriff ergibt sich aus der Verbindung von Identität, Aufgabenbereich, Quellenrecht und aktueller Freigabe. Bei einer im Auftrag einer Person ausgeführten Aufgabe werden deren Rechte berücksichtigt. Bei einem zeitgesteuerten Prozess braucht die technische Identität einen eigens begrenzten Zugriff.

Die Prüfung sollte auch heruntergeladene Dokumente, Suchtreffer, Zusammenfassungen und zwischengespeicherte Ergebnisse erfassen. Mehrere Abteilungen in derselben Anwendung benötigen weiterhin fachlich getrennte Wissensbereiche. Auf der Seite zu Berechtigungen in AI Cowork ordnen wir den Produktansatz dazu ein.

Wissenszugriff in der Cloud, lokal oder hybrid planen

Prüfen Sie den vollständigen Datenweg: Wo liegen Originaldateien, Suchindex, Memory und Protokolle? Welcher Dienst erhält die ausgewählten Textpassagen? Ein lokal gespeichertes Dokument kann bei einer Anfrage trotzdem an ein externes Modell übermittelt werden. Auch in einem hybriden Aufbau müssen die erlaubten Datenflüsse pro Prozess feststehen.

Bei AI Cowork schützen wir personenbezogene Angaben zusätzlich mit Platzhaltern. Vor der Verarbeitung durch das KI-Modell werden erkannte personenbezogene Angaben durch Platzhalter ersetzt. Enthält das Ergebnis diese Platzhalter, werden sie anschließend wieder den Originalangaben zugeordnet. Diese zusätzliche Schutzmaßnahme setzen wir sowohl bei lokalen KI-Modellen als auch beim Einsatz von Azure oder Amazon Bedrock ein. Für Azure und Amazon Bedrock nutzen wir Server in Deutschland; falls sie für den vorgesehenen Einsatz dort nicht verfügbar sind, wählen wir einen Standort in der EU. Welche Informationen in einem konkreten Prozess erfasst werden und wie die Zuordnung geschützt wird, gehört zur Projektprüfung.

Ein vereinfachtes Beispiel: Aus „Frau Beispiel bittet um ein Angebot“ wird für die Modellverarbeitung eine Anfrage mit einem Platzhalter für den Namen. Enthält der Antwortentwurf diesen Platzhalter, wird er anschließend wieder dem Namen zugeordnet. Welche Angaben erkannt werden und wie mit Ausnahmen umzugehen ist, wird für den jeweiligen Einsatz geprüft.

Da die Zuordnung wiederhergestellt werden kann, sprechen wir dabei von Pseudonymisierung. Sie reduziert Risiken bei der Verarbeitung, macht die Daten jedoch nicht automatisch anonym. Die datenschutzrechtliche Bewertung des gesamten Datenwegs bleibt erforderlich. Der Europäische Datenschutzausschuss unterscheidet Pseudonymisierung und Anonymisierung anhand der Möglichkeit, Informationen einer Person zuzuordnen.

Vertrauliche Geschäftsdaten brauchen ebenfalls Schutz: Eine interne Preiskalkulation oder technische Spezifikation bleibt sensibel, auch wenn sie keinen Personennamen enthält. Berechtigungen und Regeln für den Datenfluss greifen deshalb zusätzlich zur Pseudonymisierung.

Ob eine Standardplattform oder ein individuelles Framework verwendet wird, ändert diese Fragen nicht. Legen Sie Zuständigkeiten für Quellenpflege, Zugriffskontrolle und technische Umsetzung fest. Diese Governance – also die Regeln und Verantwortlichkeiten des Betriebs – gibt auch IT und Compliance eine prüfbare Grundlage. Zum fachlichen Test gehört, dass unberechtigte Inhalte weder an das Modell übergeben noch über Protokolle für unberechtigte Personen zugänglich werden.

KI-Agent und API: Wie lassen sich Unternehmensdaten anbinden?

Eine Wissensbasis kann Inhalte aus einem Dokumentenmanagement, einem Wiki wie Confluence oder anderen freigegebenen Quellen zusammenführen. Verändern sich Bestände oder Aufträge dynamisch, ist eine kontrollierte Abfrage über eine Programmierschnittstelle (API) häufig geeigneter als eine alte Kopie. Ob eine konkrete Quelle technisch angebunden werden kann, hängt von ihren Schnittstellen und dem gewählten Aufbau ab.

Chatbots und KI-Agenten können dieselbe Quelle nutzen. Entscheidend ist bei beiden, für welche Benutzer und Aufgaben ein Zugriff erlaubt ist. Wenn ein Agent zusätzlich Aktionen in anderen Systemen ausführen soll, muss die Autonomie für diese Aktionen gesondert festgelegt werden. Ein Sprachmodell oder LLM erhält dadurch keine pauschale Berechtigung für die gesamte Unternehmenssoftware.

Wie neues Wissen kontrolliert ins Unternehmensgedächtnis kommt

Eine Korrektur im Chat kann eine persönliche Präferenz, eine einmalige Ausnahme oder eine dauerhaft gültige Regel betreffen. Das System muss diese Fälle unterscheiden können.

Angenommen, ein Mitarbeiter schreibt: „Bei diesem Kunden übernehmen wir die Expresskosten.“ Diese Aussage kann für einen einzelnen Auftrag gelten. Für eine allgemeine Versandregel fehlen möglicherweise die Zuständigkeit und die fachliche Freigabe.

Ein möglicher Wissensprozess lautet:

Vorschlag → Zuordnung zur Quelle und zum Geltungsbereich → fachliche Prüfung → Freigabe → Veröffentlichung → erneute Prüfung bei Änderungen.

Der Agent kann den Vorschlag vorbereiten und auf einen möglichen Widerspruch hinweisen. Wer die verbindliche Regel bestätigt, wird organisatorisch festgelegt. Änderungen brauchen einen nachvollziehbaren Stand. Bei einer Rücknahme müssen die betroffenen Suchindizes, Caches und abgeleiteten Zusammenfassungen berücksichtigt werden.

Für die fachliche Freigabe können Sie offene Punkte als Vorschläge sammeln: Widersprechen sich zwei Quellen, sollte der zuständige Fachbereich entscheiden, welche Version gilt. Ein KI-Agent kann den Konflikt markieren und eine Zusammenfassung vorbereiten. Solche Use Cases helfen, Wissen gemeinsam zu pflegen und Entscheidungen auf nachvollziehbare Quellen zu stützen.

Gespeichertes Memory verändert außerdem nicht automatisch die Gewichte des zugrunde liegenden Sprachmodells. Wenn eine Anwendung Erfahrungen wiederverwendet, kann das über gespeicherte Informationen und Retrieval geschehen. Für die Planung sollte klar sein, welches Verfahren tatsächlich eingesetzt wird.

Wissenspflege im laufenden Betrieb organisieren

Auch gute Inhalte altern: Produktbedingungen ändern sich, Mitarbeitende wechseln die Rolle und Dokumente werden zurückgezogen. Legen Sie für jede Quelle eine verantwortliche Person, ein Prüfintervall und einen Weg für Korrekturen fest. Wird eine Berechtigung entzogen oder eine Regel widerrufen, müssen die Änderungen innerhalb eines vereinbarten Zeitfensters auch im Suchindex, in Caches und bei relevanten Zusammenfassungen ankommen. Bis dahin kann für sensible Inhalte eine vorübergehende Sperre erforderlich sein.

Prüfen Sie bei einem Pilotprojekt stichprobenartig, ob Antworten auf die richtige Version verweisen und ob berechtigte wie unberechtigte Benutzer die erwarteten Ergebnisse sehen. So lassen sich Fehler bei der Synchronisierung erkennen, bevor Sie weitere Geschäftsprozesse anbinden.

Dokumente bleiben Datenquellen mit möglichen Fehlern

Eine interne Datei kann veraltet, widersprüchlich oder manipuliert sein. Auch Text in einer PDF kann Anweisungen enthalten, die einen Agenten von seiner Aufgabe abbringen sollen. Dokumentinhalt sollte deshalb keine Berechtigungen verändern oder zusätzliche Aktionen freischalten können.

OWASP nennt unter anderem unberechtigten Zugriff auf Vektordaten, Informationsabfluss zwischen Kontexten und manipulierte Wissensquellen als Risiken. Empfohlen werden feingranulare Zugriffsregeln, Quellenprüfung und eine nachvollziehbare Überwachung. OWASP: Vector and Embedding Weaknesses

Abnahmetest: Funktioniert die gemeinsame Wissensbasis wie geplant?

Für einen Pilot sollten Sie typische Aufgaben und bewusst schwierige Situationen prüfen. Die folgende Testvorlage lässt sich mit eigenen Dokumenten und Rollen ausführen. Die Tabelle enthält erwartete Ergebnisse, keine bereits gemessenen Resultate.

Vereinbaren Sie die zulässigen Aktualisierungs- und Rücknahmefristen vor dem Test. Dokumentieren Sie Rolle, Eingabefrage, Datenstand, verwendete Quelle, Ausgabe und bestandenes oder verfehltes Kriterium. Bei einem Modellwechsel oder einer neuen Datenanbindung sollten die betroffenen Fälle erneut geprüft werden.

Wann reicht ein einzelner Wissensassistent?

Für einen eng abgegrenzten Anwendungsfall kann ein einzelner Assistent ausreichen: etwa für Fragen zu einem freigegebenen Handbuch. Auch ein vorhandenes Enterprise-Search-System oder eine passende Standardplattform kann die Anforderungen erfüllen. Zusätzliche Agenten erhöhen den Abstimmungs- und Prüfaufwand.

Eine übergreifende Wissensarchitektur wird besonders relevant, wenn mehrere Geschäftsprozesse dieselben Informationen verwenden, verschiedene Rollen beteiligt sind und Ergebnisse zwischen Agenten weitergegeben werden. Die Entscheidung sollte an diesen Anforderungen hängen.

Wer zunächst mit einer Dokumenten- und Chatlösung starten möchte, findet im AnythingLLM-Vergleich für Unternehmen eine ergänzende Auswahlhilfe. Technische Grundlagen erklären wir außerdem im RAG-Ratgeber.

So starten Sie mit gemeinsamem Unternehmenswissen

Wählen Sie zuerst einen Prozess mit überschaubaren Quellen und klarer Verantwortung. Eine Kundenanfrage mit anschließendem Antwortentwurf eignet sich beispielsweise, um Wissenssuche, Quellenbindung und Freigabe gemeinsam zu prüfen.

Legen Sie fest, welche Informationen führend sind, wer darauf zugreifen darf und welche Aktion am Ende erlaubt ist. Binden Sie zunächst nur die dafür notwendigen Unternehmensdaten an. Bestehende Systeme können über eine API oder eine andere geprüfte Datenanbindung einbezogen werden. Der konkrete Aufwand hängt von deren Zugriffsmodell und Datenqualität ab.

Planen Sie neben der Einrichtung auch laufende Pflege, Suchindex, Modellaufrufe, Betrieb und Kontrollen ein. Ein genauer Preis lässt sich aus der Zahl der Agenten allein nicht ableiten. Eine gut gepflegte Grundlage kann mehreren Prozessen dienen; ihre Wirtschaftlichkeit muss im jeweiligen Einsatz gemessen werden.

Bei AI Cowork verbinden wir den Ansatz des Unternehmensgedächtnisses mit projektbezogenen Rollen, Aufgaben und Freigaben. Welche Quellen und Systeme einbezogen werden und ob eine eigene Instanz sinnvoll ist, klären wir für den konkreten Anwendungsfall. Verarbeitungsorte und Datenflüsse gehören dabei ebenso zur Planung wie der fachliche Nutzen.

Häufige Fragen