Blogpost vom 18.11.2026

RAG Berechtigungskonzept: Sicherer KI-Zugriff mit Enterprise-ACLs

„Was qualifiziert meinen Kollegen XY eigentlich für diesen Job?“

Es lässt sich nicht vermeiden, dass manche Themen in Unternehmen zum Flurfunk werden. Manche davon sind harmlos, andere verletzen klar Geheimhaltungsgebote oder Persönlichkeitsrechte von Menschen.

Für die Betroffenen ist das oft nicht schön, wenn über sie statt mit ihnen gesprochen wird. Rechtlich brisant wird es allerdings dann, wenn solche Fragen nicht dem Kollegen an der Kaffeemaschine gestellt werden, sondern dem internen GenAI-Assistenten, der auch prompt darauf antwortet und auf Anfrage sogar Auskunft über Gehälter, Lebensläufe oder Vertragliches gibt.

Was wie eine abseitige Anekdote klingen mag, ist ein durchaus reales Schreckensszenario für jeden CTO, CISO oder IT-Administrator: Ein neugieriger Werkstudent chattet mit der internen Enterprise Search, und die generative KI liefert bereitwillig vertrauliche HR-Reports oder M&A-Protokolle aus.

Der Grund dafür ist ein fundamentales Missverständnis in der RAG-Architektur: Denn ein Large Language Model besitzt von Natur aus kein Sicherheits- und Rollenbewusstsein.

Wer Retrieval Augmented Generation (RAG) auf unstrukturierte Unternehmensdaten loslässt, ohne vorher ein durchdachtes RAG Berechtigungskonzept zu etablieren, läuft Gefahr, bestehende Datenschutzmaßnahmen auszuhebeln und die Integrität teils hochsensibler Unternehmensdaten zu gefährden.

Wie sich KI-Systeme hingegen compliance-konform einsetzen lassen und wie wir die bestehenden Rechtekonzepte (RBAC/ACLs) dafür verlustfrei in RAG-Pipelines spiegeln, beleuchten wir in diesem Ratgeber.

Der Albtraum jedes IT-Admins: Wenn die KI zu viel weiß

Unternehmen führen generative KI auch dazu ein, um Wissensinseln aufzubrechen. Ob Confluence-Spaces, SharePoint-Bibliotheken, Ticketsysteme oder lokale File-Server: Durch semantische Suche und kontextbasierte Textgenerierung soll der Wissenstransfer verbessert werden und Mitarbeitende in Sekundenschnelle finden, was sie für ihre Arbeit brauchen.

Die Gefahr: Over-Permissioning und fehlende Kontextfilterung.

[Mitarbeiter (z. B. Praktikant)] 

       │

       ▼  Prompt: "Zeige mir die Zeugnisse von Kollege XY"

[RAG-Pipeline / Orchestrator] 

       │

       ▼  Semantische Vektorsuche (OHNE Metadaten-Filter)

[Vektordatenbank (Enthält unberechtigte HR-Dokumente)]

       │

       ▼  Retrieval injiziert vertraulichen Text in System-Prompt

[LLM (Generiert Antwort basierend auf Kontext)]

       │

       ▼

[Datenleck: Vertrauliche Daten landen unverschlüsselt im Chat]
Porträt Florian Heinecke

Florian Heinecke

Datensicherheit & IT Security

Das Problem: Unregulierte LLMs im Intranet

Wird ein internes LLM über klassische RAG-Pipelines angebunden, liest der Indexierungsprozess (Data Ingestion) fortlaufend Dokumente aus unterschiedlichsten Quellen ein. Diese Dokumente werden zerlegt (Chunking), in Vektoren transformiert (Embeddings) und in einer Vektordatenbank abgelegt.

Das Problem: Moderne Sprachmodelle sind zustandslos. Sie kennen weder Session-Identitäten noch Dateisystemrechte. Fragt ein Nutzer das System, sucht die Vektordatenbank einfach nach den semantisch ähnlichsten Text-Chunks. Wurden beim Ingestion-Prozess die bestehenden Access Control Lists (ACLs) ignoriert, zieht das System dann zum Beispiel auch den vertraulichen HR-Chunk in den Kontext des LLMs, und das Modell formuliert die Antwort brav aus.

Aus IT-Security-Sicht entsteht hier ein gravierendes Datenleck durch interne KI:

  • Verlust der Datensouveränität: Bestehende Active-Directory- oder Entra-ID-Rechte greifen nicht mehr auf Vektorebene.
  • Compliance- und DSGVO-Verstöße: Personenbezogene oder streng vertrauliche Daten geraten unbefugt in Umlauf.
  • Prompt-Injection-Risiko: Durch geschicktes Prompt Engineering können Mitarbeitende versuchen, interne Sicherheitsanweisungen zu umgehen, um an sensible Index-Daten zu gelangen.

Wer Datenflüsse in der generativen KI nicht isoliert, etabliert unbemerkt eine hochriskante Schatten-IT mitten im eigenen Intranet.

Was ist ein RAG Berechtigungskonzept?

Ein RAG Berechtigungskonzept ist eine Sicherheitsarchitektur, die zum Ziel hat, dass eine RAG-Pipeline ausschließlich auf jene Chunks und Dokumente zugreift, für die der anfragende Nutzer im Quellsystem (z. B. SharePoint, Jira, ERP) eine explizite Leseberechtigung besitzt. Es überträgt das Zero-Trust-Prinzip auf Vektordatenbanken und LLM-Orchestrierungs-Frameworks.

Anstatt also dem LLM systemweit Vollzugriff auf alle vektorisierten Unternehmensdaten zu gewähren, wird das Retrieval an die verifizierte Identität des/der Nutzenden gekoppelt.

Die Rolle von Enterprise-ACLs in RAG-Pipelines

Der Schlüssel für ein wasserdichtes Berechtigungskonzept liegt in der Spiegelung von Enterprise-ACLs.

In gewachsenen Systemlandschaften steuern Access Control Lists (ACLs) und rollenbasierte Zugriffskontrollen (RBAC) über Identitätsanbieter wie Microsoft Entra ID (ehemals Azure AD) oder Okta, wer worauf zugreifen darf. Ein Dokument im Fileserver gehört nicht einfach einer Abteilung. Es besitzt eine Zugriffskontrollliste mit User-SIDs, Group-SIDs und spezifischen Lese-/Schreibprivilegien.

In modernen RAG-Pipelines müssen diese ACLs bis auf die Vektorebene mitgeführt werden. Man unterscheidet hierbei zwei grundlegende Architekturansätze:

SicherheitsarchitekturFunktionsweiseLatez & PerformanceSicherheitsniveau
Post-Retrieval FilteringDie Vektordatenbank liefert die Top-K relevantesten Chunks; eine nachgelagerte Schicht filtert unberechtigte Dokumente heraus.⚠️ Höhere Latenz; Gefahr, dass K Chunks komplett herausgefiltert werden und die KI „nichts weiß“.⚠️ Anfällig für Cholerik bei Top-K-Truncation
Pre-Retrieval Filtering (Metadata ACL Filtering)Der Vektor-Search-Query wird vor der Distanzberechnung um einen deterministischen Metadaten-Filter erweitert (WHERE user_groups IN chunk_acls).⚡ Extrem schnell & konsistent; Vektordatenbank durchsucht nur den berechtigten Teilraum.🔒 Sehr hoch (Zero-Trust-Standard)

Für professionelle Enterprise-Umgebungen führt kein Weg am Pre-Retrieval Filtering mit Vektor Search ACL Filtern vorbei. Nur so bleibt die Index-Level bzw. Document-Level Security auch bei Millionen von Text-Chunks konsistent und performant.

Rollen und Rechte im AI-Studio nahtlos spiegeln

Niemand möchte Berechtigungen für eine KI-Anwendung manuell duplizieren oder parallel pflegen. Ein solches Silo wäre innerhalb kürzester Zeit veraltet und eine personelle Dauerbelastung für IT-Admins.

Die Lösung: Die bestehende Identity- und Access-Management-Infrastruktur (IAM) wird direkt als Single Source of Truth genutzt.

[Benutzer authentifiziert sich via OAuth2 / Entra ID]

                          │

                          ▼

            [JWT Token mit User- & Group-Claims]

                          │

                          ▼

             [RAG Orchestration Engine]

                          │

         ┌────────────────┴────────────────┐

         ▼                                 ▼

[Semantischer Vektor-Query]     [Filter: allowed_groups CONTAINS 'HR_DE']

         │                                 │

         └────────────────┬────────────────┘

                          ▼

               [Enterprise Vektordatenbank]

    (Scannt ausschließlich Chunks mit passenden ACL-Metadaten)

                          │

                          ▼

       [Berechtigter Kontext an LLM übergeben]

Beim Aufbau unternehmensweiter KI-Plattformen – sei es auf Basis von Microsoft Azure AI Studio, AWS Bedrock oder maßgeschneiderten Open-Source-Stacks (wie Qdrant, Milvus oder pgvector) – wird der Autorisierungsfluss tokenbasiert durchgeschleift:

  1. User Authentication: Der Nutzer meldet sich an der Chat-Oberfläche an (z. B. via Single Sign-On / OIDC). Das System erhält ein signiertes JSON Web Token (JWT), das alle Gruppen-IDs und Rollen des Nutzers enthält.
  2. Ingestion Pipeline mit ACL-Extraktion: Bereits beim Parsing und Document Chunking liest der Konnektor die Original-Rechte des Dokuments aus und schreibt sie als Metadaten-Array an jeden einzelnen Chunk (allowed_principals: [„group_dev“, „user_123“]).
  3. Kontextfilterung zur Laufzeit: Startet der Nutzer einen Prompt, extrahiert die Pipeline dessen Gruppen-SIDs aus dem Token und injiziert sie als zwingenden Filter in die Vektorsuchanfrage.

Die Vektordatenbank sieht die unberechtigten Dokumente gar nicht erst an. Das LLM erfährt niemals, dass vertrauliche Vorstandsgehälter überhaupt existieren – Halluzinationen sensibler Daten und unbefugter Zugriff sind architektonisch ausgeschlossen.

In 3 Schritten zu granularen Zugriffsrechten für KI-Systeme

Ein solides Berechtigungskonzept erfordert weder Zauberei noch jahrelange Vorbereitung. Es erfordert sauberes Software-Engineering an den Schnittstellen zwischen Datenhaltung, Ingestion und Retrieval.

1. Data Ingestion: Document Chunking mit Metadaten-Vererbung

Dateirechte liegen im Quellsystem meist auf Datei- oder Ordnerebene. Zerlegt ein Ingestion-Worker ein 50-seitiges PDF in 150 Chunks, müssen die Berechtigungs-Metadaten vererbt werden.

  • Best Practice: Speichern Sie neben dem Text-Embedding deterministische Payload-Felder ab: document_id, source_url, allowed_roles und security_hash.
  • Achtung bei Vererbungshierarchien: Ändern sich Rechte im Quellsystem, müssen Chunks synchronisiert werden. Setzen Sie auf ereignisgesteuerte Ingestion (Webhooks/Change Streams) statt monolithischer Batch-Jobs.

2. Token-basierte Autorisierung im Orchestrator

Bauen Sie den Orchestrator (z. B. auf Basis von Pydantic AI, Semantic Kernel oder custom-built Microservices) so auf, dass der Vector Store niemals ohne Benutzerkontext angesprochen werden kann.

  • Jeder Query-Request muss das autorisierte Nutzer-Token mitführen.
  • Die Orchestration Engine übersetzt die Claims des Tokens in die systemspezifische Filtersyntax der Vektordatenbank (z. B. $in oder $contains-Operatoren).

3. Vektor-Search-Härtung und Guardrails etablieren

Selbst das beste Retrieval-Filtering sollte durch nachgelagerte Sicherheitsmechanismen ergänzt werden.

  • Input/Output Guardrails: Setzen Sie Filter ein, die Antworten des LLMs vor der Auslieferung an den Client auf PII (Personally Identifiable Information) oder Geheimhaltungsmuster (z. B. IBANs, API-Keys) scannen.
  • Audit-Logging & Compliance-Reporting: Protokollieren Sie, welche Chunks welcher Nutzer angefragt hat – ohne dabei sensible Daten im Klartext ins Monitoring zu schreiben.

Fazit: Maximale KI-Produktivität ohne Datenrisiko

Generative KI im Unternehmen muss keine Gratwanderung zwischen Innovationsdruck und Datenschutz-Panik sein. Mit einem sauberen RAG Berechtigungskonzept und der konsequenten Verankerung von Enterprise-ACLs in Ihren RAG-Pipelines schützen Sie sensible Unternehmenswerte zuverlässig.

Bestehende Active-Directory-Strukturen und granulare Berechtigungskonzepte lassen sich nativ in moderne Vektor- und LLM-Architekturen integrieren. So stellen Sie sicher, dass Ihr internes KI-System genau das ausgibt, was Mitarbeitende für ihren Arbeitsalltag wissen müssen – und kein Byte mehr.

Bereit für Enterprise-KI mit echtem Investitionsschutz?

Sie möchten eine RAG-Architektur aufbauen, die höchsten IT-Sicherheits- und Compliance-Standards genügt, oder bestehende GenAI-Prototypen auditieren und härten?

Sprechen Sie mit unseren IT-Security- und KI-Experten bei Micromata und lassen Sie uns gemeinsam ein belastbares Berechtigungskonzept für Ihre Datenlandschaft entwickeln.