„Wir haben im Unternehmen noch keine künstliche Intelligenz eingeführt.“
Diese Aussage hören wir in Gesprächen und Audits regelmäßig. Bei genauerer Betrachtung zeigt sich jedoch häufig ein anderes Bild: Mitarbeiter verwenden frei verfügbare KI-Anwendungen, nutzen integrierte Assistenten in bestehenden Softwareprodukten oder verbinden KI-Dienste mit E-Mail-Postfächern, Dokumentenablagen und anderen Unternehmensanwendungen.
Das Problem ist dabei selten die KI-Nutzung selbst. Kritisch wird es, wenn weder geregelt ist, wer eine KI nutzen darf, auf welche Daten sie zugreifen kann und für welche Aufgaben ihre Ergebnisse verwendet werden dürfen.
Unkontrollierte KI-Berechtigungen können bestehende Schwächen im Identitäts- und Berechtigungsmanagement erheblich verstärken. Denn KI-Systeme können Informationen nicht nur finden, sondern zusammenfassen, miteinander verknüpfen und in wenigen Sekunden in einen neuen Kontext stellen.
Das eigentliche Risiko liegt häufig nicht im KI-Modell
Bei der Bewertung von KI-Anwendungen konzentrieren sich Unternehmen häufig auf den Anbieter, den Standort der Datenverarbeitung oder die Frage, ob eingegebene Informationen für das Training des Modells verwendet werden.
Diese Fragen sind wichtig. Sie greifen jedoch zu kurz.
Mindestens ebenso relevant ist, welche Zugriffsrechte der Mitarbeiter und die eingesetzte KI-Anwendung innerhalb der Organisation besitzen. Das Bundesamt für Sicherheit in der Informationstechnik empfiehlt ausdrücklich, für KI-Systeme ein Berechtigungskonzept zu erstellen. Dieses sollte auch berücksichtigen, welche Dokumente und Daten vorab hochgeladen wurden und dadurch für Nutzer verfügbar sind. Das BSI weist außerdem darauf hin, dass jede zusätzliche Zugriffsberechtigung eine potenzielle Angriffsfläche darstellt und nur die für die jeweilige Aufgabe notwendigen Ressourcen freigegeben werden sollten.
Dabei müssen drei unterschiedliche Berechtigungsebenen betrachtet werden:
Darf der Mitarbeiter die KI-Anwendung verwenden?
Welche Informationen darf der Mitarbeiter in die KI eingeben oder hochladen?
Auf welche Systeme und Datenquellen darf die KI im Namen des Mitarbeiters zugreifen?
In vielen Unternehmen ist lediglich die erste Frage ansatzweise geregelt.
KI macht bestehende Überberechtigungen sichtbar
Zu umfangreiche Benutzerberechtigungen sind kein neues Problem. Mitarbeiter wechseln Abteilungen, übernehmen vorübergehend Aufgaben oder erhalten für Projekte zusätzliche Zugriffe. Nach Abschluss der Tätigkeit werden diese Berechtigungen häufig nicht vollständig entzogen. Solange Informationen über verschiedene Verzeichnisse, Anwendungen und Ablagestrukturen verteilt sind, bleiben solche Überberechtigungen teilweise unbemerkt. Der Mitarbeiter müsste wissen, wo sich eine Information befindet, und gezielt danach suchen.
Eine mit Unternehmensdaten verbundene KI verändert diese Situation.
Der Mitarbeiter kann eine Frage in natürlicher Sprache stellen. Die KI durchsucht – abhängig von ihrer technischen Einbindung – verschiedene freigegebene Quellen, kombiniert die gefundenen Inhalte und erstellt daraus eine verständliche Antwort.
Dadurch wird ein bereits vorhandener Berechtigungsfehler nicht unbedingt neu erzeugt. Er lässt sich jedoch wesentlich einfacher nutzen.
KI wird damit zum Beschleuniger bestehender Schwächen im Berechtigungsmanagement.
Ein typisches Szenario aus der Praxis
Ein Unternehmen führt einen KI-Assistenten ein, der auf interne Dokumentenablagen zugreifen kann. Ziel ist es, Richtlinien, Projektunterlagen und technische Dokumentationen schneller auffindbar zu machen.
Die technische Einführung verläuft erfolgreich. Die Anwendung wird über das bestehende Benutzerkonto aufgerufen und übernimmt dessen Berechtigungen.
Nicht geprüft wurde jedoch, ob diese Berechtigungen noch den aktuellen Aufgaben der Mitarbeiter entsprechen. Historisch gewachsene Gruppenmitgliedschaften, freigegebene Projektverzeichnisse und zu weit gefasste Zugriffsrollen bleiben bestehen.
Ein Mitarbeiter fragt die KI nach Informationen zu einem früheren Projekt. Die Antwort enthält Inhalte aus Vertragsunterlagen, Kalkulationen und internen Bewertungen, auf die er aufgrund seiner aktuellen Funktion keinen Zugriff mehr benötigen würde.
Technisch hat die KI möglicherweise korrekt gearbeitet. Organisatorisch liegt dennoch ein erheblicher Kontrollverlust vor.
Welche Risiken entstehen durch unkontrollierte KI-Berechtigungen?
Unbeabsichtigte Offenlegung vertraulicher Informationen
Mitarbeiter können personenbezogene Daten, Vertragsinformationen, technische Unterlagen, Quellcode oder Geschäftsgeheimnisse in nicht freigegebene KI-Dienste eingeben. Auch bei freigegebenen Anwendungen kann eine falsche Konfiguration dazu führen, dass Informationen einem zu großen Nutzerkreis zur Verfügung stehen. Das BSI weist darauf hin, dass generative KI bestehende IT-Sicherheitsbedrohungen verstärken und zusätzliche Risiken für Unternehmen und Behörden schaffen kann. Die sichere Nutzung sollte deshalb auf einer systematischen Risikobetrachtung beruhen.
Unkontrollierte Verknüpfung verschiedener Datenquellen
Eine einzelne Information ist möglicherweise nicht besonders schutzbedürftig. Werden jedoch Informationen aus mehreren Quellen kombiniert, können daraus neue Erkenntnisse entstehen. Beispielsweise können technische Dokumentationen, Projektpläne, Abwesenheitsinformationen und Lieferantendaten gemeinsam ein wesentlich detaillierteres Bild erzeugen als jedes Dokument für sich.
Fehlende Nachvollziehbarkeit
Wer hat welche KI-Anwendung genutzt? Welche Daten wurden verarbeitet? Auf welche Quellen griff das System zu? Welche Ergebnisse wurden erzeugt und anschließend für Entscheidungen verwendet? Ohne zentrale Benutzerkonten, Protokollierung und definierte Verantwortlichkeiten lassen sich diese Fragen häufig nicht zuverlässig beantworten. Aktuelle Empfehlungen zur KI-Cybersicherheit verbinden deshalb Zugriffskontrollen mit Protokollierung, Überwachung und einer risikobasierten Steuerung.
Fortbestehende Zugriffe nach Rollenwechseln
Wechselt ein Mitarbeiter den Aufgabenbereich, müssen nicht nur seine direkten Zugriffsrechte überprüft werden. Auch persönliche KI-Arbeitsbereiche, gespeicherte Prompts, hochgeladene Dokumente, freigegebene KI-Agenten, API-Schlüssel und eingerichtete Verbindungen zu Datenquellen müssen berücksichtigt werden.
Nutzung privater Benutzerkonten
Werden KI-Dienste über private Konten genutzt, fehlen dem Unternehmen regelmäßig zentrale Kontrollmöglichkeiten. Dazu gehören die Durchsetzung von Sicherheitsvorgaben, das Sperren von Konten, die Protokollierung der Nutzung und die Rückgabe oder Löschung betrieblicher Informationen beim Ausscheiden eines Mitarbeiters.
Entscheidungen auf unzureichender Grundlage
Berechtigungen betreffen nicht nur den Zugriff auf Daten. Es muss ebenfalls geregelt werden, wer KI-Ergebnisse für welche Entscheidungen verwenden darf. Ein Mitarbeiter darf möglicherweise eine KI zur Formulierung eines Textentwurfs nutzen. Daraus folgt jedoch nicht automatisch, dass er KI-generierte Vertragsbewertungen, Personalentscheidungen, Risikobewertungen oder technische Freigaben ungeprüft übernehmen darf.
Eine KI-Richtlinie allein reicht nicht aus
Viele Unternehmen reagieren auf die zunehmende KI-Nutzung mit einer Richtlinie. Darin wird beispielsweise festgelegt, welche Anwendungen erlaubt sind und welche Informationen nicht eingegeben werden dürfen. Eine solche Regelung ist sinnvoll. Sie ersetzt jedoch kein technisches und organisatorisches Berechtigungsmanagement.
Ein wirksamer Rahmen verbindet mehrere Elemente:
freigegebene KI-Anwendungen und zulässige Anwendungsfälle
personenbezogene Benutzerkonten mit zentraler Authentifizierung
rollenbasierte Zugriffsrechte nach dem Minimalprinzip
gesonderte Freigabe von Schnittstellen und Datenquellen
Vorgaben für das Hochladen und Verarbeiten von Informationen
regelmäßige Überprüfung erteilter Berechtigungen
Protokollierung sicherheitsrelevanter Aktivitäten
geregeltes Offboarding
Schulung der Mitarbeiter sowie
definierte Meldewege für Fehler und Sicherheitsvorfälle
Die Zugriffsrechte der KI sollten dabei nicht umfangreicher sein als die Berechtigungen, die für den konkreten Anwendungsfall erforderlich sind
So entsteht ein belastbares KI-Berechtigungskonzept
1. KI-Anwendungen und Anwendungsfälle erfassen
Zunächst muss bekannt sein, welche KI-Systeme tatsächlich verwendet werden. Neben zentral eingeführten Anwendungen sollten auch Browserdienste, Softwareintegrationen, mobile Apps, Entwicklungswerkzeuge und eigenständig eingerichtete Schnittstellen berücksichtigt werden.
Eine reine Abfrage bei der IT reicht häufig nicht aus. Viele Anwendungen werden direkt durch Fachbereiche oder einzelne Mitarbeiter genutzt.
2. Daten und Schutzbedarf bestimmen
Für jeden Anwendungsfall sollte festgelegt werden, welche Daten verarbeitet werden dürfen. Dabei hilft eine bestehende Informationsklassifizierung.
Nicht jede KI benötigt Zugriff auf sämtliche Unternehmensinformationen. Ein Assistent für öffentlich verfügbare Marketingtexte benötigt beispielsweise keine Verbindung zu Personal-, Vertrags- oder Entwicklungsdaten.
3. Berechtigungen nach Rollen vergeben
Berechtigungen sollten sich aus der tatsächlichen Aufgabe ergeben und nicht pauschal für alle Mitarbeiter vergeben werden.
Dabei ist zu unterscheiden zwischen:
- Nutzung der KI-Anwendung,
- Erstellung oder Veränderung von KI-Agenten,
- Verbindung zusätzlicher Datenquellen,
- Freigabe von Ergebnissen,
- administrativer Konfiguration und
- Auswertung von Protokollen.
Besonders kritische Funktionen sollten nicht ausschließlich durch eine einzelne Person kontrolliert werden.
4. Schnittstellen und Datenquellen gesondert freigeben
Die Freigabe einer KI-Anwendung darf nicht automatisch zur Freigabe sämtlicher technisch möglicher Integrationen führen.
Jede Verbindung zu Dokumentenablagen, E-Mail-Systemen, CRM-Plattformen, Quellcodeverwaltung oder anderen Fachanwendungen verändert das Risikoprofil. Vor der Aktivierung sollten Zweck, Datenumfang, Berechtigungsmodell und Protokollierung geprüft werden.
5. Regelmäßige Rezertifizierung durchführen
Berechtigungen verändern sich mit der Organisation. Deshalb sollten sie regelmäßig durch die zuständigen Prozess- und Datenverantwortlichen überprüft werden.
Eine reine Bestätigung durch die IT ist häufig nicht ausreichend. Der Fachbereich muss beurteilen, ob ein Mitarbeiter den Zugriff für seine aktuelle Tätigkeit weiterhin benötigt.
6. Rollenwechsel und Austritte berücksichtigen
Beim Wechsel der Position oder beim Ausscheiden eines Mitarbeiters müssen sämtliche KI-bezogenen Zugänge betrachtet werden. Dazu gehören auch gespeicherte Inhalte, persönliche Arbeitsbereiche, selbst erstellte Agenten, Freigaben und technische Schlüssel.
7. Nutzung überwachen und Auffälligkeiten bewerten
Protokollierung sollte nicht als umfassende Überwachung der Mitarbeiter verstanden werden. Sie dient dazu, sicherheitsrelevante Vorgänge nachvollziehen und ungewöhnliche Aktivitäten erkennen zu können.
Welche Daten protokolliert werden dürfen und wie lange sie gespeichert werden, muss unter Berücksichtigung der rechtlichen und betrieblichen Rahmenbedingungen festgelegt werden.
Mitarbeiter benötigen Regeln und Verständnis
Technische Kontrollen allein verhindern keine unsichere KI-Nutzung. Mitarbeiter müssen verstehen, warum bestimmte Informationen nicht in frei verfügbare KI-Dienste eingegeben werden dürfen und weshalb Verbindungen zu Unternehmensdaten einer Freigabe bedürfen.
Der EU AI Act greift die Bedeutung ausreichender KI-Kompetenz ausdrücklich auf. Nach Artikel 4 sollen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, damit Personen, die in ihrem Auftrag mit diesen Systemen arbeiten, über ein angemessenes Maß an KI-Kompetenz verfügen. Welche Qualifizierung erforderlich ist, hängt unter anderem von Kenntnissen, Erfahrung und Nutzungskontext ab.
Eine wirksame Schulung sollte deshalb nicht nur erklären, wie ein KI-Werkzeug bedient wird. Sie muss auch folgende Fragen beantworten:
- Welche KI-Anwendungen sind freigegeben?
- Welche Informationen dürfen verarbeitet werden?
- Welche Ergebnisse müssen fachlich überprüft werden?
- Wann ist eine zusätzliche Freigabe erforderlich?
- Wie werden Fehlverhalten, Datenverluste oder unerwartete Ergebnisse gemeldet?
KI-Governance muss in bestehende Prozesse integriert werden
Unternehmen benötigen nicht für jedes KI-Risiko ein vollständig neues Managementsystem.
Ein etabliertes Informationssicherheits-Managementsystem bietet bereits geeignete Strukturen für Risikobewertung, Berechtigungsmanagement, Lieferantensteuerung, Schulungen, Änderungsmanagement und die Behandlung von Sicherheitsvorfällen.
Entscheidend ist, KI nicht als isoliertes Technologiethema zu behandeln. Die Anwendungen müssen in bestehende Prozesse aufgenommen und anhand ihrer konkreten Nutzung bewertet werden.
Das NIST AI Risk Management Framework verfolgt ebenfalls einen kontinuierlichen und anpassbaren Ansatz zur Identifikation, Bewertung und Steuerung von KI-Risiken. Es soll Organisationen dabei unterstützen, Risiken über den gesamten Lebenszyklus eines KI-Systems hinweg zu beherrschen.
Fazit: KI darf nur so viel sehen, wie sie für ihre Aufgabe benötigt
Unkontrollierte KI-Nutzung beginnt nicht erst mit einem großen, zentral eingeführten System. Sie beginnt häufig mit einem persönlichen Benutzerkonto, einem hochgeladenen Dokument oder einer unbemerkt aktivierten Verbindung zu einer Unternehmensanwendung.
Das größte Risiko liegt dabei nicht immer in der KI selbst. Häufig verstärkt sie bereits vorhandene organisatorische Schwächen:
- zu umfangreiche Benutzerrechte,
- fehlende Datenklassifizierung,
- unklare Verantwortlichkeiten,
- nicht geregelte Softwarebeschaffung und
- unzureichende Kontrolle von Rollenwechseln.
Ein wirksames KI-Berechtigungskonzept muss deshalb klären, wer welche KI für welchen Zweck und mit Zugriff auf welche Informationen verwenden darf.
Erst wenn diese Fragen nachvollziehbar beantwortet sind, kann KI ihre Vorteile entfalten, ohne dass Transparenz und Kontrolle verloren gehen.
Unterstützung durch mabs4.0
Die mabs4.0 Deutschland GmbH unterstützt Unternehmen dabei, KI-Anwendungen sicher und nachvollziehbar in bestehende Organisations- und Managementstrukturen zu integrieren.
Dazu gehören insbesondere:
- Erfassung und Bewertung vorhandener KI-Anwendungen,
- Entwicklung einer KI-Richtlinie,
- Erstellung eines Rollen- und Berechtigungskonzepts,
- Risikobewertung konkreter KI-Anwendungsfälle,
- Integration in ein bestehendes ISMS,
- Bewertung von KI-Dienstleistern sowie
- praxisnahe Schulungen für Mitarbeiter und Geschäftsführung.
Sie möchten KI im Unternehmen nutzen, ohne die Kontrolle über Berechtigungen und Unternehmensdaten zu verlieren? Sprechen Sie uns an.