NIS2 und KI-Systeme: Compliance in Deutschland

Rechtlicher Rahmen in Deutschland

Deutschland hat NIS2 mit dem NIS2-Umsetzungs- und Cybersicherheitsstärkungsgesetz (NIS2UmsuCG) umgesetzt. Das neugefasste BSI-Gesetz (BSIG) ist seit Dezember 2025 in Kraft. Betroffen sind „wichtige“ und „besonders wichtige“ Einrichtungen aus den in der Richtlinie genannten Sektoren – abhängig von Branche, Mitarbeiterzahl und Umsatz. Viele mittelständische Unternehmen fallen damit erstmals unter ein Cybersicherheitsgesetz, oft ohne es bereits geprüft zu haben.

Entscheidend ist: NIS2 fragt nicht, ob ein System „KI“ ist. Sobald ein Unternehmen betroffen ist, gelten die Pflichten für alle Systeme, die für die Erbringung seiner Dienste relevant sind. Ein Chatbot im Kundenservice, ein LLM-gestütztes Ticketsystem, eine Bilderkennung in der Qualitätssicherung oder ein KI-Agent mit Zugriff auf das ERP gehören damit in den Geltungsbereich des Risikomanagements nach § 30 BSIG n. F. (Art. 21 NIS2).

Wo KI-Systeme die NIS2-Pflichten berühren

Die Mindestmaßnahmen aus Art. 21 NIS2 lassen sich direkt auf KI übertragen. Einige Punkte verdienen besondere Aufmerksamkeit:

• Risikoanalyse und Sicherheitskonzepte: KI bringt eigene Angriffsflächen mit, etwa Prompt Injection, Datenabfluss über Modellantworten, manipulierte Trainingsdaten oder zu weit gefasste Berechtigungen von KI-Agenten. Die OWASP Top 10 for LLM Applications und MITRE ATLAS eignen sich als Checkliste für die Bedrohungsanalyse.
• Sicherheit der Lieferkette: Die meisten Unternehmen nutzen KI als Cloud-Dienst oder binden vortrainierte Modelle und Open-Source-Bibliotheken ein. Anbieter von KI-APIs, Modell-Repositories und Integrationspartner sind damit Lieferanten im Sinne von NIS2 und müssen bewertet und vertraglich eingebunden werden.
• Sicherheit bei Erwerb, Entwicklung und Wartung: Dazu gehören Schwachstellenmanagement für KI-Frameworks, die Prüfung von Modelldateien vor dem Einsatz und ein kontrollierter Änderungsprozess, wenn Modelle oder System-Prompts aktualisiert werden.
• Zugriffskontrolle und Identitäten: Service-Accounts und API-Schlüssel, mit denen KI-Anwendungen auf Daten zugreifen, sind privilegierte Identitäten. Sie brauchen minimale Rechte, Rotation und Überwachung. Multi-Faktor-Authentisierung für Administratoren von KI-Plattformen ist Pflichtprogramm.
• Bewältigung von Sicherheitsvorfällen: Incident-Response-Pläne sollten KI-spezifische Szenarien enthalten, etwa einen Agenten, der über manipulierte Eingaben unerwünschte Aktionen auslöst, oder ein kompromittiertes Modell-Repository.
• Schulung und Cyberhygiene: Mitarbeitende müssen wissen, welche Daten sie in KI-Werkzeuge eingeben dürfen und welche nicht. Unkontrollierte Nutzung externer KI-Dienste („Schatten-KI“) ist ein typisches Einfallstor für Datenabflüsse.

Meldepflichten bei KI-bezogenen Vorfällen

Erhebliche Sicherheitsvorfälle sind dem BSI in drei Stufen zu melden: Frühwarnung innerhalb von 24 Stunden, Meldung innerhalb von 72 Stunden, Abschlussbericht innerhalb eines Monats. Das gilt auch, wenn die Ursache in einem KI-System liegt – etwa wenn über eine Prompt-Injection-Schwachstelle vertrauliche Kundendaten abfließen oder ein KI-Agent produktive Systeme beeinträchtigt. Damit die Fristen einzuhalten sind, müssen KI-Anwendungen protokolliert und an das Security Monitoring angebunden sein. Ohne Logs von Prompts, Tool-Aufrufen und Zugriffen lässt sich ein Vorfall weder erkennen noch bewerten.

Verantwortung der Geschäftsleitung

Das BSIG verpflichtet die Geschäftsleitung in § 38, die Risikomanagementmaßnahmen zu billigen, ihre Umsetzung zu überwachen und regelmäßig an Schulungen teilzunehmen. Bei Pflichtverletzungen droht eine persönliche Haftung. Für KI bedeutet das: Der Einsatz von KI-Systemen mit Zugriff auf kritische Daten oder Prozesse ist eine Leitungsentscheidung, die dokumentiert und risikobasiert begründet sein sollte – nicht eine Einzelentscheidung einer Fachabteilung.

Vorgehen in der Praxis

1. Betroffenheit klären: Prüfen Sie zunächst, ob Ihr Unternehmen unter das BSIG fällt, und registrieren Sie sich gegebenenfalls beim BSI.
2. KI-Inventar erstellen: Erfassen Sie alle KI-Anwendungen, eingebundenen KI-Dienste und Agenten – einschließlich der Daten, auf die sie zugreifen, und der Anbieter, die dahinterstehen.
3. KI in die Risikoanalyse aufnehmen: Bewerten Sie KI-spezifische Bedrohungen im bestehenden ISMS, statt ein Parallelsystem aufzubauen.
4. Lieferanten bewerten: Fordern Sie von KI-Anbietern Informationen zu Datenverarbeitung, Sicherheitszertifizierungen und Meldewegen bei Vorfällen ein.
5. Berechtigungen begrenzen: Setzen Sie das Prinzip der minimalen Rechte für KI-Service-Accounts und Agenten konsequent um.
6. Monitoring und Meldeprozess anpassen: Binden Sie KI-Logs an Ihr SIEM an und ergänzen Sie den Meldeprozess um KI-Szenarien.
7. Nachweise führen: Dokumentieren Sie Entscheidungen, Maßnahmen und Schulungen, damit Sie gegenüber dem BSI auskunftsfähig sind.

Verhältnis zum EU AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) und NIS2 gelten nebeneinander. Der AI Act regelt Anforderungen an KI-Systeme nach Risikoklassen, NIS2 die Cybersicherheit der Einrichtung insgesamt. Für Hochrisiko-KI verlangt der AI Act unter anderem Robustheit und Cybersicherheit. Wer NIS2-Maßnahmen sauber auf KI ausweitet, schafft damit eine gute Grundlage für beide Regelwerke. Ein gemeinsames Managementsystem, etwa ISO/IEC 27001 ergänzt um ISO/IEC 42001, vermeidet doppelte Dokumentation.

Fazit

NIS2 schafft keine eigenen KI-Regeln, macht KI-Systeme aber zu einem festen Bestandteil der gesetzlichen Sicherheitspflichten. Unternehmen sollten KI deshalb nicht als Sonderprojekt behandeln, sondern in Risikoanalyse, Lieferantenmanagement und Incident Response integrieren. SecTepe unterstützt bei der Betroffenheitsprüfung und bei der Integration von KI in ein bestehendes ISMS.

Häufige Fragen

Regelt NIS2 den Einsatz von KI direkt?

Nein. NIS2 enthält keine KI-spezifischen Vorschriften. KI-Systeme fallen unter das allgemeine Risikomanagement der betroffenen Einrichtung.

Muss ein Vorfall mit einem KI-Chatbot gemeldet werden?

Wenn der Vorfall erheblich ist, etwa weil vertrauliche Daten abfließen oder Dienste beeinträchtigt werden, gelten dieselben Meldefristen wie für andere Sicherheitsvorfälle.

Reicht es, einen zertifizierten KI-Anbieter zu wählen?

Nein. Die Verantwortung für das Risikomanagement bleibt beim Unternehmen. Eine Zertifizierung des Anbieters ist ein wichtiger Nachweis in der Lieferantenbewertung, ersetzt aber nicht die eigene Prüfung von Konfiguration, Berechtigungen und Datenflüssen.