BSI-Empfehlungen zur KI-Sicherheit für Unternehmen

Welche Rolle spielt das BSI bei KI-Sicherheit?

Das BSI ist die Cybersicherheitsbehörde des Bundes. Es berät Wirtschaft, Verwaltung und Bürger, entwickelt Standards wie das IT-Grundschutz-Kompendium und ist Aufsichtsbehörde für Betreiber kritischer Anlagen sowie für Einrichtungen im Anwendungsbereich von NIS2. Beim Thema KI verfolgt das BSI zwei Blickwinkel: die Sicherheit von KI-Systemen selbst und die Veränderung der Bedrohungslage durch KI. Beides spiegelt sich in seinen Publikationen und im jährlichen Bericht zur Lage der IT-Sicherheit in Deutschland wider.

Zentrale Veröffentlichungen

Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden

Dieses Dokument richtet sich an Organisationen, die große Sprachmodelle und andere generative KI einsetzen oder einsetzen wollen. Das BSI ordnet die Risiken dabei in drei Gruppen:

• Risiken bei ordnungsgemäßer Nutzung: etwa sachlich falsche, erfundene oder voreingenommene Ausgaben, fehlende Aktualität und mangelnde Nachvollziehbarkeit.
• Risiken durch missbräuchliche Nutzung: zum Beispiel das Erstellen von Phishing-Nachrichten, Desinformation oder Schadcode mithilfe generativer KI.
• Risiken durch Angriffe auf die Modelle: darunter Prompt Injection, Vergiftung von Trainingsdaten und das Auslesen vertraulicher Informationen.

Daraus leitet das BSI Gegenmaßnahmen ab, etwa die Sensibilisierung der Nutzenden, eine sorgfältige Prüfung vor dem Einsatz, den bewussten Umgang mit sensiblen Daten in Eingaben, die kritische Prüfung von Ausgaben und die Einschränkung der Rechte, mit denen ein Modell auf andere Systeme zugreift. Das Dokument wird fortgeschrieben; nutzen Sie jeweils die aktuelle Fassung auf der BSI-Webseite.

AIC4 – AI Cloud Service Compliance Criteria Catalogue

Der AIC4 ist ein Kriterienkatalog für KI-basierte Cloud-Dienste. Er baut auf dem Cloud-Kriterienkatalog C5 des BSI auf und ergänzt ihn um KI-spezifische Anforderungen, unter anderem zu Sicherheit und Robustheit, Leistungsfähigkeit, Zuverlässigkeit, Datenqualität, Erklärbarkeit und Bias. Anbieter können die Einhaltung durch Wirtschaftsprüfer testieren lassen. Für Unternehmen ist der AIC4 vor allem bei der Beschaffung nützlich: Ein entsprechender Prüfbericht liefert belastbare Nachweise, die über reine Marketingaussagen hinausgehen.

IT-Grundschutz als Basis

Ein eigener Grundschutz-Baustein, der KI umfassend abdeckt, ist bislang nicht der Kern der BSI-Empfehlungen. KI-Anwendungen laufen jedoch auf Servern, in Cloud-Diensten und über Schnittstellen, für die bestehende Bausteine gelten – etwa zu Cloud-Nutzung, Webanwendungen, Identitäts- und Berechtigungsmanagement sowie Patch- und Änderungsmanagement. Die KI-spezifischen Hinweise ergänzen diese Grundlagen, ersetzen sie aber nicht.

Die Empfehlungen in der Praxis umsetzen

Aus den BSI-Hinweisen lässt sich für mittelständische Unternehmen ein pragmatisches Vorgehen ableiten:

1. Bestandsaufnahme: Erfassen Sie, welche KI-Dienste im Unternehmen genutzt werden – auch solche, die Mitarbeitende eigenständig verwenden (Schatten-KI).
2. Nutzungsrichtlinie: Legen Sie fest, welche Dienste zugelassen sind und welche Daten in Eingaben verwendet werden dürfen. Vertrauliche Informationen und personenbezogene Daten gehören nur in freigegebene Dienste mit geeigneten Verträgen.
3. Risikoanalyse je Anwendungsfall: Bewerten Sie für jeden Einsatz die drei vom BSI genannten Risikogruppen. Ein interner Textassistent erfordert andere Maßnahmen als ein Agent, der E-Mails versendet oder Bestellungen auslöst.
4. Beschaffung absichern: Fragen Sie Anbieter nach Nachweisen wie C5- oder AIC4-Testaten, nach Speicherort und Verwendung Ihrer Daten sowie nach dem Umgang mit Sicherheitsvorfällen.
5. Technische Schutzmaßnahmen: Setzen Sie minimale Berechtigungen für KI-Anwendungen, trennen Sie vertrauenswürdige und nicht vertrauenswürdige Eingaben und protokollieren Sie Zugriffe.
6. Schulung: Sensibilisieren Sie Mitarbeitende für Grenzen der Ausgaben und für KI-gestützte Täuschungsversuche. Das unterstützt die Förderung der KI-Kompetenz nach Art. 4 EU AI Act, die seit 2. Februar 2025 gilt und durch den Digital Omnibus (in Kraft seit 27. Juli 2026) als Förderpflicht gefasst ist.
7. Regelmäßig überprüfen: KI-Dienste ändern sich schnell. Planen Sie Überprüfungen in Ihren ISMS-Zyklus ein.

Verhältnis zu EU AI Act und NIS2

Die BSI-Empfehlungen sind fachliche Leitlinien, der EU AI Act (Verordnung (EU) 2024/1689) dagegen unmittelbar geltendes Recht. Nationale Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle für den AI Act ist in Deutschland seit Inkrafttreten des KI-Marktüberwachungsgesetzes (KI-MIG) am 29. Juli 2026 die Bundesnetzagentur, nicht das BSI. Für Einrichtungen, die unter NIS2 fallen, ist das BSI jedoch die zuständige Aufsicht: KI-Systeme sind dort Teil des allgemeinen Risikomanagements nach § 30 BSIG. Wer sich an den BSI-Empfehlungen orientiert, kann gegenüber Aufsicht, Prüfern und Kunden nachvollziehbar belegen, dass KI-Risiken nach anerkanntem Stand bewertet wurden.

Fazit

Die BSI-Empfehlungen geben deutschen Unternehmen eine herstellerneutrale, praxisnahe Grundlage für den sicheren KI-Einsatz – von der Nutzungsrichtlinie bis zur Anbieterauswahl. SecTepe unterstützt dabei, diese Hinweise in bestehende ISMS-Prozesse nach ISO/IEC 27001 oder IT-Grundschutz einzubinden.

Häufige Fragen

Sind die BSI-Empfehlungen zur KI verpflichtend?

Für die meisten Unternehmen nicht unmittelbar. Sie konkretisieren aber, was als angemessene Sicherheit gilt, und werden bei NIS2-Prüfungen, Audits und im Schadensfall als Maßstab herangezogen.

Brauchen wir für jeden KI-Dienst ein AIC4-Testat?

Nein. Das Testat ist ein hilfreicher Nachweis bei KI-Cloud-Diensten mit höherem Schutzbedarf. Bei weniger kritischen Anwendungen genügen oft eine Anbieterbewertung und vertragliche Zusicherungen.