KI-Risikomanagement: Leitfaden für den Mittelstand

Definition: KI-Risikomanagement ist der systematische Prozess, mit dem ein Unternehmen die Risiken seiner KI-Anwendungen erkennt, bewertet, behandelt und laufend überwacht. Es umfasst neben Informationssicherheit auch rechtliche, ethische und betriebliche Risiken, etwa fehlerhafte Ergebnisse, Diskriminierung, Datenabfluss oder Abhängigkeit von einzelnen Anbietern.

Warum KI ein eigenes Risikomanagement braucht

Viele Mittelständler setzen KI ein, ohne es als eigenes Projekt wahrzunehmen: Der Chatbot im Kundenservice, die Übersetzungsfunktion im Office-Paket, die automatische Belegerkennung in der Buchhaltung, das Sprachmodell, das Beschäftigte privat abonniert haben und dienstlich nutzen. Klassische IT-Risikoanalysen erfassen solche Anwendungen oft nur als „Software“ und übersehen KI-typische Eigenschaften:

Probabilistische Ergebnisse: KI-Systeme liefern plausible, aber nicht garantiert richtige Antworten. Erfundene Fakten (Halluzinationen) sind kein Fehler im klassischen Sinn, sondern Teil der Funktionsweise.
Datenabhängigkeit: Qualität und Verzerrungen der Trainingsdaten bestimmen das Verhalten; Eingaben der Nutzer können wiederum vertrauliche Informationen enthalten.
Neue Angriffsflächen: Prompt Injection, manipulierte Trainingsdaten oder das Ausspähen von Modellen sind mit klassischen Schutzmaßnahmen nur teilweise abgedeckt.
Veränderung über die Zeit: Anbieter aktualisieren Modelle ohne Vorankündigung, und die Qualität kann sich durch veränderte Eingabedaten schleichend verschlechtern (Drift).

Orientierungsrahmen

Für den Mittelstand muss kein eigenes Methodenwerk entstehen. Etablierte Rahmenwerke lassen sich kombinieren:

ISO/IEC 23894:2023 überträgt den Risikomanagementprozess der ISO 31000 auf KI und beschreibt KI-spezifische Risikoquellen.
NIST AI RMF 1.0 gliedert die Arbeit in vier Funktionen: Govern (Verantwortung und Kultur), Map (Kontext und Einsatzzweck), Measure (Bewerten und Testen), Manage (Behandeln und Überwachen).
EU AI Act (Verordnung (EU) 2024/1689) gibt mit seinen Risikoklassen vor, welche Pflichten überhaupt greifen.
ISO/IEC 27001:2022 liefert den Managementrahmen, in den sich KI-Risiken einfügen lassen, statt ein Parallelsystem aufzubauen.

Leitfaden in sieben Schritten

KI-Inventar erstellen: Alle eingesetzten KI-Funktionen erfassen, einschließlich eingebetteter Funktionen in Standardsoftware und nicht freigegebener Nutzung (Schatten-KI). Pro Anwendung festhalten: Zweck, Anbieter, verarbeitete Daten, verantwortliche Person.
Rolle und Risikoklasse bestimmen: Ist das Unternehmen Anbieter oder Betreiber im Sinne des AI Act? Fällt die Anwendung unter verbotene Praktiken, Hochrisiko (etwa Bewerberauswahl oder Leistungsbewertung von Beschäftigten nach Anhang III), Transparenzpflichten oder minimales Risiko?
Risiken bewerten: Für jede relevante Anwendung Eintrittswahrscheinlichkeit und Auswirkung einschätzen, getrennt nach Vertraulichkeit, Integrität der Ergebnisse, Verfügbarkeit, Rechtskonformität und Auswirkungen auf Betroffene.
Maßnahmen festlegen: Technische Kontrollen (Zugriffsbeschränkung, Datenklassifizierung, Protokollierung), organisatorische Regeln (KI-Richtlinie, Freigabeprozess für neue Tools) und menschliche Aufsicht bei folgenreichen Entscheidungen.
Lieferanten prüfen: Wo werden Daten verarbeitet, werden Eingaben zum Training verwendet, welche Zertifizierungen und Vertragszusagen gibt es, wie wird über Modelländerungen informiert?
Kompetenz aufbauen: Seit dem 2. Februar 2025 gilt Art. 4 AI Act; nach der Änderung durch den Digital Omnibus (in Kraft seit 27. Juli 2026) müssen Anbieter und Betreiber die Entwicklung der KI-Kompetenz ihres Personals fördern. Schulungen sollten an Rolle und Einsatz angepasst und dokumentiert sein.
Überwachen und nachsteuern: Vorfälle und Fehlergebnisse erfassen, das Inventar regelmäßig aktualisieren und die Bewertung bei neuen Anwendungen oder Modellwechseln wiederholen.

Typische Risiken und passende Maßnahmen

Risiko	Beispiel	Maßnahme
Datenabfluss	Vertragsentwürfe werden in einen öffentlichen Chatbot kopiert	Freigegebene Unternehmenslösung, Richtlinie, Datenklassen
Fehlerhafte Ergebnisse	KI-generierte Produktangaben enthalten falsche technische Werte	Vier-Augen-Prüfung, Kennzeichnung, Stichproben
Diskriminierung	Vorsortierung von Bewerbungen benachteiligt bestimmte Gruppen	Hochrisiko-Prüfung, menschliche Entscheidung, Tests auf Verzerrung
Manipulation	Kundenchatbot wird per Prompt Injection zu falschen Zusagen gebracht	Eingeschränkte Befugnisse, Ausgabefilter, Monitoring
Anbieterabhängigkeit	Anbieter ändert Modell, Preis oder Nutzungsbedingungen	Exit-Strategie, vertragliche Regelungen, Tests nach Updates

Verhältnismäßigkeit im Mittelstand

Ein angemessenes KI-Risikomanagement muss nicht aufwendig sein. Für die meisten Unternehmen reichen ein gepflegtes Inventar, eine verständliche KI-Richtlinie, ein einfacher Freigabeprozess und eine vertiefte Bewertung für die wenigen Anwendungen mit hohem Schadenspotenzial. Wer bereits ein ISMS nach ISO 27001 betreibt, ergänzt Risikokatalog, Asset-Verzeichnis und Lieferantenmanagement um KI-Aspekte. Ist das Unternehmen von NIS2 betroffen, gehören KI-Systeme ohnehin in das Risikomanagement nach § 30 BSIG, auch wenn NIS2 KI nicht ausdrücklich nennt. Bei personenbezogenen Daten ist zudem zu prüfen, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist.

Fazit

KI-Risikomanagement beginnt mit Transparenz über den tatsächlichen KI-Einsatz und wird wirksam, wenn es in bestehende Managementprozesse eingebettet ist. SecTepe unterstützt Mittelständler dabei, KI-Risiken pragmatisch in ihr ISMS zu integrieren, etwa im Rahmen eines externen ISB-Mandats.

Häufige Fragen

Brauchen wir ein KI-Risikomanagement, wenn wir nur Standardtools nutzen?

Ja, in einfacher Form. Auch bei Standardtools entscheiden Sie, welche Daten eingegeben und wie Ergebnisse verwendet werden. Genau dort entstehen die meisten Risiken.

Wer sollte im Unternehmen verantwortlich sein?

Die Gesamtverantwortung liegt bei der Geschäftsleitung. Operativ bewährt sich ein kleines Team aus Informationssicherheit, Datenschutz, IT und Fachbereich, damit technische, rechtliche und fachliche Risiken gemeinsam bewertet werden.

Weitere Begriffe in „KI & Machine Learning“

Alle Begriffe zum Thema „KI & Machine Learning“ →