EU AI Act: Compliance für Unternehmen in Deutschland

Grundprinzip: Pflichten nach Risiko und Rolle

Der AI Act folgt einem risikobasierten Ansatz mit vier Stufen:

• Unannehmbares Risiko (verboten, Art. 5): etwa Social Scoring, manipulative Techniken, die Schwächen ausnutzen, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit Ausnahmen aus medizinischen oder Sicherheitsgründen) sowie das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Datenbanken. Durch den Digital Omnibus neu hinzugekommen sind KI-Systeme zur Erzeugung nicht einvernehmlicher intimer Bilder („Nudifier“) und von Darstellungen sexuellen Kindesmissbrauchs (Übergangsfrist bis 2. Dezember 2026).
• Hohes Risiko: KI-Systeme als Sicherheitsbauteile regulierter Produkte (Anhang I) sowie Systeme in den Bereichen nach Anhang III, darunter Beschäftigung und Personalmanagement, Kreditwürdigkeitsprüfung, Bildung, kritische Infrastrukturen und Biometrie.
• Begrenztes Risiko (Transparenzpflichten, Art. 50): Chatbots müssen sich als KI zu erkennen geben, Deepfakes und bestimmte KI-generierte Texte sind zu kennzeichnen.
• Minimales Risiko: etwa Spamfilter oder KI in Computerspielen – keine spezifischen Pflichten über die KI-Kompetenz hinaus.

Ebenso wichtig ist die Rolle des Unternehmens. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen in Verkehr und tragen die umfangreichsten Pflichten. Betreiber setzen ein KI-System in eigener Verantwortung ein – die typische Rolle mittelständischer Unternehmen. Wer ein Hochrisiko-System wesentlich verändert oder unter eigenem Namen vertreibt, kann nach Art. 25 selbst zum Anbieter werden.

Zeitplan

Die Fristen für Hochrisiko-Systeme wurden durch den Digital Omnibus (politische Einigung 7. Mai 2026, Parlament 16. Juni 2026, Rat 29. Juni 2026, in Kraft seit 27. Juli 2026) verschoben: für Anhang III vom 2. August 2026 auf den 2. Dezember 2027, für Anhang I vom 2. August 2027 auf den 2. August 2028. Die Transparenzpflichten nach Art. 50 gelten dagegen bereits seit dem 2. August 2026.

Was Betreiber konkret tun müssen

Für die meisten Unternehmen in Deutschland stehen folgende Pflichten im Vordergrund:

• KI-Kompetenz (Art. 4): Anbieter und Betreiber müssen die Entwicklung der KI-Kompetenz ihrer Beschäftigten, die mit KI-Systemen arbeiten, fördern und unterstützen; der Digital Omnibus hat die frühere Pflicht, ein „ausreichendes Maß“ an KI-Kompetenz sicherzustellen, entsprechend abgeschwächt. Die Vorgabe gilt seit Februar 2025 und unabhängig von der Risikoklasse – also auch für den Einsatz von Chatbots oder Übersetzungstools. Rollenbezogene Schulungen bleiben der empfohlene Weg.
• Transparenz (Art. 50): Kunden-Chatbots kennzeichnen, selbst erzeugte Deepfakes offenlegen.
• Betreiberpflichten bei Hochrisiko-KI (Art. 26): Einsatz gemäß Gebrauchsanweisung, menschliche Aufsicht durch kompetente Personen, Kontrolle der Eingabedaten, Aufbewahrung der automatisch erzeugten Protokolle, Information betroffener Beschäftigter vor dem Einsatz am Arbeitsplatz und Meldung schwerwiegender Vorfälle.
• Grundrechte-Folgenabschätzung (Art. 27): Pflicht für öffentliche Stellen und bestimmte private Betreiber, etwa bei Kreditwürdigkeitsprüfungen oder der Risikobewertung in Lebens- und Krankenversicherungen.

Anbieter von Hochrisiko-Systemen müssen zusätzlich unter anderem ein Risikomanagement- und Qualitätsmanagementsystem betreiben, Daten-Governance und technische Dokumentation nachweisen, Genauigkeit, Robustheit und Cybersicherheit sicherstellen (Art. 15), eine Konformitätsbewertung durchlaufen und das System in der EU-Datenbank registrieren.

Aufsicht und Sanktionen in Deutschland

Seit Inkrafttreten des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) am 29. Juli 2026 ist die Bundesnetzagentur in Deutschland Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle; sie verfügt über eine unabhängige KI-Marktüberwachungskammer und bietet einen KI-Service-Desk sowie KI-Reallabore an. Für bestimmte Bereiche bleiben bestehende Fachaufsichten zuständig. Die Bußgelder reichen bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken und bis zu 15 Mio. € oder 3 % bei Verstößen gegen die meisten übrigen Pflichten; für KMU gilt jeweils der niedrigere Betrag.

Erste Schritte

1. KI-Inventar erstellen: Alle eingesetzten und entwickelten KI-Systeme erfassen, auch KI-Funktionen in Standardsoftware und Cloud-Diensten.
2. Klassifizieren: Für jedes System Risikoklasse und eigene Rolle (Anbieter oder Betreiber) bestimmen und begründet dokumentieren.
3. Verbotene Praktiken ausschließen: Insbesondere Emotionserkennung im Personalbereich kritisch prüfen.
4. KI-Kompetenz nachweisbar aufbauen: Rollenbezogene Schulungen durchführen und dokumentieren.
5. Lieferanten einbeziehen: Von Anbietern Gebrauchsanweisungen, Konformitätsnachweise und Informationen zu Datenverarbeitung anfordern und vertraglich absichern.
6. Governance verankern: Verantwortlichkeiten festlegen und KI in bestehende Managementsysteme integrieren; ISO/IEC 42001 bietet dafür einen zertifizierbaren Rahmen, der sich gut mit einem ISMS nach ISO/IEC 27001 kombinieren lässt.

Fazit

Für die meisten Unternehmen beginnt AI-Act-Compliance nicht mit Konformitätsbewertungen, sondern mit einem sauberen KI-Inventar, einer begründeten Klassifizierung und geschulten Mitarbeitenden. SecTepe unterstützt beim Aufbau dieser Grundlagen und bei der Verzahnung mit ISMS und Datenschutz.

Häufige Fragen

Gilt der AI Act auch, wenn wir nur ChatGPT oder Copilot nutzen?

Ja, als Betreiber. In der Regel betrifft Sie dann vor allem die Förderung der KI-Kompetenz und gegebenenfalls die Transparenzpflichten, nicht die Hochrisiko-Anforderungen.

Ist KI im Bewerbungsprozess automatisch Hochrisiko?

KI-Systeme zur Auswahl, Filterung oder Bewertung von Bewerbungen sind in Anhang III ausdrücklich genannt und damit grundsätzlich Hochrisiko. Die Betreiberpflichten nach Art. 26 sind dann einzuhalten.