Edge AI: Sicherheitsrisiken von KI auf IoT-Geräten

Wie Edge AI funktioniert

Ein Modell wird zentral trainiert, anschließend für die Zielhardware optimiert (etwa durch Quantisierung oder Pruning) und auf das Gerät übertragen. Dort übernimmt ein Mikrocontroller, ein Grafikprozessor oder ein spezieller KI-Beschleuniger die Inferenz. Typische Anwendungen sind Qualitätskontrolle per Kamera an der Fertigungslinie, vorausschauende Wartung anhand von Vibrationsdaten, Zutrittskontrolle, Sprachsteuerung oder Anomalieerkennung im Netzwerkverkehr.

Die Vorteile sind geringe Latenz, Unabhängigkeit von der Internetverbindung und Datenschutz, weil Rohdaten das Gerät nicht verlassen müssen. Aus Sicherheitssicht verschiebt sich damit jedoch die Angriffsfläche: vom gut geschützten Rechenzentrum auf Tausende verteilte Geräte.

Spezifische Sicherheitsrisiken

• Modelldiebstahl und Reverse Engineering: Liegt das Modell unverschlüsselt im Flash-Speicher oder in einem App-Paket, kann ein Angreifer es mit physischem Zugriff oder durch Auslesen der Firmware kopieren. Damit gehen nicht nur geistiges Eigentum und Trainingsaufwand verloren; mit dem Modell in der Hand lassen sich auch gezielt Täuschungsangriffe entwickeln.
• Adversarial Examples in der physischen Welt: Speziell gestaltete Aufkleber, Muster oder Geräusche können ein Bilderkennungs- oder Audiomodell zu falschen Ergebnissen verleiten. Bei Edge-Systemen ist die Eingabe die reale Umgebung, die ein Angreifer mitunter direkt beeinflussen kann.
• Manipulation von Sensordaten: Wer den Sensor oder die Leitung zum Sensor manipuliert, verfälscht die Grundlage jeder KI-Entscheidung.
• Unsichere Update-Kanäle: Modelle und Firmware werden über das Netz aktualisiert. Fehlen Signaturprüfung und Integritätsschutz, kann ein Angreifer ein manipuliertes Modell einschleusen, etwa eines mit eingebauter Hintertür.
• Seitenkanalangriffe: Aus Stromverbrauch, Laufzeit oder elektromagnetischer Abstrahlung lassen sich bei physischem Zugriff Rückschlüsse auf Modellparameter oder verarbeitete Daten ziehen.
• Klassische IoT-Schwächen: Standardpasswörter, offene Debug-Schnittstellen wie JTAG oder UART, veraltete Betriebssysteme und fehlende Netzwerksegmentierung betreffen Edge-AI-Geräte genauso wie jedes andere IoT-Gerät.
• Fehlende Überwachung: Anders als in der Cloud fehlen oft zentrale Protokolle. Eine schleichende Manipulation oder ein nachlassendes Modell (Model Drift) fällt spät auf.

Relevanz für Industrie und Mittelstand

Gerade produzierende Unternehmen setzen Edge AI in der Fertigung ein, häufig integriert in Maschinen von Zulieferern. Eine manipulierte Qualitätskontrolle kann fehlerhafte Teile durchlassen, eine getäuschte Zutrittskontrolle Unbefugten Einlass gewähren. Zudem verbinden Edge-Geräte oft die Produktions-IT (OT) mit der Büro-IT und können so zum Einfallstor ins Unternehmensnetz werden.

Schutzmaßnahmen

1. Inventar und Verantwortlichkeiten: Erfassen Sie alle Geräte mit KI-Funktion, ihre Modellversionen, Hersteller und Update-Zuständigkeiten.
2. Vertrauenswürdiger Systemstart: Secure Boot stellt sicher, dass nur signierte Firmware startet. Ein Hardware-Vertrauensanker wie ein TPM oder ein Secure Element schützt Schlüssel.
3. Modell schützen: Modelle verschlüsselt ablegen und möglichst nur in einer geschützten Ausführungsumgebung (Trusted Execution Environment, etwa ARM TrustZone) entschlüsseln und ausführen.
4. Signierte Updates: Firmware- und Modellupdates kryptografisch signieren, auf dem Gerät prüfen und Rollback-Schutz vorsehen.
5. Hardware härten: Debug-Schnittstellen in Serienprodukten deaktivieren, Gehäuse gegen Öffnen sichern, Standardzugänge entfernen.
6. Robustheit testen: Modelle vor dem Rollout gegen realistische Störungen und Adversarial Examples prüfen; Plausibilitätsprüfungen mit weiteren Sensoren einbauen.
7. Netz segmentieren: Edge-Geräte in eigene Netzsegmente legen und nur die nötige Kommunikation erlauben.
8. Telemetrie auswerten: Integritätsstatus, Modellversion und Auffälligkeiten zentral erfassen, etwa in einem SOC.

Regulatorischer Bezug

Für Hersteller von Produkten mit digitalen Elementen ist der Cyber Resilience Act (Verordnung (EU) 2024/2847) maßgeblich: Meldepflichten für aktiv ausgenutzte Schwachstellen greifen ab September 2026, die übrigen Anforderungen ab Dezember 2027. Ist die KI-Funktion Sicherheitsbauteil eines regulierten Produkts, kann sie als Hochrisiko-KI nach Anhang I des EU AI Act gelten; die dortigen Pflichten gelten nach der Änderung durch den Digital Omnibus (in Kraft seit 27. Juli 2026) ab 2. August 2028. In der Industrieautomatisierung bietet die Normenreihe IEC 62443 einen etablierten Rahmen.

Fazit

Edge AI verlagert KI-Sicherheit auf die Ebene der Hardware und der Lieferkette. Wer Geräte inventarisiert, Modelle und Updates kryptografisch absichert und Edge-Geräte vom übrigen Netz trennt, reduziert das Risiko deutlich. SecTepe unterstützt bei der Risikoanalyse und bei Sicherheitstests von IoT- und OT-Umgebungen.

Häufige Fragen

Ist Edge AI sicherer als Cloud-KI?

Beim Datenschutz oft ja, weil Rohdaten lokal bleiben. Bei physischer Manipulation und Wartbarkeit dagegen meist nicht. Welche Variante besser passt, hängt vom Einsatzszenario ab.

Worauf sollten wir beim Einkauf achten?

Fragen Sie nach Secure Boot, signierten Updates, dem Supportzeitraum für Sicherheitsupdates und einem Prozess zur Meldung von Schwachstellen.