KI-gestützte Cyberangriffe: Automatisierung durch KI

Wo Angreifer KI heute einsetzen

Ein Cyberangriff besteht aus vielen Einzelschritten, von der Zielauswahl bis zur Erpressung. Generative KI und klassische Automatisierung setzen an mehreren dieser Schritte an:

• Aufklärung (Reconnaissance): Sprachmodelle werten Firmenwebseiten, Stellenanzeigen, Handelsregistereinträge und Profile in beruflichen Netzwerken aus und erstellen daraus Organigramme, Zuständigkeiten und eingesetzte Technologien.
• Phishing und Social Engineering: Täuschend echte E-Mails in fehlerfreiem Deutsch, passend zum Tonfall eines Lieferanten oder der Geschäftsführung, lassen sich in großer Zahl und individuell zugeschnitten erzeugen. Rechtschreibfehler als Erkennungsmerkmal verlieren dadurch an Bedeutung.
• Stimm- und Videofälschungen: Mit wenigen Sekunden Audiomaterial lassen sich Stimmen klonen. Das verstärkt den bekannten CEO-Fraud, bei dem angeblich die Geschäftsführung telefonisch eine eilige Überweisung anordnet.
• Schwachstellensuche und Exploits: KI hilft, veröffentlichte Sicherheitshinweise schneller in funktionierende Angriffe zu übersetzen und große Mengen an Code oder exponierten Diensten nach Schwachstellen zu durchsuchen. Das Zeitfenster zwischen Veröffentlichung eines Patches und ersten Angriffen wird dadurch tendenziell kürzer.
• Schadcode-Varianten: Angreifer lassen bestehenden Schadcode umschreiben, um signaturbasierte Erkennung zu umgehen, oder nutzen KI als Programmierhilfe für eigene Werkzeuge.
• Massenangriffe auf Zugänge: Automatisierte Credential-Stuffing- und Passwort-Spraying-Angriffe gegen VPN, Webmail und Cloud-Portale laufen rund um die Uhr, zunehmend mit Umgehung einfacher Bot-Erkennung.

Der wichtigste Effekt ist die gesunkene Einstiegshürde: Auch wenig versierte Täter können Angriffe in einer Qualität durchführen, die früher Erfahrung und Sprachkenntnisse erforderte. Das BSI weist in seiner Veröffentlichung „Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden“ ebenfalls auf den Missbrauch generativer KI für Social Engineering und Schadcode hin.

Was das für den Mittelstand bedeutet

Mittelständische Unternehmen waren nie zu klein für Angreifer, aber individuelle Angriffe lohnten sich oft nicht. Mit KI sinken die Kosten pro Ziel, sodass zugeschnittene Täuschung auch bei kleineren Unternehmen wirtschaftlich wird. Besonders betroffen sind:

• Zahlungsprozesse: Gefälschte Rechnungen mit geänderter Bankverbindung und scheinbar echte Anrufe der Geschäftsführung.
• Exponierte Systeme: VPN-Gateways, Firewalls, Mailserver und Webanwendungen, die nach Bekanntwerden einer Lücke schnell gescannt und angegriffen werden.
• Identitäten: Konten ohne Mehr-Faktor-Authentifizierung oder mit leicht abfangbaren Verfahren wie SMS-Codes.

Gleichzeitig gilt: Die meisten KI-gestützten Angriffe nutzen weiterhin bekannte Schwächen wie fehlende Patches, schwache Authentifizierung und unklare Freigabeprozesse. Wer diese Grundlagen beherrscht, ist auch gegen die automatisierte Variante gut aufgestellt.

Wirksame Gegenmaßnahmen

1. Phishing-resistente Authentifizierung: Setzen Sie für E-Mail, Remote-Zugänge und Administration auf FIDO2-Sicherheitsschlüssel oder Passkeys. Diese schützen auch dann, wenn eine Phishing-Mail perfekt formuliert ist.
2. Prozesse statt Bauchgefühl: Zahlungen und Änderungen von Bankdaten erfordern ein Vier-Augen-Prinzip und einen Rückruf über eine bekannte, nicht aus der Nachricht stammende Nummer. Das hilft gegen Stimmklone genauso wie gegen gefälschte E-Mails.
3. Schnelles Patchen exponierter Systeme: Priorisieren Sie Updates für aus dem Internet erreichbare Systeme nach tatsächlicher Ausnutzung, etwa anhand des CISA-KEV-Katalogs, und verkürzen Sie die Reaktionszeit bei kritischen Lücken auf Tage statt Wochen.
4. Angriffsfläche kennen: Inventarisieren Sie regelmäßig, welche Dienste von außen erreichbar sind. Angreifer tun es automatisiert, Sie sollten es auch.
5. Verhaltensbasierte Erkennung: EDR-Lösungen und ein Security Operations Center erkennen verdächtiges Verhalten auch bei neuen Schadcode-Varianten, die keine bekannte Signatur haben.
6. Awareness aktualisieren: Schulen Sie Mitarbeitende darauf, dass Rechtschreibung und Tonfall keine verlässlichen Warnsignale mehr sind. Entscheidend sind ungewöhnliche Anfragen, Zeitdruck und Abweichungen vom üblichen Prozess.
7. Notfallplanung: Ein erprobter Incident-Response-Plan verkürzt die Reaktionszeit, wenn Angriffe schneller ablaufen als bisher.

Regulatorischer Bezug

Für Einrichtungen im Anwendungsbereich von NIS2 (Richtlinie (EU) 2022/2555, in Deutschland umgesetzt durch das neue BSIG) gehören Risikoanalyse, Umgang mit Schwachstellen, Schulungen und Multi-Faktor-Authentifizierung zu den Pflichtmaßnahmen nach § 30 BSIG. Erhebliche Sicherheitsvorfälle sind gestuft zu melden: Frühwarnung binnen 24 Stunden, Meldung binnen 72 Stunden, Abschlussbericht nach einem Monat. Ob ein Angriff KI-gestützt war, spielt für diese Pflichten keine Rolle.

Fazit

KI verändert weniger die Art als das Tempo und die Qualität von Cyberangriffen. Unternehmen begegnen dem am besten mit robusten Grundlagen: starke Authentifizierung, feste Freigabeprozesse, schnelles Patchen und eine Erkennung, die auf Verhalten statt auf Signaturen setzt. SecTepe unterstützt dabei mit Awareness-Trainings, Penetrationstests und Managed SOC.

Häufige Fragen

Hilft KI-basierte Abwehr gegen KI-basierte Angriffe?

Sie kann helfen, etwa bei der Erkennung von Anomalien und der Auswertung großer Protokollmengen. Sie ersetzt aber keine grundlegenden Kontrollen wie Mehr-Faktor-Authentifizierung und Patch-Management.

Wie erkennt man einen geklonten Anruf der Geschäftsführung?

Technisch oft gar nicht zuverlässig. Deshalb sollten kritische Anweisungen nie allein aufgrund eines Anrufs ausgeführt werden, sondern immer über einen zweiten, unabhängigen Kanal bestätigt werden.