KI-Phishing-Erkennung mit Machine Learning

Wie funktioniert Phishing-Erkennung mit Machine Learning?

Klassische E-Mail-Filter arbeiten mit Regeln: Absender auf einer Sperrliste, bekannte Schad-URL, verdächtiger Dateianhang. Das funktioniert gut gegen bekannte Kampagnen, versagt aber bei neu registrierten Domains oder individuell formulierten Nachrichten. ML-basierte Systeme ergänzen diese Regeln um mehrere Analyseebenen:

• Textanalyse (Natural Language Processing): Sprachmodelle bewerten Tonalität, Dringlichkeit, Handlungsaufforderungen („Bitte umgehend überweisen“) und typische Muster von Rechnungs-, Paket- oder Passwort-Ködern.
• URL- und Domain-Merkmale: Alter der Domain, Ähnlichkeit zu bekannten Marken (Typosquatting, Homoglyphen wie „rn“ statt „m“), Weiterleitungsketten und Hosting-Reputation.
• Header- und Authentifizierungsdaten: Ergebnisse von SPF, DKIM und DMARC, Abweichungen zwischen Anzeigename und tatsächlicher Absenderadresse, ungewöhnliche Mail-Relays.
• Bilderkennung (Computer Vision): Beim Aufruf verlinkter Seiten in einer isolierten Umgebung erkennen Modelle nachgebaute Login-Masken bekannter Dienste, auch wenn der Quelltext verschleiert ist.
• Verhaltensbasierte Anomalieerkennung: Das System lernt, wer mit wem üblicherweise kommuniziert. Eine erste Mail eines angeblichen Lieferanten mit geänderter Bankverbindung fällt so auf, auch wenn sie keinen Link und keinen Anhang enthält.

Gerade die letzte Ebene ist für Business E-Mail Compromise (BEC) und CEO-Betrug wichtig: Diese Angriffe enthalten oft keine technischen Schadmerkmale, sondern nur eine plausible Bitte an die richtige Person zur richtigen Zeit.

Warum klassische Warnsignale nicht mehr reichen

Lange galten Rechtschreibfehler und holprige Übersetzungen als verlässliche Indizien. Generative KI hat dieses Signal weitgehend entwertet: Angreifer erzeugen fehlerfreie, auf Branche und Empfänger zugeschnittene Texte in großer Zahl und variieren sie so stark, dass Signaturfilter sie kaum wiedererkennen. Hinzu kommen neue Kanäle wie QR-Codes in Mails („Quishing“), Links auf legitime Cloud-Dienste und Anrufe mit geklonten Stimmen. Die Erkennung muss sich deshalb stärker auf Kontext und Verhalten stützen als auf die Form der Nachricht.

Grenzen und Risiken KI-gestützter Filter

• Fehlalarme und Fehlklassifikationen: Zu aggressive Modelle blockieren legitime Rechnungen oder Bewerbungen; zu tolerante lassen gezielte Angriffe durch. Die Schwellenwerte müssen an das eigene Mailaufkommen angepasst werden.
• Umgehung durch Angreifer (Adversarial Evasion): Angreifer testen ihre Mails gezielt gegen verbreitete Filterprodukte und verändern Formulierungen, Bilder oder Link-Strukturen, bis sie durchkommen.
• Blackbox-Effekt: Wenn nicht nachvollziehbar ist, warum eine Mail markiert wurde, fällt die Fehleranalyse schwer und Mitarbeitende verlieren Vertrauen in die Warnhinweise.
• Verlagerung auf andere Kanäle: Ein guter Mailfilter verschiebt Angriffe auf Messenger, Kollaborationsplattformen und Telefon, die oft schwächer geschützt sind.

Vorgehen in der Praxis

1. Basis schaffen: SPF, DKIM und DMARC für alle eigenen Domains sauber konfigurieren und DMARC schrittweise auf „quarantine“ oder „reject“ stellen. ML-Filter profitieren direkt von verlässlichen Authentifizierungsdaten.
2. Bestehende Funktionen prüfen: Viele Cloud-Mailplattformen enthalten bereits ML-basierte Filter. Oft reicht es, diese korrekt zu konfigurieren, bevor ein Zusatzprodukt beschafft wird.
3. Link- und Anhangsanalyse ergänzen: URL-Umschreibung mit Prüfung zum Klickzeitpunkt und Sandboxing für Anhänge erkennen auch Seiten, die erst nach dem Versand scharf geschaltet werden.
4. Meldeweg für Mitarbeitende einrichten: Ein Melde-Button mit schneller Rückmeldung liefert Trainingssignale für das System und stärkt die Aufmerksamkeit im Team.
5. Prozesse gegen Zahlungsbetrug härten: Änderungen von Bankverbindungen und eilige Zahlungsanweisungen immer über einen zweiten, unabhängigen Kanal bestätigen. Kein Filter ersetzt dieses Vier-Augen-Prinzip.
6. Wirksamkeit messen: Erkennungsquote, Fehlalarme, Meldequote und Zeit bis zur Bereinigung einer zugestellten Phishing-Mail regelmäßig auswerten.

Datenschutz und Mitbestimmung

ML-Filter analysieren Inhalte und Metadaten personenbezogener Kommunikation. Die Verarbeitung lässt sich in der Regel auf das berechtigte Interesse an IT-Sicherheit stützen (Art. 6 Abs. 1 lit. f DSGVO), muss aber in der Datenschutzdokumentation beschrieben und auf das Erforderliche begrenzt sein; bei Cloud-Diensten gehört ein Auftragsverarbeitungsvertrag dazu. Ist die private Nutzung des dienstlichen Postfachs erlaubt, wird die Rechtslage deutlich komplexer und sollte vorab geklärt werden. Besteht ein Betriebsrat, ist die Einführung technischer Einrichtungen, die zur Überwachung von Beschäftigten geeignet sind, mitbestimmungspflichtig (§ 87 Abs. 1 Nr. 6 BetrVG). Nach dem EU AI Act gelten reine Spam- und Phishing-Filter typischerweise als KI-Systeme mit minimalem Risiko, für die keine besonderen Pflichten bestehen; die allgemeine Pflicht zur KI-Kompetenz der Beschäftigten (Art. 4) bleibt davon unberührt.

Fazit

Machine Learning verbessert die Phishing-Abwehr deutlich, vor allem gegen neue Kampagnen und BEC-Betrug ohne technische Schadmerkmale. Wirksam wird es erst im Zusammenspiel mit sauberer Mail-Authentifizierung, klaren Freigabeprozessen und aufmerksamen Mitarbeitenden. SecTepe unterstützt bei der Bewertung bestehender Filter, bei Awareness-Maßnahmen und bei der Reaktion auf erfolgreiche Phishing-Angriffe.

Häufige Fragen

Ersetzt ein KI-Filter Awareness-Schulungen?

Nein. Filter reduzieren die Zahl der zugestellten Angriffe, aber einzelne Mails kommen immer durch. Mitarbeitende, die verdächtige Nachrichten erkennen und melden, bleiben die letzte Verteidigungslinie.

Erkennt KI auch Phishing, das mit KI geschrieben wurde?

Teilweise. Ob ein Text maschinell erstellt wurde, lässt sich nicht zuverlässig feststellen. Erfolgversprechender ist es, Kontext zu bewerten: ungewöhnliche Absender, neue Domains, abweichende Kommunikationsmuster und riskante Handlungsaufforderungen.

Wie schnell passen sich ML-Filter an neue Kampagnen an?

Das hängt vom Produkt ab. Cloud-basierte Lösungen werden meist laufend mit Daten vieler Kunden aktualisiert. Wichtig ist, dass Meldungen aus dem eigenen Unternehmen in die Bewertung einfließen und Fehlklassifikationen korrigiert werden können.