KI-Forensik: Beweissicherung mit und an KI

Forensik mit KI: Auswertung großer Datenmengen

Nach einem Ransomware-Angriff oder einer Kompromittierung von Microsoft 365 müssen Ermittler oft Millionen von Logeinträgen, E-Mails, Dateisystem-Metadaten und Speicherabbildern sichten. KI-gestützte Werkzeuge helfen dabei, diese Menge zu strukturieren:

• Zeitleisten-Rekonstruktion: Clustering und Korrelation von Ereignissen aus EDR, Firewall, Active Directory und Cloud-Audit-Logs zu einer zusammenhängenden Angriffskette.
• Priorisierung: Modelle markieren ungewöhnliche Anmeldungen, seltene Prozessstarts oder auffällige Datenabflüsse, damit Analysten zuerst dort ansetzen.
• Textanalyse: Sprachmodelle fassen Phishing-Kampagnen, Erpresserschreiben oder Chatverläufe zusammen und extrahieren Indikatoren wie Domains, Wallet-Adressen oder Dateihashes.
• Medienanalyse: Erkennung manipulierter Audio- und Videodateien, etwa bei CEO-Fraud mit geklonter Stimme.

Wichtig ist die Rolle der KI: Sie ist ein Hilfsmittel zur Vorauswahl, kein Gutachter. Sprachmodelle können Zusammenhänge erfinden (Halluzinationen) oder Indikatoren übersehen. Jede Aussage, die in einen Bericht, eine Versicherungsmeldung oder ein Strafverfahren einfließt, muss ein Mensch anhand der Originalspur verifizieren. Zudem dürfen Beweisdaten mit personenbezogenen Inhalten nicht unkontrolliert an externe KI-Dienste übermittelt werden.

Forensik an KI: Spuren in KI-Systemen

Wird ein KI-System selbst zum Tatort, verschieben sich die relevanten Artefakte. Neben Betriebssystem- und Netzwerkspuren sind zu sichern:

• Prompt- und Antwortprotokolle inklusive System-Prompt, Konversations-ID, Benutzerkennung und Zeitstempel – zentral für den Nachweis von Prompt Injection.
• Tool- und Agentenaufrufe: welche Funktionen, APIs oder Datenbankabfragen ein LLM-Agent tatsächlich ausgelöst hat.
• Modellartefakte mit Versionsstand und kryptografischem Hash, um nachträgliche Manipulationen (Model Tampering) nachzuweisen.
• Trainings- und Feinabstimmungsdaten samt Herkunftsnachweis, falls der Verdacht auf Data Poisoning besteht.
• Vektordatenbanken bei RAG-Systemen: Welche Dokumente wurden wann eingespielt, und welche wurden bei einer verdächtigen Antwort abgerufen?
• Lieferkette: Herkunft heruntergeladener Modelle und Bibliotheken. Modelldateien im Pickle-Format können beim Laden Code ausführen und sind daher ein eigener Untersuchungsgegenstand.

Eine Besonderheit: KI-Ausgaben sind oft nicht deterministisch. Ein Vorfall lässt sich nicht zuverlässig durch erneutes Ausführen des Prompts reproduzieren. Umso wichtiger ist es, dass Protokolle vor dem Vorfall bereits vollständig und manipulationssicher erfasst wurden.

Relevanz für den Mittelstand

Viele mittelständische Unternehmen setzen inzwischen Chatbots, Copilot-Funktionen oder KI-gestützte Dokumentenverarbeitung ein, ohne dass die Protokollierung auf eine spätere Untersuchung ausgelegt ist. Fehlen Prompt-Logs oder sind sie nach wenigen Tagen überschrieben, lässt sich im Ernstfall weder der Umfang eines Datenabflusses bestimmen noch gegenüber Aufsichtsbehörden, Versicherern oder Gerichten belegen, was geschehen ist. Das betrifft etwa die Bewertung einer Datenschutzverletzung nach Art. 33 DSGVO oder, für NIS2-pflichtige Einrichtungen, den Abschlussbericht innerhalb eines Monats.

Vorgehen in der Praxis

1. Forensische Bereitschaft herstellen: Legen Sie fest, welche KI-Logs erhoben, wie lange sie aufbewahrt und wo sie manipulationssicher gespeichert werden. Stimmen Sie dies mit dem Datenschutz ab.
2. Beweise sichern, bevor Sie bereinigen: Modellversion, Konfiguration, Vektorindex und Logs hashen und kopieren, bevor ein Modell zurückgesetzt oder ein Index neu aufgebaut wird.
3. Beweismittelkette dokumentieren: Wer hat wann welche Daten gesichert, übergeben und analysiert (Chain of Custody)?
4. KI-Werkzeuge kontrolliert einsetzen: Analysen möglichst in einer isolierten Umgebung oder mit lokal betriebenen Modellen durchführen und die verwendete Werkzeugversion dokumentieren.
5. Ergebnisse menschlich validieren: Jede Schlussfolgerung auf die Originalspur zurückführen und Unsicherheiten im Bericht offen benennen.
6. Angriffstechniken einordnen: Beobachtungen auf MITRE ATT&CK bzw. MITRE ATLAS abbilden, um Lücken und Folgemaßnahmen strukturiert abzuleiten.

Fazit

KI-Forensik verbindet klassische Beweissicherung mit neuen Spurenarten wie Prompts, Modellversionen und Vektorindizes. Entscheidend ist, dass die nötigen Protokolle existieren, bevor etwas passiert. SecTepe unterstützt bei der forensischen Aufarbeitung von Sicherheitsvorfällen und bei der Frage, welche KI-Protokolle Sie heute schon erfassen sollten.

Häufige Fragen

Sind KI-gestützte Analyseergebnisse vor Gericht verwertbar?

Maßgeblich ist, ob die Befunde nachvollziehbar und überprüfbar sind. Deshalb sollte KI nur zur Vorauswahl dienen; die eigentliche Beweisführung stützt sich auf die gesicherten Originaldaten und eine dokumentierte Methodik.

Worin unterscheidet sich KI-Forensik von einem KI-Incident-Response-Playbook?

Das Playbook regelt die gesamte Reaktion auf einen KI-Vorfall, von der Erkennung bis zur Wiederherstellung. Die Forensik ist darin der Teil, der klärt, was genau passiert ist, und die Beweise dafür gerichtsfest sichert.