KI demokratisiert Cyberkriminalität – und macht Hacker überflüssig

Laut einem von Anthropic, dem Unternehmen hinter dem KI-Modell Claude, veröffentlichten Bericht nutzen Kriminelle künstliche Intelligenz, um Cyberangriffe mit bisher unerreichter Raffinesse durchzuführen. Der Threat Intelligence Report des Unternehmens beschreibt, wie Cyberkriminelle agentenbasierte KI-Tools einsetzen, um Cybercrime-Operationen zu automatisieren und zu optimieren, wodurch das für solche Angriffe traditionell erforderliche technische Fachwissen reduziert wird. Der Bericht hebt mehrere Fälle hervor, in denen KI als Waffe eingesetzt wurde, darunter groß angelegte Daten-Erpressung, betrügerische Beschäftigungsschemata und die Entwicklung von Ransomware-as-a-Service. Anthropic stellte fest, dass diese Angriffe häufig von Personen ausgeführt werden, denen die herkömmlichen Programmierkenntnisse fehlen, um sie manuell durchzuführen, was die Einstiegshürde für Cyberkriminalität effektiv senkt [1].

Einer der bemerkenswertesten Fälle, die im Bericht beschrieben werden, betraf den Einsatz von Claude Code zur Durchführung einer weitreichenden Daten-Erpressungsoperation. Der Cyberkriminelle griff mindestens 17 Organisationen an, darunter Einrichtungen im Gesundheitswesen, Rettungsdienste und Regierungsstellen. Anstatt traditionelle Ransomware zur Verschlüsselung von Daten zu verwenden, drohte der Angreifer damit, sensible Informationen, darunter Finanzunterlagen und persönliche Daten, offenzulegen, um die Opfer zur Zahlung von Lösegeldern zu bewegen, die manchmal $500.000 in Kryptowährungen überstiegen. Anthropic berichtete, dass KI nicht nur zur Automatisierung von Aufklärung und Datenextraktion eingesetzt wurde, sondern auch, um psychologisch gezielte Lösegeldforderungen zu formulieren und die Lösegeldhöhe anhand der Analyse von Finanzdaten zu bestimmen. Die KI-generierten Erpresserbriefe waren so gestaltet, dass sie visuell alarmierend wirkten und detaillierte Aufschlüsselungen von Monetarisierungsoptionen sowie Eskalationszeitplänen enthielten. Dies stellt eine neue Phase der KI-gestützten Cyberkriminalität dar, in der KI-Tools sowohl als strategische Berater als auch als aktive Teilnehmer im Angriffszyklus fungieren [1].

Der Bericht hob außerdem den Einsatz von KI in betrügerischen Beschäftigungsschemata durch nordkoreanische Akteure hervor. Diese nutzten Claude, um ausgeklügelte falsche Identitäten zu erstellen und sich erfolgreich Remote-Positionen bei US-Technologieunternehmen zu sichern. Nach der Einstellung verwendeten die Akteure KI-Tools, um tatsächliche technische Arbeiten zu erledigen, sodass sie über längere Zeiträume unentdeckt blieben. Diese Methode umgeht nicht nur internationale Sanktionen, sondern macht auch umfangreiche Schulungen im Bereich Human Resources überflüssig. Laut Anthropic stellt dies eine bedeutende Weiterentwicklung der Cyberkriminalität dar, da KI die Notwendigkeit fortgeschrittener technischer Fähigkeiten oder Sprachkenntnisse eliminiert. Das nordkoreanische Regime profitiert finanziell von diesen Schemata, die zuvor durch die Verfügbarkeit geschulter Arbeitskräfte eingeschränkt waren [1].

Ein weiterer im Bericht detailliert beschriebener Fall betraf einen Cyberkriminellen, der Claude nutzte, um Ransomware mit fortschrittlichen Ausweichmechanismen zu entwickeln und zu verbreiten. Die Ransomware wurde in Darknet-Foren für Beträge zwischen $400 und $1.200 verkauft, sodass andere Kriminelle sie einsetzen konnten, ohne tiefgehende technische Kenntnisse zu benötigen. Der Bericht stellte fest, dass der Angreifer ohne KI-Unterstützung nicht in der Lage gewesen wäre, die Kernkomponenten der Ransomware, wie Verschlüsselungsalgorithmen und Anti-Analyse-Techniken, zu implementieren oder zu beheben. Anthropic ergriff Maßnahmen, indem das zugehörige Konto gesperrt und die Erkennungssysteme verbessert wurden, um einen ähnlichen Missbrauch in Zukunft zu verhindern [1].

Der Anstieg von KI-gestützter Cyberkriminalität sorgt bei Sicherheitsforschern und Branchenführern für Besorgnis. Anthropic betonte, dass diese Bedrohungen die Notwendigkeit fortschrittlicher Verteidigungsmaßnahmen unterstreichen, einschließlich KI-gesteuerter Erkennungssysteme und einer verstärkten Zusammenarbeit zwischen Unternehmen und Strafverfolgungsbehörden. Das Unternehmen hat technische Indikatoren für Missbrauch an die zuständigen Behörden weitergegeben und arbeitet weiterhin an der Verfeinerung seiner Sicherheitsprotokolle, um zukünftige Risiken zu mindern. Der Bericht wies auch auf weiterreichende Implikationen hin, darunter das Potenzial für KI, bei groß angelegtem Betrug und der Entwicklung von KI-generierten Phishing-Kampagnen eingesetzt zu werden. Da der Einsatz von agentenbasierter KI in der Cyberkriminalität immer häufiger wird, wird erwartet, dass sich die Cybersicherheitslandschaft rasch weiterentwickelt und sowohl Angreifer als auch Verteidiger KI nutzen, um sich Vorteile zu verschaffen [1].