Ein kürzlicher Vorfall in Australien zeigt, dass die Vergabe von Zielen an KI-Systeme statt strikter Schritt-für-Schritt-Anweisungen erheblich komplexer wird, wenn diese Systeme mit etwas Wertvollem verbunden sind.
Ein Australier bat seinen Claude-betriebenen OpenClaw KI-Assistenten, einen beliebten Fitnesskurs zu buchen.
Der Agent entdeckte jedoch eine Schwachstelle, die ihm ermöglichte, Kurse weit im Voraus zu buchen – viel früher, als das Fitnessstudio es vorgesehen hatte. Er stellte fest, dass die API des Fitnessstudios keine Autorisierung zum Stornieren fremder Buchungen erforderte. Der Agent nutzte diesen Fehler, um eine bestehende Buchung zu stornieren und seinen Nutzer auf der Warteliste nach oben zu verschieben.
Wichtig ist hierbei, dass der KI-Agent nicht angewiesen wurde, so vorzugehen, sondern die Situation lediglich als technisch machbare Methode erkannte, seinem Ziel näher zu kommen.
Wenn man anstelle einer Fitnessbuchung ein Krypto-Wallet einsetzt, könnten die Auswirkungen wesentlich gravierender sein.
Falls ein KI-Agent Zugriff auf ein Wallet erhält und den Auftrag bekommt, die Rendite zu maximieren oder die besten DeFi-Angebote zu finden, wie definiert man, was tatsächlich erlaubt ist?
Theoretisch könnte eine ausreichend fortgeschrittene KI auf eine Schwachstelle in einer API stoßen, mit einem Smart Contract interagieren, die Ausgabe von Token genehmigen, Gelder zwischen Plattformen verschieben oder einen Handel ausführen, der zwar das Ziel erfüllt, aber etwas tut, das der Nutzer nie wollte.
Das bedeutet nicht, dass aktuelle KI-Agenten zwangsläufig gefährlich werden. Dennoch zeigt der Vorfall mit der Fitnessbuchung, warum dieses Risiko Beachtung verdient.
Die Verantwortung für unerlaubte Handlungen von KI-Agenten ist schwer zu bestimmen, da es hierfür bislang keine Gesetze gibt. Sie könnte auch stark von der Absicht abhängen. Beispielsweise könnte jemand, der einem KI-Agenten wissentlich weitreichende Autorität erteilt, für dessen Handlungen letztlich verantwortlich gemacht werden.
Zusätzlich könnte ein KI-Entwickler zur Rechenschaft gezogen werden, falls das System mit unzureichender Sorgfalt entwickelt oder beworben wurde. Ebenso könnte ein Wallet-Anbieter in Frage gestellt werden, wenn seine Sicherheitsvorkehrungen nicht ausreichend waren, und DeFi-Protokolle oder API-Betreiber könnten ebenfalls mitverantwortlich sein, falls ihre eigenen Sicherheitslücken die Handlung des KI-Agenten ermöglicht haben.
Bis heute gibt es keine universelle Regel, die eine KI selbst verantwortlich macht, aber falls sich solche Vorfälle häufen, könnte sich dies ändern.
