Niedawny incydent w Australii pokazuje, że nadawanie systemom AI celów zamiast ścisłych instrukcji krok po kroku może stać się o wiele bardziej skomplikowane, kiedy te systemy są połączone z czymś wartościowym.
Australijczyk poprosił swojego asystenta AI OpenClaw, napędzanego przez Claude, o zarezerwowanie popularnych zajęć na siłowni.
Jednak agent odkrył lukę, która pozwalała mu rezerwować zajęcia znacznie wcześniej niż zamierzała siłownia. Agent wydedukował, że w API siłowni brakowało zabezpieczeń autoryzacji przy anulowaniu rezerwacji innych użytkowników. Wykorzystał tę lukę, by anulować istniejącą rezerwację i przesunąć swojego użytkownika na początek listy oczekujących.
Ważne jest, że agent AI nie otrzymał takiego polecenia, lecz uznał taką sytuację za technicznie możliwy sposób, by osiągnąć swój cel.
Jeśli zamiast rezerwacji na siłowni damy AI dostęp do portfela kryptowalutowego, skutki mogą być o wiele bardziej szkodliwe.
Jeśli agent AI uzyska dostęp do portfela i zostanie poinstruowany, by maksymalizować zyski lub szukać najlepszych okazji w DeFi, jak określić, co faktycznie wolno mu zrobić?
Teoretycznie wystarczająco zaawansowana AI mogłaby natknąć się na słaby punkt w API, wejść w interakcję ze smart kontraktem, zaakceptować wydawanie tokenów, przenosić środki między platformami lub zawrzeć transakcję, która technicznie spełnia zadane cele, lecz wykonuje coś, czego użytkownik nigdy nie chciał.
Nie oznacza to, że obecne agenty AI skazane są na zboczenie z kursu. Jednak incydent z rezerwacją na siłowni pokazuje, dlaczego warto zwrócić uwagę na takie ryzyko.
Odpowiedzialność za nieautoryzowane działania agentów AI trudno ustalić, ponieważ nie ma jeszcze przepisów dotyczących takich przypadków. W dużej mierze może to zależeć od intencji. Na przykład jeśli ktoś świadomie udzieli agentowi AI szerokich uprawnień, może ponosić odpowiedzialność za jego ostateczne działania.
Dodatkowo, deweloper AI może zostać poddany kontroli, jeśli system został zaprojektowany lub promowany z niewystarczającą starannością. Podobnie dostawca portfela może odpowiedzieć na pytania, jeśli nie zapewnił dostatecznych zabezpieczeń, a protokoły DeFi lub operatorzy API mogą ponosić część winy, jeśli ich własne luki bezpieczeństwa umożliwiły działanie AI.
Na dzień dzisiejszy nie ma uniwersalnej zasady czyniącej AI bezpośrednio odpowiedzialnym, lecz jeżeli takie incydenty się powtórzą, mogą pojawić się zmiany.
