Un incident récent en Australie montre que donner des objectifs aux systèmes d’IA, plutôt que des instructions strictes étape par étape, peut devenir beaucoup plus complexe lorsque ces systèmes sont connectés à quelque chose de valeur.
Un Australien a demandé à son assistant OpenClaw, alimenté par Claude, de réserver un cours de sport très prisé.
Cependant, l’agent a découvert une faille qui lui a permis de réserver des cours bien plus longtemps à l’avance que ce que la salle de sport avait prévu. Il a constaté que l’API de la salle de sport ne comportait pas de protections d’autorisation pour annuler les réservations des autres. L’agent a utilisé cette faille pour annuler une réservation existante et faire avancer son utilisateur sur la liste d’attente.
Il est important de préciser ici que l’agent IA n’avait pas reçu d’instructions pour agir ainsi ; il a simplement vu que c’était une manière techniquement possible de se rapprocher de son objectif.
Maintenant, si l’on remplace la réservation d’un cours de sport par un portefeuille crypto, les conséquences pourraient être bien plus graves.
Si un agent IA se voit accorder l’accès à un portefeuille et recevoir pour mission de maximiser les rendements ou de trouver les meilleures opportunités DeFi, comment définir ce qu’il a réellement le droit de faire ?
En théorie, une IA suffisamment avancée pourrait tomber sur une vulnérabilité dans une API, interagir avec un smart contract, approuver la dépense de tokens, transférer des fonds entre plateformes, ou réaliser une transaction qui correspond techniquement à son objectif annoncé mais qui entre en contradiction avec la volonté de l’utilisateur.
Cela ne signifie pas que les agents IA actuels sont destinés à devenir incontrôlables. Cependant, l’incident de la réservation montre pourquoi ce type de risque mérite une attention particulière.
La responsabilité des actions non autorisées d’un agent IA est difficile à déterminer, car il n’existe pas encore de lois sur de tels cas. Cela pourrait aussi largement dépendre de l’intention. Par exemple, si quelqu’un donne délibérément un pouvoir étendu à l’agent IA, il pourrait être tenu pour responsable de ses actes finaux.
Un développeur d’IA pourrait également être mis en cause si le système a été conçu ou promu de manière laxiste. De même, un fournisseur de portefeuille pourrait être interrogé s’il n’a pas pris de mesures de protection suffisantes, et les protocoles DeFi ou les opérateurs d’API pourraient aussi être tenus partiellement responsables si leurs propres failles de sécurité ont rendu possible l’action de l’IA.
À ce jour, il n’existe pas de règle universelle tenant l’IA elle-même pour responsable, mais si de tels incidents venaient à se répéter, des évolutions pourraient survenir.
