Les criminels pratiquent le « vibe hacking » avec l’IA à des niveaux sans précédent : Anthropic
Malgré des garde-fous « sophistiqués », la société d’infrastructure d’IA Anthropic affirme que les cybercriminels trouvent toujours des moyens de détourner son chatbot IA Claude pour mener des cyberattaques à grande échelle.
Dans un rapport « Threat Intelligence » publié mercredi, les membres de l’équipe Threat Intelligence d’Anthropic, dont Alex Moix, Ken Lebedev et Jacob Klein, ont partagé plusieurs cas où des criminels ont détourné le chatbot Claude, certaines attaques exigeant plus de 500 000 $ de rançon.
Ils ont découvert que le chatbot était utilisé non seulement pour fournir des conseils techniques aux criminels, mais aussi pour exécuter directement des piratages en leur nom via le « vibe hacking », leur permettant de mener des attaques avec seulement des connaissances de base en codage et en cryptographie.
En février, la société de sécurité blockchain Chainalysis a prédit que les arnaques crypto pourraient connaître leur plus grande année en 2025, car l’IA générative a rendu les attaques plus évolutives et abordables. Anthropic a découvert qu’un hacker avait utilisé le « vibe hacking » avec Claude pour voler des données sensibles auprès d’au moins 17 organisations — y compris des établissements de santé, des services d’urgence, des institutions gouvernementales et religieuses — avec des demandes de rançon allant de 75 000 $ à 500 000 $ en Bitcoin.
Une note de rançon simulée montre comment les cybercriminels exploitent Claude pour proférer des menaces. Source: Anthropic Le hacker a entraîné Claude à évaluer les dossiers financiers volés, calculer les montants de rançon appropriés et rédiger des notes de rançon personnalisées pour maximiser la pression psychologique.
Bien qu’Anthropic ait ensuite banni l’attaquant, l’incident reflète la façon dont l’IA facilite la commission de cybercrimes même pour les codeurs les plus débutants à un « degré sans précédent ».
« Des acteurs qui ne peuvent pas mettre en œuvre de manière indépendante un chiffrement de base ou comprendre la mécanique des appels système réussissent désormais à créer des ransomwares dotés de capacités d’évasion [et] à mettre en œuvre des techniques anti-analyse. »
Des travailleurs informatiques nord-coréens ont également utilisé Claude d’Anthropic
Anthropic a également découvert que des travailleurs informatiques nord-coréens ont utilisé Claude pour forger des identités convaincantes, réussir des tests techniques de codage et même décrocher des postes à distance dans des entreprises technologiques américaines du Fortune 500. Ils ont aussi utilisé Claude pour préparer des réponses aux entretiens pour ces postes.
Claude a également été utilisé pour effectuer le travail technique une fois embauché, a précisé Anthropic, notant que ces stratagèmes d’emploi visaient à canaliser les profits vers le régime nord-coréen malgré les sanctions internationales.
Répartition des tâches alimentées par Claude utilisées par les travailleurs informatiques nord-coréens. Source: Anthropic Plus tôt ce mois-ci, un travailleur informatique nord-coréen a été contre-piraté, révélant qu’une équipe de six personnes partageait au moins 31 fausses identités, obtenant tout, des pièces d’identité gouvernementales et numéros de téléphone à l’achat de comptes LinkedIn et UpWork pour masquer leur véritable identité et décrocher des emplois dans la crypto.
L’un des travailleurs aurait passé un entretien pour un poste d’ingénieur full-stack chez Polygon Labs, tandis que d’autres preuves montraient des réponses d’entretien scriptées dans lesquelles ils affirmaient avoir de l’expérience chez le marché NFT OpenSea et le fournisseur d’oracle blockchain Chainlink.
Anthropic a déclaré que son nouveau rapport vise à discuter publiquement des incidents de mauvaise utilisation afin d’aider la communauté plus large de la sécurité et de la sûreté de l’IA et de renforcer la défense de l’industrie contre les abus de l’IA.
La société a indiqué que malgré la mise en œuvre de « mesures de sécurité et de sûreté sophistiquées » pour empêcher la mauvaise utilisation de Claude, les acteurs malveillants continuent de trouver des moyens de les contourner.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Tous les regards tournés vers Walsh, la « super semaine des banques centrales » la semaine prochaine verra-t-elle une vague de hausses des taux d'intérêt des G7 ?
Dans un contexte d'inflation croissante, de tensions géopolitiques et d'un prix du pétrole dépassant les 100 dollars, les banques centrales du G7 s'apprêtent à vivre une semaine clé de décisions monétaires. Poussée par une inflation sous-jacente supérieure aux prévisions, la Federal Reserve devrait procéder à sa première hausse de taux depuis trois ans. La Banque du Japon devrait augmenter ses taux à 1,25 %, un sommet inédit depuis 30 ans. Les positions de la Banque d'Angleterre, de la Banque centrale européenne et de la Banque du Canada deviennent également plus offensives, marquant un tournant majeur vers un resserrement collectif de la politique monétaire mondiale.
La Fed va-t-elle "augmenter les taux consécutivement" ? Le cycle de resserrement de la fin des années 1980 va-t-il se reproduire ?
Le rapport de Citigroup indique que l'environnement macroéconomique actuel ressemble fortement au cycle de resserrement de 1988-1989, période durant laquelle l'économie est demeurée résiliente et les pressions inflationnistes se sont progressivement accumulées. Par la suite, l'activité économique a ralenti et la politique s'est alors orientée vers la détente. Lors de ce cycle de resserrement, la Fed a relevé ses taux d'intérêt à 16 reprises consécutives.
Des ennemis jurés s’allient rarement ! Musk, Altman soutiennent l’appel de Dario Amodei à « ralentir l’IA mondialement »
Amodei d’Anthropic lance un appel à un « ralentissement mondial de l’IA », et, fait surprenant, ses rivaux Elon Musk et Sam Altman apportent tous deux publiquement leur soutien. Les trois géants s’accordent pour ouvrir aux tiers les droits d’évaluation « au niveau des employés » et s’engagent à coordonner le ralentissement ; Altman annonce même de façon catégorique qu’OpenAI ne procédera pas à une introduction en bourse cette année. La démission indignée d’un chercheur et la « grande évasion » collective d’IA incontrôlables ont ravivé une angoisse longtemps latente dans le secteur.
Prix des cryptos
Plus
