D'une part, Anthropic organise une levée de fonds très médiatisée pour son IPO, et d'autre part, propose d'arrêter le développement de l'IA : Anthropic ne fait que jouer la carte de la prudence en matière de relations publiques.

Selon la surveillance de Dongcha Beating, Anthropic propose dans son rapport « When AI Builds Itself » d'établir un « mécanisme de pause coordonnée vérifiable » à l’échelle mondiale, basé sur le traité sur les forces nucléaires à portée intermédiaire du contrôle des armements nucléaires. Le rapport s’oppose explicitement à une suspension unilatérale du développement et souligne que seules des conditions vérifiables au niveau mondial permettraient aux laboratoires de pointe de synchroniser un arrêt.

Cependant, sur le plan technique, le freinage coordonné est fondamentalement inapplicable. Alors que le contrôle des armements nucléaires peut s’appuyer sur des satellites pour surveiller les silos de missiles, les GPU sont de petite taille, faciles à dissimuler et capables de calcul distribué. Pour vérifier si d'autres s'entraînent en secret, le seul moyen serait de mettre en place une surveillance intrusive de tous les GPU, réseaux électriques et data centers dans le monde entier. Une surveillance exhaustive est non seulement irréaliste politiquement, mais reviendrait également à défendre un autoritarisme de la puissance de calcul.

Dans ce contexte d’impossibilité de vérification technique, la proposition d’une pause coordonnée ressemble davantage à une « clause de non-responsabilité sécuritaire ». Juste à la veille de la publication du rapport, Anthropic, valorisé à près de mille milliards de dollars, a achevé un tour de financement de 6,5 milliards de dollars et a déposé une demande d’IPO. Anthropic fixe la condition du freinage sur une vérification mondialement irréalisable, ouvrant ainsi la voie à un entraînement indéfini pour elle-même tout en transférant la responsabilité du développement incontrôlable à un mécanisme de régulation encore inexistant.