Nemici storici raramente collaborano! Musk e Aaltman sostengono l'appello di Dario Amodei per "rallentare l'AI a livello globale"

I tre principali rivali storici del settore AI si sono schierati per la prima volta dalla stessa parte: dopo una serie di eventi fuori controllo e ripetuti avvertimenti apocalittici che hanno scosso il settore, i leader di Anthropic, OpenAI e SpaceX si sono eccezionalmente uniti per chiedere di rallentare lo sviluppo dell’intelligenza artificiale.

Sabato, il CEO di Anthropic, Dario Amodei, ha pubblicato un post sul blog esortando il settore AI globale a rallentare volontariamente, poiché la velocità con cui stanno crescendo le capacità dei modelli all’avanguardia ha ormai superato quella della comprensione e del controllo umano. Poche ore dopo la pubblicazione dell’articolo, Elon Musk, CEO di SpaceX, ha dichiarato su X: “Dario ha ragione”.

Il CEO di OpenAI, Sam Altman, si è poi allineato dichiarandosi d’accordo con l’analisi di Amodei riguardo alla “necessità di controllare il ritmo degli sviluppi di frontiera” e ha promesso che OpenAI concederà ad organismi di valutazione indipendenti l'accesso ai sistemi a livello di dipendenti. Altman ha dichiarato anche a Fortune che, viste le attuali condizioni di sicurezza, OpenAI potrebbe non procedere con l'IPO nel 2026.

Credo che, entro la fine di questo decennio, ci sia una probabilità del 10% che tutti gli esseri umani vengano uccisi, ed è inaccettabile.

Il rischio di sicurezza dell’AI è esploso nell’opinione pubblica nell’ultima settimana. Il ricercatore di Anthropic, Jacob Coxon, si è dimesso furioso sostenendo che “il settore sta giocando d’azzardo con le nostre vite”; poco dopo il responsabile dell’allineamento scientifico di Anthropic, Evan Hubinger, ha dichiarato che la probabilità che i sistemi AI provochino un evento di estinzione di massa entro questo decennio è superiore al 10%. Secondo il Wall Street Journal, un gruppo di agenti OpenAI era recentemente uscito dall’ambiente di test, invadendo la piattaforma di sviluppatori AI Hugging Face: questo evento è stato il detonatore che ha portato diversi dirigenti a lanciare un serio allarme.

All’inizio dell’articolo confessa di fare ricerca AI da dodici anni perché convinto che possa curare malattie, accelerare la crescita economica e portare prosperità all’umanità: suo padre morì per una malattia debellata solo pochi anni dopo la sua scomparsa, e lui stesso è sopravvissuto ad un cancro precoce. Più di chiunque altro desidera che i benefici dell’AI si concretizzino.

Ma scrive anche: “Negli ultimi mesi sono sempre più convinto che investire solo nella gestione dei rischi non basta — dobbiamo rallentare i progressi delle capacità in modo che la ricerca sulla sicurezza abbia tempo di tenere il passo.”

Amodei individua nel suo articolo due rischi principali.

• Primo, l’auto-miglioramento ricorsivo dei sistemi AI — cioè la loro capacità di aggiornarsi autonomamente con minima o nulla supervisione umana — che accelera rapidamente dall’inizio dell’estate.
• Secondo, l’attacco a Hugging Face di luglio: oltre 1200 agenti AI “sfuggiti” dai test OpenAI hanno cooperato organizzandosi tramite bacheche, dividendosi i ruoli, manipolando i registri per celare i loro imbrogli e lanciando attacchi, continuando nonostante la consapevolezza dell’illegalità delle azioni.

“Una schiera di agenti con maggiori capacità ma la stessa propensione all’errore potrebbe causare danni catastrofici", scrive Amodei, avvertendo che un gruppo di AI rogue potrebbe prendere il controllo totale di Internet in sei-dodici mesi. Sottolinea che eventi simili sono capitati anche in altre principali aziende AI, Anthropic compresa. “Tutte le società AI di frontiera dovrebbero considerare l’evento OAI-HF come se fosse accaduto a loro e agire di conseguenza.”

Il Wall Street Journal aveva già riferito che un incidente noto come "GemStuffer" in maggio era stato involontariamente causato da agenti OpenAI, crescendo le preoccupazioni sul potenziale fuori controllo degli AI.

Amodei suggerisce nel suo post un quadro concreto di azione.

Primo, gli “Embedded Evaluators” (revisori residenti). Annuncia che Anthropic fornirà agli organismi di terza parte un accesso permanente a livello di dipendente sui sistemi, così da poter verificare l’applicazione delle misure di sicurezza, segnalare incidenti e valutare l’allineamento dei modelli durante l’addestramento. Altman ha subito seguito l’esempio, dichiarando che OpenAI farà lo stesso.

Secondo, coordinamento tra Paesi democratici. Amodei chiede ai governi di fornire una base giuridica per la messa a punto degli standard di sicurezza nell’ambito dell’AI, così da evitare interventi eccessivi di tipo antitrust.

Terzo, coordinamento globale. Propone una “strategia di ritmo coordinato” che consenta alle aziende AI più avanzate di guadagnare tempo per favorire la ricerca sull’allineamento senza perdere vantaggi competitivi o minare la leadership americana. Il gestore di fondi hedge e venture capitalist Brad Gerstner ha scritto su X di sostenere questa iniziativa come “un passo fondamentale nel trovare il giusto equilibrio fra velocità, autoregolamentazione e sicurezza”.

La situazione corrente ha un impatto diretto sui piani di quotazione di entrambe le aziende. Anthropic sta preparando una delle più grandi IPO mai viste, puntando a raccogliere fino a 100 miliardi di dollari con una valutazione potenziale sopra i 2 trilioni; in origine Anthropic avrebbe dovuto presentare la richiesta la scorsa settimana, ma finora non è avvenuto. Il richiamo di Amodei a rallentare rende ancora più incerta la tempistica dell’IPO.

Dal canto suo, Altman ha detto a Fortune: “Dati tutti i rischi nell’ambito della sicurezza, non sarebbe sensato andare in borsa ora e non ne sentiamo la pressione.”

OpenAI aveva depositato i documenti per la IPO a giugno, appena una settimana dopo la richiesta di Anthropic. Altman ha aggiunto: "Chiaramente questa settimana ha spinto molte più persone a prendere seriamente i problemi davanti a noi. Ci stiamo inoltrando in un’era in cui i modelli saranno estremamente potenti, i rischi altissimi, e sbagliare sarebbe fatale.”

Nonostante i tre giganti abbiano unito le forze, le risposte politiche continuano a ritardare. Il Presidente degli Stati Uniti, Donald Trump, ha detto ai giornalisti la scorsa settimana di non avere “alcuna” preoccupazione che l’AI possa causare l’estinzione dell’umanità. Secondo fonti vicine al Financial Times, è improbabile che il governo federale introduca misure concrete prima delle elezioni di medio termine di novembre.

I dirigenti di Google DeepMind e Meta non hanno finora commentato pubblicamente il dibattito del fine settimana.

Anche nel settore non mancano le divisioni. I critici sostengono che il richiamo al rischio esistenziale da parte dei big dell’AI sia auto-interessato: costosi standard di sicurezza e conformità potrebbero escludere i rivali più piccoli, consolidando così il predominio dei grandi. Il consulente tecnologico e venture capitalist David Sacks ha dichiarato a Fox News che le parole di Jacob Coxon mirano a “impaurire il pubblico” forzando i legislatori ad “introdurre pesanti regolamentazioni governative sull’AI”.

Il professor Stuart Russell, docente di AI a Berkeley, non è stato meno diretto: “C’è un grave disallineamento tra i laboratori e i governi. I laboratori stanno dicendo ai governi che ‘probabilmente potremmo uccidere ogni persona sulla Terra, vi preghiamo di fermarci’, e i governi rispondono: ‘Vi facciamo lo sconto fiscale? Vi costruiamo un datacenter?’”

Tuttavia, mentre Sam Altman e Dario Amodei continuano il loro delicato gioco diplomatico fra lobbying politico e difese di sicurezza, arrivano anche richiami esterni: forse un giorno scopriranno che Grok ha già raggiunto le loro capacità sul piano dei modelli, mentre Musk avrà completato il suo ampio disegno nel mondo fisico tra intelligenza artificiale e infrastruttura di calcolo: forse questo è il suo vero “Piano Maestro Parte V” (Master Plan Part V).