Buterin sollecita Info Finance a fermare gli exploit nella governance dell'AI
- Vitalik avverte che una governance AI ingenua è vulnerabile a manipolazioni e sfruttamenti.
- Info finance crea diversità nei modelli e correzioni rapide, rendendo la governance AI più sicura.
- I mercati predittivi e i controlli a campione aiutano a garantire la sicurezza nelle decisioni e nei finanziamenti AI.
Il co-fondatore di Ethereum, Vitalik Buterin, ha avvertito che i modelli di governance AI ingenui comportano seri rischi e ha sottolineato che i framework che si affidano all’AI per il finanziamento o il processo decisionale rimangono vulnerabili a manipolazioni e sfruttamenti. Secondo lui, tali sistemi consentono ad attori malintenzionati di deviare risorse; tuttavia, sostiene un approccio chiamato “info finance”, progettato per costruire responsabilità e prevenire abusi attraverso mercati, supervisione umana e controlli.
Il Caso Contro la Governance AI Ingenua
Buterin ha sottolineato che la governance AI ingenua è rischiosa e ha aggiunto che se l’AI viene utilizzata per allocare fondi, le persone potrebbero manipolarla con prompt a loro scelta e ottenere denaro in eccesso. Ha inoltre spiegato che se i modelli funzionassero senza restrizioni o linee guida, potrebbero essere gestiti in modo improprio, incoraggiando così gli hacker a utilizzare prompt e ingannare l’AI per rilasciare risorse sbagliate.
Tali vulnerabilità pongono l’AI in un potenziale circolo vizioso pericoloso. Inoltre, Buterin ha rivelato debolezze sistemiche che, se non controllate, potrebbero essere manipolate. Attacchi invisibili e prompt injection sono esempi di come gli aggressori possano facilmente approfittarne.
Info Finance come Alternativa
Buterin opta per l’information finance al posto della governance ingenua, descrivendola come un approccio di “institution design” che combina la competizione di mercato aperto con la verifica umana. Ha dichiarato,
Come alternativa, sostengo l’approccio info finance, dove esiste un mercato aperto in cui chiunque può contribuire con i propri modelli, che sono soggetti a un meccanismo di controllo a campione che può essere attivato da chiunque e valutato da una giuria umana.
Ha spiegato che Info Finance consente a contributori esterni di integrare large language models (LLM) senza dover codificare un unico sistema. Questo permetterà una diversità nei modelli, riducendo così la possibilità di fallimenti diffusi. Inoltre, crea incentivi per sviluppatori e speculatori a monitorare attentamente i difetti e agire rapidamente quando si verificano problemi.
Un meccanismo proposto prevede l’uso di prediction market o decision market. Più modelli competerebbero e i partecipanti potrebbero puntare sugli esiti, segnalando quali modelli sembrano più affidabili. Giurie o revisori umani effettuerebbero controlli a campione periodici, soprattutto nei casi ad alto rischio.
Correlato: Le tesorerie ETH salgono a 12B$ mentre Vitalik avverte dei rischi di leva finanziaria
Implicazioni per Crypto e Mercati
Info finance si basa su una responsabilità a più livelli, ed è rilevante nella competizione aperta, che permette di contestare o sostituire modelli difettosi. La supervisione umana viene aggiunta tramite giurie e audit. Gli incentivi economici impediscono la manipolazione, mentre la trasparenza rende visibili i comportamenti malevoli.
Collegando la governance AI alla blockchain e al trading, Buterin suggerisce che i difetti nelle AI centralizzate potrebbero aumentare l’interesse verso soluzioni decentralizzate, per lo più costruite su Ethereum. Inoltre, token come RNDR di Render Network e GRT di The Graph forniscono infrastrutture per i calcoli AI, traendo così vantaggio dallo sviluppo. Inoltre, i trader potrebbero anche utilizzare ETH e questi token per arbitraggio durante la volatilità del mercato.
I dati on-chain indicano che ci sono più transazioni ETH associate a smart contract legati all’AI e che le problematiche di governance AI possono influenzare anche i titoli tecnologici, con aziende come NVIDIA e Microsoft coinvolte in investimenti AI. In generale, Buterin ha sottolineato che Info Finance consente correzioni più rapide, sostituendo così modelli difettosi e penalizzando i malintenzionati. Ha anche aggiunto che i controlli delle giurie e i controlli a campione impediranno la diffusione degli sfruttamenti.
L’articolo Buterin Pushes Info Finance to Stop Exploits in AI Governance è apparso per la prima volta su Cryptotale.
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
Ti potrebbe interessare anche
Apple (AAPL.US) non brucia denaro, il rifugio sicuro delle vendite di AI è davvero sicuro?
Apple, che non partecipa alla corsa agli armamenti dell'IA, è diventata un "porto sicuro" durante le vendite di IA; tuttavia, con valutazioni elevate, Apple deve affrontare una prova di crescita.
Le entrate e i profitti di Apple dello scorso trimestre hanno superato le aspettative, ma i costi elevati della memoria, il margine di profitto ridotto, le prestazioni inferiori in Cina e la crescita rallentata dei servizi | Cronaca dei risultati finanziari
Nel quarto trimestre fiscale chiuso a fine settembre, il fatturato totale di Apple è aumentato di quasi il 12% su base annua; le entrate da iPhone sono cresciute del 17,5% superando le aspettative, mentre quelle da Mac sono aumentate di quasi il 24%, superando le previsioni degli analisti dell'11%. Le entrate da iPad e dispositivi indossabili sono risultate inferiori alle attese. L'EPS è cresciuto del 14% anno su anno, il margine lordo al 47,9% è il livello più basso dell’anno, sostenuto dalle agevolazioni tariffarie negli Stati Uniti. Le entrate dai servizi hanno raggiunto un nuovo massimo per il trimestre. Le entrate dall'area della Grande Cina sono aumentate del 21%, ma ancora inferiori del 6,5% rispetto alle previsioni degli analisti. Per l'intero anno fiscale, il fatturato ha raggiunto un record storico, mentre la remunerazione degli azionisti è diminuita, il riacquisto azionario è sceso di quasi il 5% rispetto all’anno precedente, a 86,4 miliardi di dollari. Durante la call sui risultati, il management ha rivelato che l'elevato prezzo della memoria sta erodendo i margini di profitto, indicando un intervallo di margine lordo per il prossimo trimestre solamente tra il 45% e il 46%, ben al di sotto del 47,9% di questo trimestre. Dopo la pubblicazione del bilancio, il prezzo delle azioni è stato volatile e ha invertito in calo, raggiungendo un ribasso superiore al 4% a un certo punto.
Marvell crolla del 13%, Lumentum precipita del 19%! La seconda più grande fusione tecnologica della storia scatena vendite
Marvell ha annunciato l'acquisizione di Lumentum per un valore aziendale di 115 miliardi di dollari, una delle operazioni più grandi nella storia del settore tecnologico, seconda solo alla fusione tra SpaceX e xAI. Dopo il completamento dell’operazione, gli attuali azionisti di Marvell deterranno circa il 67% della società risultante dalla fusione. La conclusione dell’accordo è prevista per la prima metà del 2028. Tuttavia, in un momento in cui le azioni legate all’intelligenza artificiale sono sotto pressione, il mercato vede negativamente questa operazione: lunedì sia Lumentum che Marvell hanno subito forti ribassi, poiché gli investitori temono spazi limitati per sinergie di riduzione dei costi e incertezza sull’approvazione regolamentare.
CITIC Securities: il settore tecnologico è turbolento, l'oro subisce un impatto di liquidità
Il calo delle posizioni long sui fondi d'oro della CFTC e delle posizioni dello SPDR indica che l'oro potrebbe essere soggetto a pressioni di liquidità per integrare i margini sulle azioni tecnologiche; nonostante un afflusso di capitali nei Treasury USA come bene rifugio abbia fatto scendere i rendimenti dei Treasury, questo non è stato sufficiente a stimolare posizioni long sull'oro.
Prezzi delle criptovalute
Altro
