Buterin naciska na Info Finance, aby powstrzymać nadużycia w zarządzaniu AI

• Vitalik ostrzega, że naiwne zarządzanie AI jest podatne na manipulacje i nadużycia.
• Info finance tworzy różnorodność modeli i szybkie korekty, czyniąc zarządzanie AI bezpieczniejszym.
• Rynki predykcyjne i kontrole wyrywkowe pomagają zabezpieczyć podejmowanie decyzji i finansowanie AI.

Współzałożyciel Ethereum, Vitalik Buterin, ostrzegł, że naiwne modele zarządzania AI niosą poważne ryzyko i zaznaczył, że ramy polegające na AI w zakresie finansowania lub podejmowania decyzji pozostają podatne na manipulacje i nadużycia. Jego zdaniem takie systemy pozwalają złośliwym podmiotom przekierowywać zasoby, jednak opowiada się on za podejściem zwanym „info finance”, zaprojektowanym w celu budowania odpowiedzialności i zapobiegania nadużyciom poprzez rynki, nadzór ludzki i kontrole.

Argumenty przeciwko naiwnemu zarządzaniu AI

Buterin podkreślił, że naiwne zarządzanie AI jest ryzykowne i dodał, że jeśli AI będzie używane do alokacji środków, ludzie mogą je manipulować za pomocą wybranych przez siebie promptów i uzyskiwać nadmiarowe środki. Rozwinął, że jeśli modele działałyby bez żadnych ograniczeń lub wytycznych, mogłyby być niewłaściwie wykorzystywane, zachęcając hakerów do używania promptów i oszukiwania AI, by wydawała niewłaściwe zasoby. 

Takie luki czynią AI potencjalnie niebezpieczną. Ponadto Buterin ujawnił systemowe słabości, które, jeśli pozostaną bez kontroli, mogą być manipulowane. Niewidoczne ataki, wstrzykiwanie promptów to przykłady, jak atakujący mogą łatwo wykorzystać system.

Info Finance jako alternatywa

Buterin wybiera information finance zamiast naiwnego zarządzania, opisując to jako podejście „projektowania instytucji”, łączące otwartą konkurencję rynkową z weryfikacją ludzką. Powiedział:

Jako alternatywę popieram podejście info finance, gdzie masz otwarty rynek, na którym każdy może zgłaszać swoje modele, które podlegają mechanizmowi kontroli wyrywkowej, uruchamianemu przez każdego i ocenianemu przez ludzkie jury.

Wyjaśnił, że Info Finance pozwala zewnętrznym współtwórcom integrować duże modele językowe (LLM) bez twardego kodowania jednego systemu. To umożliwia różnorodność modeli, zmniejszając ryzyko szeroko zakrojonych awarii. Tworzy to także bodźce dla deweloperów i spekulantów do uważnego obserwowania błędów i szybkiego reagowania na problemy.

Jednym z proponowanych mechanizmów są rynki predykcyjne lub rynki decyzyjne. Wiele modeli konkurowałoby ze sobą, a uczestnicy mogliby stawiać na wyniki, sygnalizując, które modele wydają się najbardziej wiarygodne. Ludzkie jury lub audytorzy okresowo sprawdzaliby wyniki, szczególnie w przypadkach o wysokiej stawce.

Powiązane: ETH Treasuries Surge to $12B as Vitalik Warns of Leverage Risks

Implikacje dla kryptowalut i rynków

Info finance opiera się na wielopoziomowej odpowiedzialności i jest szczególnie widoczne w otwartej konkurencji, która pozwala kwestionować lub zastępować wadliwe modele. Nadzór ludzki jest dodawany poprzez jury i audyty. Bodźce ekonomiczne uniemożliwiają manipulacje, a przejrzystość sprawia, że złośliwe działania są widoczne.

Łącząc zarządzanie AI z blockchainem i handlem, Buterin sugeruje, że wady scentralizowanego AI mogą zwiększyć zainteresowanie zdecentralizowanymi rozwiązaniami, głównie opartymi na Ethereum. Ponadto tokeny takie jak RNDR Render Network i GRT The Graph zapewniają infrastrukturę dla obliczeń AI, czerpiąc korzyści z rozwoju. Dodatkowo, traderzy mogą również wykorzystywać ETH i te tokeny do arbitrażu w warunkach zmienności rynku. 

Dane on-chain wskazują, że coraz więcej transakcji ETH jest powiązanych z inteligentnymi kontraktami związanymi z AI, a kwestie zarządzania AI mogą wpływać także na akcje technologiczne, przy czym firmy takie jak NVIDIA i Microsoft są zaangażowane w inwestycje AI. Ogólnie rzecz biorąc, Buterin zauważył, że Info Finance pozwala na szybsze korekty, zastępując wadliwe modele i karząc sprawców nadużyć. Dodał również, że kontrole jury i wyrywkowe zapobiegną rozprzestrzenianiu się nadużyć.

The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.