Buterin drängt Info Finance, Ausnutzungen in der KI-Governance zu stoppen
- Vitalik warnt davor, dass naive KI-Governance anfällig für Manipulationen und Ausnutzung ist.
- Info Finance schafft Modellvielfalt und schnelle Korrekturen, wodurch die KI-Governance sicherer wird.
- Prognosemärkte und Stichprobenprüfungen helfen, KI-Entscheidungen und -Finanzierungen abzusichern.
Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass naive Modelle der KI-Governance ernsthafte Risiken bergen, und betont, dass Rahmenwerke, die sich auf KI für Finanzierungen oder Entscheidungsfindungen verlassen, weiterhin anfällig für Manipulationen und Ausnutzung sind. Seiner Ansicht nach ermöglichen solche Systeme böswilligen Akteuren, Ressourcen umzuleiten. Er plädiert jedoch für einen Ansatz namens „Info Finance“, der darauf abzielt, durch Märkte, menschliche Aufsicht und Kontrollen Verantwortlichkeit zu schaffen und Missbrauch zu verhindern.
Das Problem mit naiver KI-Governance
Buterin betonte, dass naive KI-Governance riskant ist und fügte hinzu, dass, wenn KI zur Mittelvergabe eingesetzt wird, Menschen sie mit ihren eigenen Prompts manipulieren und überschüssiges Geld erhalten könnten. Er erläuterte weiter, dass, wenn Modelle ohne Einschränkungen oder Richtlinien arbeiten, sie missbraucht werden könnten, was Hacker dazu ermutigt, Prompts zu verwenden und die KI dazu zu bringen, falsche Ressourcen freizugeben.
Solche Schwachstellen bringen KI in eine potenziell gefährliche Schleife. Darüber hinaus enthüllte Buterin systemische Schwächen, die, wenn sie nicht überprüft werden, manipuliert werden könnten. Unsichtbare Angriffe und Prompt-Injektionen sind Beispiele dafür, wie Angreifer leicht Vorteile ziehen können.
Info Finance als Alternative
Buterin entscheidet sich für Information Finance anstelle naiver Governance und beschreibt es als einen Ansatz des „Institutionendesigns“, der offenen Marktwettbewerb mit menschlicher Überprüfung verbindet. Er sagte:
Als Alternative unterstütze ich den Info-Finance-Ansatz, bei dem es einen offenen Markt gibt, auf dem jeder seine Modelle einbringen kann, die einem Stichprobenmechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann.
Er erläuterte, dass Info Finance es externen Mitwirkenden ermöglicht, große Sprachmodelle (LLMs) zu integrieren, ohne ein einziges System fest zu programmieren. Dies ermöglicht Modellvielfalt und verringert so die Wahrscheinlichkeit eines weitreichenden Ausfalls. Es schafft auch Anreize für Entwickler und Spekulanten, Schwachstellen genau zu beobachten und bei Problemen schnell zu handeln.
Ein vorgeschlagener Mechanismus beinhaltet Prognosemärkte oder Entscheidungsbörsen. Mehrere Modelle würden konkurrieren, und Teilnehmer könnten auf Ergebnisse setzen, um anzuzeigen, welche Modelle am zuverlässigsten erscheinen. Menschliche Jurys oder Prüfer würden die Ergebnisse regelmäßig stichprobenartig überprüfen, insbesondere in Fällen mit hohen Einsätzen.
Verwandt: ETH-Treasuries steigen auf 12 Milliarden Dollar, während Vitalik vor Leverage-Risiken warnt
Auswirkungen auf Krypto und Märkte
Info Finance setzt auf gestufte Verantwortlichkeit und ist besonders im offenen Wettbewerb bemerkenswert, der es ermöglicht, fehlerhafte Modelle herauszufordern oder zu ersetzen. Menschliche Aufsicht wird durch Jurys und Audits ergänzt. Wirtschaftliche Anreize verhindern Manipulationen, während Transparenz böswilliges Verhalten sichtbar macht.
Indem Buterin die KI-Governance mit Blockchain und Handel verknüpft, deutet er an, dass Schwächen in zentralisierten KI-Systemen das Interesse an dezentralen Lösungen, die meist auf Ethereum basieren, steigern könnten. Darüber hinaus bieten Token wie Render Network’s RNDR und The Graph’s GRT Infrastruktur für KI-Berechnungen und profitieren somit von der Entwicklung. Händler könnten zudem ETH und die Token für Arbitrage bei Marktschwankungen nutzen.
On-Chain-Daten zeigen, dass es mehr ETH-Transaktionen im Zusammenhang mit KI-bezogenen Smart Contracts gibt und dass KI-Governance-Probleme auch Technologiewerte beeinflussen können, wobei Unternehmen wie NVIDIA und Microsoft in KI-Investitionen involviert sind. Insgesamt wies Buterin darauf hin, dass Info Finance schnellere Korrekturen ermöglicht, fehlerhafte Modelle ersetzt und Fehlverhalten bestraft. Er fügte hinzu, dass Jury- und Stichprobenprüfungen die Ausbreitung von Ausnutzung verhindern werden.
Der Beitrag „Buterin Pushes Info Finance to Stop Exploits in AI Governance“ erschien zuerst auf Cryptotale.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Lebenslange Narben: Goldman Sachs entdeckt, dass durch KI ersetzte Arbeiter oft Schwierigkeiten haben, neue Beschäftigung zu finden und häufig in das nächste Jagdrevier der KI geraten.
Die KI-bedingten Entlassungen breiten sich bereits in der gesamten Branche aus! Goldman Sachs warnt: Betroffene geraten in eine gefährliche "Einstellungsfalle" – nicht nur ist die Wiedereinstellung schwierig, sondern 75 % werden erneut innerhalb des KI-Ersatzbereichs landen. Noch gefährlicher ist: Sobald die Wirtschaft sich abschwächt, könnten Millionen aufgestaute KI-Entlassungen gleichzeitig zum Ausbruch kommen – der eigentliche Sturm der Arbeitslosigkeit steht erst am Anfang.
Entscheidung über den Markttrend nächste Woche! Größtes Rätsel der US-Zwischenwahlen: Republikaner halten überraschend den Senat vs. Demokraten gewinnen mehr als 53 Sitze
Citigroup ist der Ansicht, dass die Erwartung eines Durchmarsches der Demokraten durch beide Kammern im US-Aktienmarkt bereits weitgehend eingepreist ist, und dass die Kontrolle des Senats der entscheidende Faktor bleibt. Sollte die Republikanische Partei überraschend den Senat halten, könnten die US-Aktien bis zum Jahresende Unterstützung erhalten; gewinnen die Demokraten mehr als 53 Sitze, werden die Erwartungen einer Erhöhung der Unternehmenssteuern, fiskalische Verhandlungen und regulatorische Risiken im Zusammenhang mit KI-Rechenzentren Druck auf den Markt ausüben.
Das "Perfektsturm"-Szenario für KI: Der Anleihenmarkt gibt das Signal, Quartalsberichte verschärfen die Lage, und die Wahlen setzen den "letzten Schlag"?
Die KI-Euphorie steht unter dreifachem Druck durch den Anleihemarkt, Unternehmensberichte und politische Risiken: Die Finanzierungshürden steigen, der Markt für Unternehmensanleihen von KI-Cloud-Firmen ist nahezu geschlossen; die Kapitalausgaben von Technologiegiganten steigen stark an, der freie Cashflow verschlechtert sich, was den Aktienkurs belastet; mit den anstehenden Zwischenwahlen könnte die wachsende Opposition gegen Rechenzentren zu einer Verschärfung der Regulierung führen. Der Markt bewegt sich weg von der reinen Jagd nach Rechenleistung hin zu einer kritischen Hinterfragung der Investitionsrendite.
Krypto-Preise
Mehr
