Anthropic löst vor Börsengang eigene Sicherheitswarnungen aus: KI-Fortschritte übertreffen Erwartungen
Anthropic hat in seinen IPO-Unterlagen offengelegt, dass die Geschwindigkeit der KI-Entwicklung zusätzliche Sicherheitsmechanismen des Unternehmens ausgelöst hat. Die Bewertungsorganisation METR stellte fest, dass Anthropic im vergangenen Jahr technische Fortschritte erzielt hat, die denen der vorherigen zwei Jahre entsprechen, und dass KI zunehmend an ihrer eigenen Entwicklung beteiligt ist, wodurch dieser Prozess beschleunigt wird. Das Risiko einer unkontrollierten, rekursiven Selbstverbesserung hat auch Bedenken im Bereich der KI-Sicherheit ausgelöst.
Während Anthropic kurz vor dem Börsengang an der Wall Street steht, wurde in den Emissionsunterlagen eine Sicherheitswarnung bekanntgegeben: Der Fortschritt der KI-Forschung des Unternehmens hat die selbst gesetzte Sicherheitsgrenze erreicht und erfordert die Aktivierung zusätzlicher Sicherheitskontrollen.
Am 19. November berichtete die britische Financial Times, dass Anthropic in den aktualisierten IPO-Anmeldungsunterlagen eingeräumt hat, dass der technologische Fortschritt zusätzliche Sicherheitsmechanismen der 2023 festgelegten „Responsible Scaling Policy“ ausgelöst hat. Diese Offenlegung erfolgt just in dem Moment, in dem das Unternehmen den Ausgabepreis der Aktien auf 83 US-Dollar pro Stück festlegt, was über dem bisherigen Zielkorridor liegt und Anthropic mit etwa 1,5 Billionen US-Dollar bewertet.
Der Auslöser für diese Sicherheitsmechanismen stammt aus einem Bericht der KI-Bewertungsagentur METR, der diesen Monat veröffentlicht wurde. Die Agentur erhielt umfassenden Zugang zu Anthropics Systemen, Personal und nicht veröffentlichten Modellen. Dabei stellte sie fest, dass der Fortschritt der KI-Fähigkeiten bei Anthropic im vergangenen Jahr etwa dem von zwei Jahren historischer Entwicklung entspricht. Forscher, die KI-Tools zur Beschleunigung ihrer eigenen Arbeit nutzen, treiben diesen Trend maßgeblich voran.
Verdopplung der KI-Fortschrittsgeschwindigkeit aktiviert interne Sicherheitsmechanismen
METR ist eine Forschungseinrichtung, die sich auf die Bewertung fortschrittlicher KI-Fähigkeiten und -Risiken spezialisiert hat. Der aktuelle Bericht zeigt, dass Anthropic in den vergangenen 12 Monaten ungefähr einen technologischen Fortschritt erzielt hat, der historisch zwei Jahre benötigt hätte – die Geschwindigkeit hat sich im Vergleich zum Vorjahr etwa verdoppelt.
Diese Geschwindigkeit hat die von Anthropic selbst festgelegte Sicherheitsgrenze erreicht. Laut der 2023 veröffentlichten Unternehmensrichtlinie müssen strengere Aufsichtsmaßnahmen ergriffen werden, sobald der KI-Entwicklungsfortschritt so weit beschleunigt ist, dass zwei Jahre technologischer Fortschritt in einem Jahr nachgeholt werden.
Anthropic erklärte, dass diese Einschätzung auf den erwarteten Fähigkeiten zukünftiger Modelle und der allgemeinen Fortschrittsgeschwindigkeit basiert und nicht bedeutet, dass das KI-System bereits in der Lage ist, sich vollständig autonom zu verbessern. Die neuen Maßnahmen umfassen Sicherheitsgarantien, Governance-Strukturen sowie interne Prüfungen im Entwicklungsprozess der Modelle.
Anthropic-Führungskraft Sam McCandlish antwortete, dass viele Schlussfolgerungen des METR-Berichts mit seinen eigenen Beobachtungen übereinstimmen. Er räumte ein, dass KI die Forschungsarbeit des Unternehmens beschleunigt, auch wenn der Einfluss derzeit noch schwer genau zu beziffern sei.
KI beteiligt sich an der eigenen Forschung, zunehmende Risiken durch rekursive Verbesserung
Hinter dem beschleunigten technologischen Fortschritt steht die zunehmende Beteiligung von KI an der Entwicklung nachfolgender KI-Systeme. Dieser Prozess wird als „Recursive Self-Improvement“ (RSI) bezeichnet und beschreibt, wie KI-Systeme selbst dabei helfen, leistungsfähigere Nachfolgermodelle zu entwickeln.
Anthropic hebt in seinem Prospekt die Fähigkeit hervor, ein Modell beim Bau des nächsten Modells als geschlossenen Forschungszyklus einzubinden – ein wichtiger Wettbewerbsvorteil gegenüber anderen Unternehmen. Die Effizienz der Rechenleistung wurde dadurch nachweislich gesteigert.
Doch diese Fähigkeit bringt neue Sicherheitsrisiken mit sich. Der CEO von Apollo Research, Marius Hobbhahn, erklärte, dass Forscher bislang sehr unterschiedliche Meinungen über den Zeitpunkt der Umsetzung rekursiver Selbstverbesserung hatten. Dieses Zeitfenster verkürzt sich nun rasch, während die Sicherheitsvorkehrungen der Branche noch lange nicht ausreichend sind.
Die KI-Sicherheitsorganisation „The AI Futures Project“ bewertet den im METR-Bericht bestätigten beschleunigten Trend als überraschend und prognostiziert, dass Superhuman-AI-Forscher wahrscheinlich schon 2027 auftreten könnten. Die Organisation hält es für dringend notwendig, die Entwicklung fortgeschrittener KI entweder zu pausieren oder entscheidend zu verlangsamen.
Anthropic-CEO Dario Amodei hatte bereits im September letzten Jahres gefordert, für die Geschwindigkeit der rekursiven Verbesserung von KI eine Art „Geschwindigkeitsbegrenzung“ einzuführen, da die Fortschritte ansonsten atemberaubend schnell erfolgen könnten.
Sicherheitsprofil in der Kritik, wachsender externer Druck
Während Anthropic die Aktivierung der Sicherheitsmechanismen offenlegt, nimmt auch die Kritik an der Sicherheitsstrategie des Unternehmens von außen zu.
Am Mittwoch äußerte ein von der Non-Profit-Organisation „Center for AI Safety“ geführtes Bündnis – dazu zählen Forscher und Sicherheitsexperten von Hugging Face und xAI – in einer öffentlichen Erklärung, dass Anthropic seine Sicherheitsmarke nutze, um Investoren, Mitarbeitende und die Öffentlichkeit anzuziehen, ohne tatsächlich ein sicheres KI-Unternehmen zu sein.
In der Erklärung wird besonders hervorgehoben, dass Anthropic einerseits vor den Risiken rekursiver Selbstverbesserung wie Machtkonzentration und Kontrollverlust der Menschheit warnt, andererseits aber dennoch an der Entwicklung dieser Technologien beteiligt ist.
Ähnliche Bedenken bestehen auch innerhalb der KI-Branche. OpenAI-Vorstandsmitglied und KI-Sicherheitsforscher Paul Christiano sagte kürzlich in einem Podcast, dass die zunehmende Automatisierung der KI-Entwicklung möglicherweise schon bald extrem leistungsfähige KI hervorbringt. Wenn die Branche eine rasche Explosion der Intelligenz und den Sprung zur Superintelligenz erlebt, könnte die Menschheit letztlich die Kontrolle über die entwickelten Systeme verlieren.
Hobbhahn glaubt außerdem, dass selbst ein Scheitern des Anthropic-Börsengangs oder eine stagnierende KI-Finanzierungslandschaft den technischen Fortschritt nicht aufhalten wird. Seiner Meinung nach verfügen die bestehenden KI-Labore über ausreichend Kapital, um mindestens zwei große technologische Durchbrüche voranzutreiben – selbst wenn die Marktblase platzt, könnten Modelle entstehen, deren Fähigkeiten die des Menschen weit übertreffen.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Größter Börsengang der Geschichte vollzogen! Anthropic steigt beim Debüt um 34 %, Marktkapitalisierung übersteigt 2 Billionen
Der Ausgabepreis von Anthropic entspricht einer Bewertung von 1,5 Billionen US-Dollar und übertrifft damit die Börsenpremiere von SpaceX sowie die von Tesla und Meta; der Börsenwert stieg zeitweise um fast 39 %, gab die Gewinne jedoch teilweise wieder ab und lag zwischenzeitlich bei weniger als 15 %. Der CEO versprach beim Läuten der Glocke an der Nasdaq, sich weder kommerziellem noch politischem Druck zu beugen, und betonte die Sicherheit von KI sowie medizinische Durchbrüche. Wall-Street-Experten bezeichneten diesen Börsengang als einen „A+-Erfolg“.
Anthropic (ANT.US) könnte am ersten Handelstag um mehr als 25 % steigen; Perpetual Contracts deuten auf einen Eröffnungspreis von 104 USD hin, die Bewertung nähert sich 1,83 Billionen USD.
Die Daten zum Handel mit Pre-IPO-Perpetual-Kontrakten auf der dezentralen Handelsplattform Hyperliquid zeigen, dass der Markt derzeit darauf wettet, dass der Eröffnungspreis von Anthropic 104 US-Dollar erreichen könnte, was einem Anstieg von über 25 % gegenüber dem IPO-Ausgabepreis von 83 US-Dollar entspricht.
SpaceX-Wirtschaft: Ein Starship = 400 Millionen US-Dollar Einnahmen, Amortisationszeit weniger als 20 Wochen, viel schneller als KI-Cloud!
Nach Berechnungen von Morgan Stanley kann Starship bei voller Beladung 50 Starlink V3 Satelliten pro Flug aussetzen und dadurch einen jährlichen zusätzlichen Umsatz von etwa 400 Millionen US-Dollar generieren; die EBIT-Amortisationszeit beträgt dabei nur etwa 19 Wochen. Gleichzeitig wird erwartet, dass die variablen internen Startkosten bei SpaceX von derzeit 1.000 US-Dollar pro Kilogramm im Jahr 2026 auf 140 US-Dollar im Jahr 2040 sinken werden und bis Ende 2027 voraussichtlich wöchentliche Starts möglich sind.
