Kalifornien verklagt offiziell OpenAI und wirft dem Unternehmen vor, dass seine Modultests mangelhaft überwacht werden und die öffentliche Sicherheit gefährden.
Der kalifornische Generalstaatsanwalt Rob Bonta hat am 16. November OpenAI verklagt und wirft dem Unternehmen Verstöße gegen das Gesetz über unlauteren Wettbewerb sowie öffentliches Ärgernis vor. Der Grund dafür ist, dass im Juli dieses Jahres zwei KI-Modelle von OpenAI die Testumgebung durchbrachen und in das Hugging Face-System eindrangen. Zudem hat das Unternehmen zuvor bereits 80 ähnliche Vorfälle dokumentiert, sich jedoch geweigert, an den Ermittlungen mitzuwirken. Zuvor endete die von Bonta gemeinsam mit mehreren Bundesstaaten gegen Meta eingereichte Klage damit, dass Meta einer Vergleichszahlung von 16,7 Milliarden US-Dollar zustimmte.
Der Generalstaatsanwalt von Kalifornien hat eine Klage gegen OpenAI eingereicht und wirft dem Unternehmen mangelnde Kontrolle bei der Testung von KI-Modellen sowie Gefährdung der öffentlichen Sicherheit vor. Dieser Fall wird zu einem Meilenstein in der Regulierung von KI in den USA.
Am Montag, dem 16. November, reichte Rob Bonta, Generalstaatsanwalt von Kalifornien, am Obersten Gerichtshof von San Francisco eine Klage gegen OpenAI ein. Er wirft dem Unternehmen einen Verstoß gegen das kalifornische Gesetz über unlauteren Wettbewerb vor und sieht darin ein öffentliches Ärgernis im Sinne der staatlichen Gesetzgebung.
Bei einer Pressekonferenz verwies Bonta auf einen Vorfall im Juli dieses Jahres: Zwei KI-Modelle von OpenAI überschritten die Grenzen der Testumgebung, verschafften sich selbstständig Zugang zum öffentlichen Internet und drangen in das interne System der Open-Source-Entwicklungsplattform Hugging Face ein.
Besonders besorgt sind die Regulierungsbehörden darüber, dass OpenAI gegenüber den Ermittlern eingeräumt hat, zuvor bereits von 80 Fällen "unautorisierter Zugriffe und Kontrollverlust über Netzwerke und Websites Dritter" gewusst zu haben, aber sich geweigert hat, die dafür benötigten Details offenzulegen.
Diese Enthüllungen treffen OpenAI direkt. Das Unternehmen befindet sich an einem entscheidenden Punkt auf dem Weg zum Börsengang und hat bereits im Juni dieses Jahres vertraulich ein Listingprospekt bei der US-Börsenaufsicht eingereicht. Am Markt wird ein IPO frühestens für 2027 erwartet.
Der regulatorische Druck kombiniert mit fortlaufenden Klagen könnte die Bewertung und den Zeitplan für den Börsengang einschränken.
Fortgesetzte rechtliche Belastungen erhöhen Unsicherheiten für den Börsengang
Diese Klage stellt das neueste Kapitel in den sich verschärfenden rechtlichen Herausforderungen für OpenAI dar.
Bereits im Juni hatte der Generalstaatsanwalt von Florida, James Uthmeier, eine Klage gegen OpenAI und CEO Sam Altman eingereicht, mit dem Vorwurf, dass das Unternehmen wissentlich Produkte mit Sicherheitsrisiken veröffentlicht habe.
OpenAI steht darüber hinaus vor mehreren Klagen, in denen im ChatGPT-Plattform-Umfeld Nutzern schädliche Wahnvorstellungen zugesprochen wurden und in Einzelfällen sogar ein Zusammenhang zu Selbstmord bestand.
Die aktuelle Klage aus Kalifornien bietet einen Präzedenzfall: Vor etwa drei Monaten schloss eine von Bonta und mehreren Generalstaatsanwälten eingeleitete Klage gegen Meta mit einer Einigung über 16,7 Milliarden US-Dollar ab, wovon Kalifornien voraussichtlich 1,5 bis 2,1 Milliarden US-Dollar erhält.
Auf legislativer Ebene liegt dem Kongress derzeit ein umfassendes KI-Sicherheitsgesetz vor, das allerdings noch nicht verabschiedet wurde. Sowohl OpenAI, Anthropic als auch Kritiker der KI-Technologie forderten nach dem Hugging Face Vorfall eine entsprechende Gesetzgebung.
Bonta betonte, dass er das technische Potenzial von KI anerkennt und an deren Fähigkeit glaubt, "wissenschaftliche Durchbrüche zu erzielen, das Wirtschaftswachstum zu fördern und Cyberangriffe abzuwehren." Er unterstrich jedoch, dass "die Unternehmen, die diese Modelle entwickeln, sowohl moralisch als auch rechtlich verpflichtet sind, die öffentliche Sicherheit an erste Stelle zu setzen."
Kontrollverlust als Auslöser, 80 Sicherheitsvorfälle wurden verschwiegen
Der Vorfall rund um den Hugging Face-Einbruch im Juli ist die zentrale Faktengrundlage der aktuellen Klage.
Laut Bonta haben OpenAIs KI-Modelle während des Tests aktiv nach Informationen gesucht, die zum "Schummeln" nützlich sein könnten, die Grenzen der Testplattform überwunden und unautorisierten Zugang zum Internet erlangt, was letztlich zum Eindringen in Hugging Face führte.
Das Ereignis sorgte für starke Reaktionen in der Branche und führte zu Forderungen nach strengeren Regulierungen für die KI-Branche seitens der Politik. Besonders schwerwiegend ist zudem, dass OpenAI gegenüber kalifornischen Ermittlern zugab, zuvor bereits 80 ähnliche Kontrollverlustfälle dokumentiert zu haben, diese aber weder offenlegte noch dabei mithalf, Details zur Bewertung bereitzustellen.
Bonta erklärte:
Das Unternehmen hat uns die zur Bewertung dieser Vorfälle benötigten Details nicht geliefert. Das ist besorgniserregend und setzt die Öffentlichkeit Risiken aus.
Er wirft OpenAI vor, "die öffentliche Sicherheit zu ignorieren, wissentlich potenziell gefährliche KI-Modelle unter Bedingungen mit ungenügender Überwachung und fehlenden Sicherheitsvorkehrungen zu testen und dabei Konsumenten und die Öffentlichkeit irrezuführen."
OpenAI: Maßnahmen zur Korrektur ergriffen – Problem betrifft die gesamte Branche
Als Reaktion auf die Klage erklärte OpenAI-Sprecher Drew Pusateri, das Unternehmen habe seit dem Hugging Face-Vorfall mehrere transparente Korrekturmaßnahmen umgesetzt, darunter die Veröffentlichung technischer Berichte, Beauftragung und Offenlegung unabhängiger Drittberichte, Information betroffener Organisationen, Verstärkung der Sicherheit seiner Forschungssysteme und Einrichtung eines Rahmens zur Erkennung und Offenlegung von "Inkonsistenzen im Modellverhalten."
Pusateri widersprach zugleich der Ausrichtung der Klage und sagte: "Diese Klage scheint OpenAI isoliert ins Visier zu nehmen, obwohl dieses Problem von jedem führenden KI-Labor anerkannt wird."
Er betonte, OpenAI nehme die Problematik der Modell-Übereinstimmung sehr ernst, habe bereits einen konstruktiven Dialog mit dem Generalstaatsanwalt geführt und werde weiterhin an "umsetzbaren Sicherheitsstandards für die gesamte Branche" mitwirken.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Der Metallmarkt ist eingebrochen! Kupfer-Futures fielen im bisherigen Tagesverlauf um fast 6 %, Silber-Futures um mehr als 5 %. Zinserhöhungserwartungen und die Abkühlung des KI-Handels sorgen für heftigen Druck.
Am Mittwoch erreichte der Londoner Kupferpreis ein Siebenmonatstief. Das Nachlassen des Interesses am KI-Handel war der entscheidende Auslöser für den starken Rückgang bei Terminkupfer. Zuvor hatte der langjährige Bulle Druckenmiller am Dienstag angekündigt, dass er nun bei Kupfer eine bärische Haltung einnimmt. Branchenexperten betonen, dass die Nachfrage nun eher einer Rezessionsumgebung entspricht. Fed-Mitglied Waller brachte eine Zinserhöhung um 50 Basispunkte im Dezember ins Gespräch, wodurch Zinserwartungen zunahmen. Der US-Dollar erstarkte, Gold fiel auf den tiefsten Stand seit 14 Monaten, während Termingold zeitweise um mehr als 3 % nachgab. Neben den Faktoren US-Dollar und Zinsen verstärkte der Kapitalabzug die Abwärtsbewegung der Metalle.

Wie lange können Goldman Sachs, Morgan Stanley und die anderen Investmentbanken auf der Wall Street weiterhin von der tiefen Verflechtung mit dem KI-Trend profitieren?
Der Bloomberg-Kolumnist Paul J. Davies schreibt, dass der KI-Finanzierungsboom die Ergebnisse der Investmentbanken an der Wall Street stark ankurbelt. Die fünf größten US-Banken erwarten in diesem Jahr einen Anstieg der Aktienhandelserträge um über 40 % im Vergleich zum Vorjahr, auf etwa 85 Milliarden US-Dollar. Allerdings könnte der IPO-Boom einen vorläufigen Höhepunkt erreichen und die Hebelwirkung der Hedgefonds lässt ebenfalls nach, sodass es für die Investmentbanken im Jahr 2027 schwierig werden dürfte, ein ähnlich hohes Wachstum wie in diesem Jahr zu erzielen.

