Ukryty w papierze toaletowym rejestrator ujawnia wieloletnie zaniedbania OpenAI w zakresie bezpieczeństwa

Firma przez długi czas korzystała z jednego, centralnego repozytorium kodu, co doprowadziło do utraty kontroli nad uprawnieniami. Obecnie, chociaż utworzono niezależne repozytoria i powołano CISO w celu wzmocnienia nadzoru, konflikt między bezpieczeństwem a tempem rozwoju nadal wpływa na przebieg IPO.

Autor artykułu, źródło: AIBase

W październiku tego roku w jednej z sal konferencyjnych OpenAI zauważono coś nietypowego: ktoś potajemnie umieścił tam urządzenie nagrywające. Jak poinformował Departament Sprawiedliwości USA 13 października, zatrzymanym okazał się 35-letni obywatel Arabii Saudyjskiej, Abdulrahman Alfozan, który w momencie zdarzenia pracował jako inżynier OpenAI i sprytnie ukrył sprzęt w papierze toaletowym. Wielu byłych pracowników nie było tym zaskoczonych.

Problemy narastały od dawna, pracownicy ostrzegali od lat bez odzewu

Według Reutersa, powołującego się na pięciu zorientowanych informatorów, już pod koniec 2022 roku, jeszcze przed debiutem ChatGPT, pojawiły się wątpliwości co do zarządzania bezpieczeństwem i były one przekazywane kierownictwu oraz radzie dyrektorów; część pracowników uważała, że dla zarządu ważniejsze było dogonienie Google i Anthropic, a bezpieczeństwo schodziło na dalszy plan. Jeden z informatorów wyjaśnił, że każda osoba z dostępem do kodu mogła przeglądać ogromną liczbę szczegółów technologicznych niezwiązanych z własną pracą – powodem było to, że OpenAI przez długi czas gromadziła większość kodu w potężnym systemie zwanym „monolitycznym repozytorium kodu”, co dawniej mogło budzić respekt, dziś jednak AI jest w stanie z łatwością uporządkować takie ogromne zbiory danych.

Przeciąganie liny między bezpieczeństwem i szybkością nadal blokuje IPO

Problem polega na tym, że AI stała się amerykańskim aktywem strategicznym, a firmy są zmuszane, by zapobiegać wyciekom technologii; jednak zwiększanie zabezpieczeń spowalnia prace badawczo-rozwojowe, a nawet może utrudniać planowane IPO zarówno OpenAI, jak i Anthropic. Były pracownik naukowy Depue, który odszedł z firmy w kwietniu, stwierdził, że nie można poświęcać tempa rozwoju na rzecz bezpieczeństwa. Rzecznik OpenAI, Widmann, odpowiedział, że firma należy do „najczęściej atakowanych organizacji na świecie” i zainwestowała znaczące środki, by się chronić; firma dodała, że najbardziej wrażliwe projekty zostały przeniesione do niezależnych repozytoriów z restrykcyjnym zarządzaniem uprawnieniami, a po powołaniu w październiku 2024 roku CISO Starkeya, regularnie przeprowadzane są przeglądy narzędzi pod kątem bezpieczeństwa.