O gravador escondido no papel higiênico revela anos de falhas de segurança da OpenAI

Durante muito tempo, a empresa utilizou um único repositório de código, o que levou a uma perda de controlo de permissões. Embora agora tenha criado repositórios independentes e nomeado um CISO para reforçar a fiscalização, o conflito entre segurança e velocidade de desenvolvimento continua a afetar o processo de IPO.

Autor do artigo, fonte: AIBase

Em outubro deste ano, uma situação anormal numa sala de reuniões de executivos da OpenAI foi identificada: alguém tinha escondido secretamente um dispositivo de gravação. De acordo com o comunicado do Departamento de Justiça dos EUA de 13 de outubro, o detido foi Abdulrahman Al-Fouzan, cidadão saudita de 35 anos, que na altura era engenheiro da OpenAI e escondeu o aparelho habilmente dentro de um rolo de papel higiénico. Vários ex-funcionários não ficaram surpreendidos ao ouvir a notícia.

Problemas antigos já davam sinais, e os alertas dos funcionários foram ignorados durante anos

Segundo a Reuters, que cita 5 fontes próximas ao assunto, ainda antes do lançamento do ChatGPT, no final de 2022, já havia quem questionasse a gestão de segurança da empresa e comunicasse as preocupações à administração e ao conselho de administração; alguns funcionários sentiam que, para a gestão, o mais importante era alcançar Google e Anthropic, relegando a segurança para segundo plano. Um dos informantes deu o exemplo de que qualquer pessoa com acesso ao código podia consultar uma grande quantidade de detalhes técnicos não relacionados com as suas funções — tudo porque a OpenAI concentrava a maior parte do código num enorme sistema apelidado de "repositório de código monolítico". Antes, este método podia intimidar, mas agora, com os agentes de IA capazes de organizar facilmente grandes volumes de informação, isso deixou de ser eficaz.

O impasse entre segurança e velocidade também trava o IPO

O dilema é o seguinte: a IA tornou-se um ativo estratégico dos EUA, e as empresas são pressionadas a evitar fuga tecnológica; contudo, aumentar as medidas de proteção desacelera o desenvolvimento, prejudicando inclusive a preparação do IPO que tanto OpenAI como Anthropic planeiam. O antigo investigador Depue, que deixou a empresa em abril, afirmou categoricamente que não se pode sacrificar a velocidade em nome da segurança. O porta-voz da OpenAI, Widmann, respondeu dizendo que a empresa é "uma das instituições mais atacadas do mundo", investindo somas avultadas em segurança; acrescentou ainda que os projetos mais sensíveis foram transferidos para repositórios independentes com acesso rigorosamente controlado, e que, após a nomeação do CISO Stacki em outubro de 2024, serão realizadas auditorias regulares às ferramentas de segurança.