Nvidia lanza un sistema de seguridad de IA de dos capas para prevenir el acceso no autorizado de agentes inteligentes.

Nvidia (NVDA.US) ha lanzado un nuevo sistema de seguridad de inteligencia artificial de doble capa. La compañía señaló que este sistema puede prevenir incidentes de seguridad destacados como el que involucró a Hugging Face, causado recientemente por modelos de inteligencia artificial de OpenAI. Nvidia está presentando dos herramientas de software de código abierto, diseñadas para funcionar en su hardware, que permiten controlar en tiempo real el contenido al que pueden acceder los agentes de IA y desactivarlos si violan las reglas. Justin Boitano, vicepresidente de IA empresarial de Nvidia, declaró el lunes que, si los principales laboratorios de inteligencia artificial hubieran adoptado esta tecnología al evaluar sus modelos en las primeras etapas, tal vez se podría haber evitado el ataque sufrido por Hugging Face. Dijo: “Según la información que tenemos hasta ahora, esta nueva plataforma de seguridad podría haber detenido este incidente de vulnerabilidad”.