Nvidia lance un système de sécurité IA à double couche pour prévenir les accès non autorisés des agents intelligents

Nvidia (NVDA.US) a lancé un nouveau système de sécurité à double couche pour l'intelligence artificielle. La société affirme que ce système peut prévenir les récentes failles de sécurité médiatisées survenues chez Hugging Face à cause du modèle d'intelligence artificielle d'OpenAI. Nvidia déploie deux nouveaux outils logiciels open source, conçus pour fonctionner sur son matériel, visant à contrôler en temps réel les contenus auxquels les agents IA peuvent accéder et à les désactiver en cas de violation des règles. Justin Boitano, vice-président de l'IA d'entreprise chez Nvidia, a déclaré lundi que si les principaux laboratoires d'intelligence artificielle avaient adopté cette technologie dès l'évaluation initiale de leurs modèles IA, l'attaque subie par Hugging Face aurait peut-être pu être évitée. Il a précisé : « Selon les informations dont nous disposons actuellement, cette nouvelle plateforme de sécurité aurait pu empêcher la faille en question. »