Nvidia führt ein zweistufiges KI-Sicherheitssystem ein, um den unbefugten Zugriff durch Agenten zu verhindern.

Nvidia (NVDA.US) hat ein neues zweistufiges Sicherheitssystem für künstliche Intelligenz eingeführt. Das Unternehmen erklärte, dass dieses System dazu in der Lage ist, Sicherheitslücken wie die kürzlich vom OpenAI KI-Modell verursachte und bei Hugging Face aufgetretene prominente Schwachstelle zu verhindern. Nvidia bringt zwei Open-Source-Software-Sicherheitswerkzeuge auf den Markt, die auf seiner Hardware laufen können. Diese zielen darauf ab, in Echtzeit zu überwachen, auf welche Inhalte KI-Agenten zugreifen dürfen, und sie bei Regelverstößen abzuschalten. Justin Boitano, Vice President für Enterprise AI bei Nvidia, erklärte am Montag, dass führende KI-Labore mit diesem Ansatz Angriffe wie den auf Hugging Face möglicherweise hätten verhindern können, wenn sie die Technologie frühzeitig zur Evaluierung von KI-Modellen eingesetzt hätten. Er sagte: „Nach unserem derzeitigen Wissensstand hätte diese neue Sicherheitsplattform das Leck verhindern können.“