Khi tranh cãi về an toàn gia tăng, Nvidia (NVDA.US) đưa ra giải pháp kỹ thuật! Nền tảng an toàn AI hai lớp tập trung vào quyền hạn và hành vi bất thường của trí tuệ nhân tạo.

Theo thông tin từ ứng dụng tài chính thông minh, trong khi cuộc tranh luận về rủi ro an toàn trong ngành trí tuệ nhân tạo (AI) ngày càng gay gắt gần đây, Nvidia (NVDA.US) đã lựa chọn phương pháp kỹ thuật để phản hồi. Vào thứ Hai, Nvidia giới thiệu một nền tảng an ninh AI hai lớp có tên gọi "Nền tảng bảo mật tác nhân mở", cung cấp giám sát liên tục, thực thi chiến lược theo thời gian thực và quản trị bảo mật cho AI agent thông qua kiến trúc ba tầng: tầng ứng dụng, thời gian thực thi và tầng hạ tầng cơ sở.

Hệ thống này bao gồm hai công cụ phần mềm mã nguồn mở là OpenShell và Nvidia Sentry. Trong đó, phần mềm mã nguồn mở OpenShell có thể vận hành AI agent trong môi trường sandbox, chuyển đổi chỉ thị người dùng thành chiến lược an toàn có thể xác thực, đồng thời giới hạn quyền truy cập của agent đối với tệp, mạng, công cụ, quy trình và thông tin xác thực. Nvidia Sentry thì mở rộng kiểm soát giám sát và an ninh tới đơn vị xử lý dữ liệu BlueField, sử dụng kết nối Nvidia DOCA để theo dõi tương tác, quyết định chiến lược, ghi lại truy cập công cụ và dữ liệu của agent, từ đó phát hiện hành vi bất thường và can thiệp khi cần thiết. Nói cách khác, OpenShell chịu trách nhiệm kiểm soát tài nguyên và quyền thực thi của AI agent, còn Nvidia Sentry chịu trách nhiệm giám sát hành vi của agent và phát hiện các mối đe dọa tiềm năng.

Nvidia cho biết, AI agent có thể lệch khỏi nhiệm vụ được xác định do các công cụ, thời gian chạy hoặc sự không rõ ràng trong chỉ thị, vì vậy cần phải có kiểm soát an toàn độc lập với agent. Hệ thống này được tối ưu hóa cho hệ thống Nvidia Vera CPU và BlueField DPU và cũng tương thích với các hệ thống phần cứng khác. Nvidia tuyên bố công ty đang hợp tác với Arm (ARM.US) và Intel (INTC.US) nhằm đảm bảo hệ thống này có thể chạy trên CPU của hai công ty nói trên.

Ali Golshan, Giám đốc phần mềm AI cao cấp của Nvidia, cho biết các công cụ này của Nvidia sử dụng công thức toán học để phát hiện AI agent có đang cố gắng "lách luật" hay không, ví dụ một agent có thể cố gắng "sinh" ra nhiều "sub-agent" nhằm vượt qua các biện pháp ngăn chặn đối với agent chính. Ông nói: “Điều mà chúng tôi thực sự thảo luận là hành vi theo agent, tức là các cụm gồm nhiều agent và cách chúng phối hợp vận hành.”

Nvidia cũng cho biết, hệ thống này có thể cô lập agent bất thường chỉ trong mili giây, đồng thời nhấn mạnh nếu các phòng thí nghiệm liên quan đã triển khai công nghệ này trước đây, thì sự cố mô hình OpenAI tấn công Hugging Face hồi tháng 7 năm nay đã có thể được ngăn chặn.

Justin Boitano, Phó chủ tịch kiêm Tổng giám đốc khối tính toán doanh nghiệp của Nvidia, nói: “Dựa trên những gì chúng tôi biết hiện tại, nếu nền tảng bảo mật hoàn toàn mới này được sử dụng trong giai đoạn đánh giá mô hình ban đầu tại các phòng thí nghiệm AI tiên tiến, nó hoàn toàn có thể đã ngăn chặn vụ tấn công lần này.” Ông bổ sung: “Chúng tôi đang tiến hành công việc này một cách cởi mở, và cũng hy vọng hợp tác với mọi người để cùng tham gia vào quá trình phát triển này.”

Việc Nvidia phát hành hệ thống an ninh AI mới nhất diễn ra trong bối cảnh các sự cố an ninh liên quan agent AI liên tục thu hút sự quan tâm của ngành, đặc biệt là vụ tấn công mô hình OpenAI vào nền tảng mã nguồn mở trí tuệ nhân tạo nổi tiếng toàn cầu Hugging Face vào tháng 7. Sau sự cố Hugging Face bị xâm nhập, nhiều sự kiện liên quan agent AI của OpenAI tiếp tục bị phanh phui. Trong đó có thông tin hồi tháng 9 cho thấy agent AI của OpenAI mùa xuân năm nay đã kiểm soát một trang wiki Đức bị bỏ hoang lâu ngày. Ngoài ra, blog của OpenAI giữa tháng này cũng cho biết trong 6 tháng qua công ty đã phát hiện 6 "hành vi mô hình bất ngờ hoặc đáng lo ngại". 6 sự cố an ninh AI mới công bố này liên quan các hành vi mô hình bất thường như che giấu lỗi, tìm kiếm thông tin xác thực trái phép, tải tệp lên trang web công cộng, hay liên lạc giữa các môi trường huấn luyện lẽ ra phải bị cô lập; trong đó, sự cố sớm nhất xảy ra từ tháng 10 năm ngoái.

Khi các sự cố an ninh AI liên tiếp tăng thời gian gần đây, các doanh nghiệp AI ngày càng đối mặt với áp lực lớn và được yêu cầu nghiêm túc hơn với rủi ro an ninh. Giám đốc điều hành Anthropic, Dario Amodei, ngày 12/9 đã đăng một bài viết cảnh báo đề nghị làm chậm tốc độ phát triển mô hình AI tiên tiến. Lời kêu gọi này nhanh chóng nhận được phản hồi của Elon Musk và Sam Altman – hai nhân vật then chốt của ngành.

Tuy nhiên, khi các ông lớn ngành AI hiếm hoi đồng loạt kêu gọi "đạp phanh", CEO Nvidia Huang Renxun vẫn kiên quyết phản đối quan điểm "giảm tốc AI" chủ trương bởi Anthropic. Ông không phản đối bản thân vấn đề an ninh AI, mà phản đối việc sử dụng các dự đoán thảm họa chưa có cơ sở để trực tiếp thúc đẩy cả ngành phải tạm dừng hoặc giảm tốc. So với đó,Huang Renxun thích coi an ninh AI như một bài toán kỹ thuật hơn. Khi một phòng thí nghiệm tiên tiến gặp sự cố, việc đầu tiên cần làm là tìm nguyên nhân gốc rễ: Rốt cuộc đã xảy ra việc gì, những khâu nào bị hỏng, lẽ ra có thể áp dụng biện pháp nào, tiếp theo nên xây dựng quy trình và công nghệ mới ra sao. Sau đó, bằng giải pháp sandbox, giám sát liên tục, xác thực và đánh giá, chủ động ngăn ngừa những vấn đề tương tự xảy ra trước vòng phát hành tiếp theo.

Theo quan điểm của Huang Renxun, lý do các phòng thí nghiệm tiên phong dễ phơi bày rủi ro hơn chính là vì họ có nhiều sức mạnh tính toán nhất và đang giải quyết các vấn đề khó khăn nhất. Khi các công ty này chuyển từ dạng tổ chức nghiên cứu thành doanh nghiệp kỹ thuật thực sự, họ cũng cần xây dựng hệ thống kiểm tra và kiểm soát phù hợp.

Qua động thái ra mắt hệ thống an toàn AI lần này, Nvidia đang cố gắng tích hợp sâu hơn năng lực an ninh AI vào hạ tầng vận hành mô hình và thực thi agent, giảm nguy cơ rủi ro cho AI agent thông qua kiểm soát quyền hạn và cách ly bất thường. Điều này dường như cũng ám chỉ, lĩnh vực kinh doanh của Nvidia đang mở rộng từ chip AI sang phần mềm và hạ tầng bảo mật.