Nguy cơ tiềm ẩn về quản trị phía sau năng suất! Goldman Sachs (GS.US) hạn chế nhân viên không chuyên kỹ thuật sử dụng công cụ lập trình AI tiên tiến

Theo ứng dụng tài chính thông minh, theo báo cáo, Goldman Sachs (GS.US) đã cấm một số nhân viên sử dụng các công cụ trí tuệ nhân tạo (AI) cao cấp được thiết kế chuyên biệt cho lập trình sau khi đánh giá các mối lo ngại về năng suất và rủi ro. Điều này có nghĩa là ông lớn phố Wall này, sau khi tích cực thúc đẩy ứng dụng AI trong nhiều tháng, bắt đầu tái định hình phạm vi sử dụng một số công cụ AI.

Theo báo cáo, trong nhiều tháng trước đó, các nhân viên ngân hàng Goldman Sachs thường xuyên sử dụng các công cụ của Anthropic và GitHub thuộc sở hữu của Microsoft (MSFT.US) trong công việc. Tuy nhiên, theo cập nhật hướng dẫn nội bộ vào tháng 10, quyền sử dụng các công cụ này hiện đã bị giới hạn trong nhóm kỹ sư.

Sự thay đổi này đã gây ra sự không hài lòng từ một số nhân viên. Theo nguồn tin nội bộ, một số trader trước đây đã sử dụng các công cụ AI này để tăng tốc các nhiệm vụ như theo dõi luồng giao dịch của khách hàng, mô hình hóa các biến động thị trường và vị thế, cũng như tạo nội dung văn bản hoặc hình ảnh. Vì vậy, họ cảm thấy thất vọng khi quyền sử dụng các công cụ này đột ngột bị siết lại.

Điều đáng chú ý là động thái này tạo ra sự tương phản rõ rệt với thái độ tích cực của Goldman Sachs về AI hồi tháng 7 năm nay. Khi đó, Giám đốc thông tin (CIO) Marco Argenti công khai nói về khái niệm "vibe coding", tức là các nhân viên không chuyên về kỹ thuật có thể tự phát triển phần mềm hoặc giải pháp nhờ các công cụ AI. Theo mô hình thời điểm đó, các trader, banker – những người hiểu rõ nhu cầu nghiệp vụ nhất – có thể dùng AI xây dựng giải pháp nhanh chóng, sau đó giao cho một trong số khoảng 12.000 kỹ sư của Goldman Sachs hoàn thiện và đưa vào sử dụng thực tế.

Ưu điểm của mô hình này là giảm ngưỡng cho nhân viên phi kỹ thuật phát triển phần mềm, đồng thời giúp đội kỹ sư nhận được yêu cầu nghiệp vụ rõ ràng hơn. Đối với trader và banker, họ không cần chờ đợi kỹ sư lên kế hoạch, có thể dùng AI dựng prototype trước, từ đó kiểm chứng nhanh ý tưởng có giá trị thực tế hay không.

Tuy nhiên, khi khả năng của các agent lập trình AI ngày càng tiến bộ, mô hình này cũng tạo ra những rủi ro mới: mã code do AI tạo ra có thể được dùng trực tiếp để xử lý thông tin khách hàng, dữ liệu giao dịch hoặc hệ thống nội bộ, trong khi người sử dụng chưa chắc đủ trình độ kỹ thuật nhận biết lỗi bảo mật, sai logic hoặc vấn đề về quyền dữ liệu trong mã.

Đối với một ngân hàng toàn cầu chịu sự giám sát nghiêm ngặt, dạng rủi ro này đặc biệt nhạy cảm. AI sinh ra không chỉ có thể tạo ra kết quả sai mà còn có nguy cơ rò rỉ dữ liệu nhạy cảm, an ninh mạng, vấn đề sở hữu trí tuệ, độ tin cậy đầu ra của mô hình và lưu trữ dữ liệu phục vụ quy định. Các tổ chức tài chính vì vậy cần cân bằng giữa tăng năng suất và giữ kiểm soát rủi ro cho nhân viên.

Chính sách mới nhất của Goldman Sachs thực chất phản ánh một thay đổi lớn hơn về ứng dụng AI tại phố Wall. Trong hai năm qua, các tổ chức tài chính đều xem AI sinh là công cụ quan trọng để nâng cao năng suất nhân viên. Khi Claude, ChatGPT cùng các agent mã AI phát triển nhanh, AI đã từ công cụ tạo văn bản đơn giản thành "agent thông minh" có thể viết code, phân tích dữ liệu, tự động hóa nhiệm vụ thậm chí xây dựng quy trình công việc hoàn chỉnh.

Nhưng càng mạnh, vấn đề quản trị doanh nghiệp đối với AI càng phức tạp. Báo cáo gần đây cho thấy việc nhân viên sử dụng các công cụ AI sinh không được phê duyệt đang tạo ra vấn đề gọi là "shadow AI" trong nội bộ. Các rủi ro chính doanh nghiệp đối mặt gồm mất kiểm soát dữ liệu mật, sự cố an ninh mạng, lỗi hoặc lệch mô hình đầu ra, tranh chấp sở hữu trí tuệ và thiếu hồ sơ đáng tin cậy cho các quyết định quan trọng.

Vì vậy, thay vì đơn giản cấm nhân viên dùng AI, ngày càng nhiều doanh nghiệp áp dụng quản trị tinh chỉnh hơn, như phân loại các tình huống sử dụng AI dựa trên độ nhạy dữ liệu, hậu quả sai sót và tầm quan trọng của quyết định kinh doanh, đồng thời thiết lập quyền theo từng nhóm nhân viên khác nhau. Đặt trong bối cảnh này, việc Goldman Sachs hiện giao các công cụ lập trình cao cấp như Claude Code và GitHub chủ yếu cho kỹ sư sử dụng cũng là dấu hiệu chuyển đổi mô hình quản trị AI từ "thí nghiệm mở" sang "quản lý chuyên biệt".