Za produktywnością mogą kryć się ryzyka związane z zarządzaniem! Goldman Sachs (GS.US) ogranicza wykorzystanie zaawansowanych narzędzi AI do programowania przez pracowników nietechnicznych

Według informacji uzyskanych przez aplikację informacyjną Zhitong, zgodnie z doniesieniami, Goldman Sachs (GS.US) po przeanalizowaniu obaw dotyczących produktywności i ryzyka, zakazał części pracownikom korzystania z zaawansowanych narzędzi sztucznej inteligencji (AI) przeznaczonych do programowania. Oznacza to, że ten gigant z Wall Street, po miesiącach aktywnego wdrażania AI, zaczął na nowo określać zakres użytkowania niektórych narzędzi AI.

Według raportu, w poprzednich miesiącach bankierzy Goldman Sachs korzystali w pracy z narzędzi oferowanych przez Anthropic oraz GitHub należącego do Microsoftu (MSFT.US). Jednak zgodnie z październikową aktualizacją wewnętrznych wytycznych banku, obecnie uprawnienia do korzystania z tych narzędzi zostały ograniczone do grupy inżynierów.

Ta zmiana wywołała niezadowolenie wśród części pracowników. Osoby zaznajomione ze sprawą ujawniają, że niektórzy traderzy wykorzystywali wcześniej te narzędzia AI do przyspieszania zadań takich jak monitorowanie przepływu transakcji klientów, modelowanie zmian rynkowych i pozycji czy też przygotowywanie treści tekstowych i graficznych, dlatego nagłe ograniczenie uprawnień do korzystania z tych narzędzi wzbudziło ich frustrację.

Warto zauważyć, że to podejście wyraźnie kontrastuje z pozytywnym nastawieniem Goldman Sachs do AI z lipca tego roku. Wtedy dyrektor ds. informacji Goldman Sachs, Marco Argenti, publicznie mówił o tzw. „vibe coding”, czyli możliwości dla nietechnicznych pracowników samodzielnego opracowywania oprogramowania lub rozwiązań z pomocą narzędzi AI. W tamtym modelu traderzy, bankierzy i inni pracownicy znający najlepiej potrzeby biznesowe, mogli najpierw zbudować rozwiązanie z pomocą AI, a następnie przekazać efekt jednemu z 12 tysięcy inżynierów Goldman Sachs do dopracowania i wdrożenia w praktyce.

Zaletą tego modelu jest obniżenie progu tworzenia oprogramowania przez nietechnicznych pracowników i umożliwienie zespołom inżynierskim uzyskania bardziej precyzyjnych wymagań biznesowych. Dla traderów i bankierów korzystanie najpierw z AI do szybkiego budowania prototypów pozwala na szybkie sprawdzenie, czy dany pomysł ma wartość praktyczną, bez konieczności oczekiwania na dostępność zespołu inżynierskiego.

Jednak wraz ze wzrostem możliwości agentów kodujących AI, ten model przynosi też nowe ryzyka: kod generowany przez AI może być bezpośrednio wykorzystywany do obsługi danych klientów, informacji o transakcjach lub systemów wewnętrznych, podczas gdy użytkownicy mogą nie posiadać wystarczającej wiedzy inżynierskiej, by rozpoznać luki w zabezpieczeniach, błędy logiczne czy problemy z uprawnieniami dostępu do danych.

Dla globalnego banku objętego ścisłymi regulacjami tego typu ryzyko jest szczególnie istotne. Generatywna AI może nie tylko produkować błędne odpowiedzi, ale wiąże się także z zagrożeniem wycieku wrażliwych danych, cyberbezpieczeństwem, prawami własności intelektualnej, wiarygodnością wyników modeli czy kwestiami rejestrowania zgodnie z regulacjami. Instytucje finansowe muszą zatem szukać równowagi między zwiększaniem produktywności pracowników a utrzymywaniem kontroli ryzyka.

Najnowsza polityka Goldman Sachs odzwierciedla w rzeczywistości szerszą zmianę podejścia Wall Street do wdrożeń AI. W ciągu ostatnich dwóch lat instytucje finansowe postrzegały generatywną AI jako ważne narzędzie zwiększania produktywności pracowników. Wraz z szybkim rozwojem możliwości Claude, ChatGPT i różnych agentów kodujących AI, sztuczna inteligencja z narzędzia do prostego generowania tekstów stała się „inteligentnym agentem” potrafiącym programować, analizować dane, automatycznie wykonywać zadania, a nawet budować kompletne procesy pracy.

Jednak im silniejsze są możliwości AI, tym bardziej złożone stają się zagadnienia związane z zarządzaniem. Ostatnie raporty wskazują, że wykorzystywanie niezatwierdzonych narzędzi AI przez pracowników wewnętrznych firm prowadzi do powstawania tzw. „shadow AI”. Główne ryzyka dla przedsiębiorstw to utrata kontroli nad danymi poufnymi, incydenty cyberbezpieczeństwa, błędy lub stronniczość wyników generowanych przez modele, kwestie własności intelektualnej oraz brak wiarygodnej dokumentacji ważnych decyzji.

W związku z tym zamiast prostego zakazu korzystania z AI, coraz więcej firm decyduje się na bardziej szczegółowe podejście do zarządzania, polegające na kategoryzacji scenariuszy zastosowań AI w zależności od wrażliwości danych, konsekwencji błędów i wagi decyzji biznesowych, a także na przydzielaniu różnych poziomów uprawnień dla różnych grup pracowników. W tym świetle aktualne podejście Goldman Sachs, polegające na przekazaniu zaawansowanych narzędzi programistycznych takich jak Claude Code i GitHub głównie inżynierom, można uznać za przejście z etapu „otwartych eksperymentów” do „profesjonalnego zarządzania” w modelu zarządzania AI.