Effektivliyin arxasında idarəetmə riskləri gizlənə bilər! Goldman Sachs (GS.US) texniki olmayan əməkdaşların qabaqcıl AI proqramlaşdırma alətlərindən istifadə etməsini məhdudlaşdırır.

Zhitong Maliyyə APP xəbər verir ki, Məlumata görə, Goldman Sachs (GS.US) məhsuldarlıq və risklə bağlı narahatlıqları qiymətləndirdikdən sonra proqramlaşdırma üçün nəzərdə tutulmuş inkişaf etmiş süni intellekt (AI) alətlərindən bəzi işçilərin istifadə etməsini qadağan edib. Bu, Wall Street-in nəhəngi bir neçə ay ardıcıl olaraq AI tətbiqini aktiv şəkildə təşviq etdikdən sonra bəzi AI alətlərinin istifadəsinə dair yeni məhdudiyyətlər gətirməsi deməkdir.

Məlumata görə, əvvəlki aylarda Goldman Sachs bankirləri iş zamanı Anthropic və Microsoft (MSFT.US) şirkətinin GitHub kimi alətlərindən istifadə edirdilər. Lakin oktyabr ayında bankın yenilənmiş daxili direktivinə əsasən, bu alətlərin istifadəsi artıq yalnız mühəndislər qrupu ilə məhdudlaşdırılıb.

Bu dəyişiklik bəzi işçilərdə narazılıq yaratdı. Məlumatlı şəxslər bildirir ki, bir sıra treyderlər AI alətlərindən istifadə edərək müştəri əməliyyat axınını izləmək, bazar dəyişikliklərini və mövqeləri modelləşdirmək, mətn və qrafik kontenti hazırlamaq kimi tapşırıqlar üzrə işləri sürətləndirə bilirdilər. Buna görə də, onlar bu alətlərin istifadə icazələrinin qəfil məhdudlaşdırılmasından narahatdırlar.

Qeyd etmək lazımdır ki, bu yanaşma Goldman Sachs-ın bu ilin iyulundakı AI-ə olan müsbət münasibəti ilə kəskin fərqlənir. O zaman Goldman Sachs-ın baş informasiya direktoru Marco Argenti açıq şəkildə “vibe coding” adlandırılan konsepsiyadan danışmışdı. Yəni, texniki olmayan işçilər AI alətləri ilə öz proqram təminatı və həllərini yaradıb. Sözügedən modelə əsasən, treyderlər və bankirlər – iş tələblərini ən yaxşı bilən əməkdaşlar – əvvəlcə AI ilə sürətli həllər qurub, sonra isə bu həllərin təkmilləşdirilməsi və real tətbiqi üçün onları bankın təxminən 12,000 mühəndisindən birinə ötürə bilirdilər.

Bu modelin üstünlüyü ondadır ki, qeyri-texniki işçilər üçün proqram təminatı hazırlamağın vəzifəsini asanlaşdırır və eyni zamanda mühəndis komandası daha konkret biznes tələbləri əldə edir. Treyder və bankirlər daha mühəndisiyanın növbəsini gözləmədən AI ilə prototip yarada, ideyanın faktiki dəyərini tez yoxlaya bilirlər.

Lakin AI kodlaşdırma agentlərinin imkanları artdıqca, bu model yeni risklər də doğurur: AI tərəfindən yaradılmış kod müştəri məlumatları, əməliyyat cədvəli və ya daxili sistemlərin işlənməsində birbaşa istifadə oluna bilər. İstifadəçilər isə kodda olan təhlükəsizlik boşluqları, məntiq səhvləri və ya məlumat icazəsi problemlərini aşkarlayacaq qədər proqram mühəndisliyi bacarığına malik olmaya bilər.

Qlobal miqyasda ciddi tənzimlənən bank üçün belə risklər xüsusilə həssasdır. Generativ AI həm yanlış cavablar verə, həm də həssas məlumatların sızması, kibertəhlükəsizlik, intellektual mülkiyyət, model çıxışlarının etibarlılığı və tənzimləmə tarixçəsi kimi problemlər yarada bilər. Bu səbəbdən maliyyə institutları işçi məhsuldarlığını artırmaqla risklərin tənzimlənməsi arasında balans tapmalıdırlar.

Goldman Sachs-ın yeni siyasəti əslində Wall Street-də AI tətbiqlərinin daha geniş dəyişimini əks etdirir. Son iki ildə maliyyə institutları generativ AI-i işçi məhsuldarlığını artıran mühüm alət kimi görürlər. Claude, ChatGPT və müxtəlif AI kodlaşdırma agentlərinin bacarıqları sürətlə artdıqca, AI sadəcə mətn generasiya edən alət olmaqdan çıxıb, artıq kod yazan, məlumatları analiz edən, tapşırıqları avtomatik yerinə yetirən və tam iş axını qura bilən “intelligent agent”ə çevrilib.

Lakin AI-nın imkanları gücləndikcə, müəssisələr üçün idarəetmə məsələləri də mürəkkəbləşir. Yaxınlarda yayılan xəbərlərdə bildirildi ki, müəssisə işçiləri təsdiqlənməmiş generativ AI alətlərindən istifadə edərək “shadow AI” adlı yeni problem yaradır. Əsas risklərə məxfi məlumatların itirilməsi, kibertəhlükəsizlik hadisələri, model çıxışlarında səhvlər və ya önyöneyicilik, intellektual mülkiyyət problemləri və vacib qərarların etibarlı qeydinin olmaması daxildir.

Ona görə də, işçilərin AI istifadəsinin qadağan olunması ilə kifayətlənmək əvəzinə, daha çox müəssisə bu sahədə daha detallı idarəetmə yanaşmaları tətbiq edir; məsələn, məlumatların həssaslığı, səhvlərin nəticələri və biznes qərarlarının vacibliyinə görə AI istifadə üçün müxtəlif ssenarilərlə fərqləndirmə və fərqli işçi qrupları üçün fərqli icazələrin qurulması. Bu baxımdan, Goldman Sachs-in hazırda Claude Code və GitHub kimi inkişaf etmiş proqramlaşdırma alətlərini əsasən mühəndislərə həvalə etməsi onların AI idarəetmə modelinin “açıq eksperimentdən” “peşəkar idarəçiliyə” keçidini göstərir.