Risiko tata kelola mungkin tersembunyi di balik produktivitas! Goldman Sachs (GS.US) membatasi penggunaan alat pemrograman AI canggih oleh karyawan non-teknis

Aplikasi Keuangan Zhihui telah mengetahui, menurut laporan, Goldman Sachs (GS.US), setelah mengevaluasi kekhawatiran tentang produktivitas dan risiko, telah melarang sebagian karyawan menggunakan alat kecerdasan buatan (AI) tingkat lanjut yang dirancang khusus untuk pemrograman. Ini berarti, raksasa Wall Street tersebut, setelah beberapa bulan mendorong penerapan AI secara aktif, kini mulai menata ulang ruang lingkup penggunaan beberapa alat AI.

Menurut laporan, dalam beberapa bulan terakhir, para bankir Goldman Sachs telah menggunakan alat terkait dari Anthropic dan GitHub yang dimiliki oleh Microsoft (MSFT.US) dalam pekerjaan mereka. Namun, berdasarkan pedoman internal yang diperbarui pada bulan Oktober, akses terhadap alat ini kini dibatasi hanya untuk komunitas engineer.

Perubahan ini telah menimbulkan ketidakpuasan di antara beberapa karyawan. Sumber yang mengetahui hal ini mengungkapkan bahwa beberapa trader sebelumnya telah menggunakan alat AI ini untuk mempercepat tugas-tugas seperti memantau aliran transaksi klien, memodelkan perubahan pasar dan posisi kepemilikan, serta membuat konten teks dan grafis, sehingga mereka merasa frustrasi dengan pembatasan mendadak terhadap akses alat tersebut.

Perlu dicatat, langkah ini sangat kontras dengan sikap positif Goldman Sachs terhadap AI pada Juli tahun ini. Pada saat itu, Chief Information Officer Goldman Sachs, Marco Argenti, secara terbuka membicarakan tentang konsep "vibe coding", yaitu karyawan non-teknis dapat mengembangkan perangkat lunak atau solusi secara mandiri dengan bantuan alat AI. Dalam model itu, trader, bankir, dan karyawan yang paling memahami kebutuhan bisnis dapat dengan cepat membangun solusi menggunakan AI, lalu hasil tersebut disempurnakan dan diimplementasikan oleh salah satu dari sekitar 12.000 engineer Goldman Sachs.

Keunggulan model ini adalah dapat menurunkan ambang batas bagi karyawan non-teknis untuk mengembangkan perangkat lunak, sekaligus memberikan tim engineering kebutuhan bisnis yang lebih jelas. Bagi trader dan bankir, mereka tidak perlu menunggu pipeline engineering, dan bisa langsung membangun prototipe menggunakan AI untuk dengan cepat menguji apakah sebuah ide benar-benar bernilai nyata.

Namun, seiring semakin berkembangnya kemampuan AI coding agent, model ini juga menimbulkan risiko baru: kode yang dihasilkan AI mungkin langsung digunakan untuk memproses informasi klien, data transaksi, atau sistem internal, sementara penggunanya sendiri belum tentu memiliki kemampuan rekayasa perangkat lunak yang memadai untuk mengidentifikasi kerentanan keamanan, kesalahan logika, atau masalah hak akses data dalam kode tersebut.

Bagi sebuah bank global yang sangat diatur, risiko seperti ini sangatlah sensitif. AI generatif tidak hanya dapat menghasilkan jawaban salah, tetapi juga berpotensi menyebabkan kebocoran data sensitif, insiden keamanan siber, masalah hak kekayaan intelektual, keandalan output model, serta pencatatan yang harus sesuai regulasi. Institusi keuangan karena itu harus mencari keseimbangan antara meningkatkan produktivitas karyawan dan menjaga kontrol risiko.

Kebijakan terbaru Goldman Sachs sebenarnya mencerminkan perubahan yang lebih besar di Wall Street terkait penerapan AI. Dalam dua tahun terakhir, institusi keuangan umumnya memandang AI generatif sebagai alat penting untuk meningkatkan produktivitas karyawan. Dengan peningkatan kemampuan Claude, ChatGPT, dan berbagai AI coding agent, AI kini telah berkembang dari sekadar alat pembuat teks sederhana menjadi "agen pintar" yang mampu menulis kode, menganalisis data, melakukan otomatisasi tugas, bahkan membangun workflow yang lengkap.

Namun, semakin kuat kemampuan AI, semakin kompleks pula masalah tata kelola yang dihadapi perusahaan. Beberapa laporan terbaru menyebutkan, penggunaan alat AI generatif tanpa izin oleh karyawan internal perusahaan memicu apa yang disebut sebagai masalah "shadow AI". Risiko utama yang dihadapi perusahaan meliputi hilangnya kontrol atas data rahasia, insiden keamanan siber, output model yang salah atau bias, masalah hak kekayaan intelektual, dan kurangnya pencatatan yang andal untuk keputusan penting.

Oleh karena itu, ketimbang sekedar melarang penggunaan AI oleh karyawan, semakin banyak perusahaan mulai menerapkan tata kelola yang lebih tersegmentasi, misalnya mengklasifikasikan penggunaan AI berdasarkan sensitivitas data, konsekuensi kesalahan, serta pentingnya keputusan bisnis, lalu menetapkan hak akses berbeda untuk kelompok karyawan yang berbeda pula. Dari sudut pandang ini, langkah Goldman Sachs terbaru menyerahkan Claude Code dan alat pemrograman tingkat lanjut seperti GitHub terutama pada engineer juga dapat dilihat sebagai perubahan mode tata kelola AI dari "eksperimen terbuka" menuju "manajemen profesional".