¡Detrás de la productividad podría haber riesgos de gobernanza ocultos! Goldman Sachs (GS.US) limita el uso de herramientas avanzadas de programación con IA para empleados no técnicos.

Según ha informado Finanzas Inteligentes, Goldman Sachs (GS.US) ha prohibido a algunos empleados utilizar herramientas avanzadas de inteligencia artificial (IA) diseñadas específicamente para la programación, después de evaluar preocupaciones sobre la productividad y el riesgo. Esto significa que, tras varios meses impulsando activamente la aplicación de IA, este gigante de Wall Street ha comenzado a redefinir el alcance de uso de ciertas herramientas de IA.

Según el informe, durante los últimos meses, los banqueros de Goldman Sachs habían estado utilizando en el trabajo herramientas relacionadas con Anthropic y GitHub de Microsoft (MSFT.US). Sin embargo, de acuerdo con las directrices internas actualizadas en octubre por el banco, actualmente el uso de estas herramientas está limitado al grupo de ingenieros.

Este cambio ya ha provocado descontento entre algunos empleados. Personas familiarizadas con el asunto revelaron que algunos operadores habían estado utilizando anteriormente estas herramientas de IA para acelerar tareas como el monitoreo del flujo de operaciones de clientes, la modelización de cambios de mercado y posiciones, así como la creación de contenido textual y gráfico; por ello, se sienten frustrados ante la repentina restricción de acceso a estas herramientas.

Cabe destacar que este enfoque contrasta notablemente con la actitud positiva hacia la IA que Goldman Sachs mostraba en julio de este año. En ese momento, el CIO Marco Argenti habló públicamente sobre el denominado "vibe coding", es decir, empleados no técnicos utilizando herramientas de IA para desarrollar su propio software o soluciones. Bajo aquel modelo, los empleados más familiarizados con las necesidades del negocio—como operadores y banqueros—podían valerse de la IA para construir rápidamente soluciones, que luego serían perfeccionadas y puestas en uso real por uno de los aproximadamente 12,000 ingenieros de Goldman Sachs.

La ventaja de este modelo radica en reducir la barrera para que empleados no técnicos puedan desarrollar software, al tiempo que el equipo de ingeniería recibe requisitos de negocio más claros. Para operadores y banqueros, esto significaba que no tenían que esperar en la fila de prioridades del departamento de ingeniería, pudiendo utilizar IA para crear prototipos y validar rápidamente si una idea tenía valor real.

Pero a medida que las capacidades de los agentes de codificación de IA continúan creciendo, este modelo también presenta nuevos riesgos: el código generado por IA podría ser usado directamente para gestionar la información de clientes, datos de trading o sistemas internos, sin que quienes lo utilicen necesariamente dispongan de suficientes competencias en ingeniería de software para identificar vulnerabilidades de seguridad, errores lógicos o problemas de permisos de datos.

Para un banco global sometido a una estricta regulación, estos riesgos resultan especialmente sensibles. La IA generativa no solo puede ofrecer respuestas erróneas, sino que también puede implicar filtraciones de datos sensibles, ciberseguridad, propiedad intelectual, confiabilidad de las salidas del modelo y gestión de registros regulatorios. Por tanto, las instituciones financieras deben buscar el equilibrio entre mejorar la productividad y mantener el control de riesgos.

De hecho, la nueva política de Goldman Sachs refleja un cambio mayor en Wall Street respecto a la aplicación de la IA. En los últimos dos años, las instituciones financieras han considerado generalmente la IA generativa como una herramienta clave para mejorar la productividad de los empleados. Con la rápida mejora de las capacidades de Claude, ChatGPT y varios agentes de codificación de IA, la IA ha pasado de ser una simple herramienta de generación de texto a convertirse en "agentes inteligentes" capaces de programar, analizar datos, ejecutar tareas automáticamente e incluso construir flujos de trabajo completos.

Sin embargo, cuanto más potente es la IA, más complejos son los problemas de gobernanza que enfrentan las empresas. Informes recientes señalan que el uso por parte de los empleados de herramientas generativas de IA no autorizadas está creando lo que se denomina el problema de la "IA en la sombra" (shadow AI) en las corporaciones. Los principales riesgos para las empresas incluyen pérdida de control sobre datos confidenciales, incidentes de ciberseguridad, errores o sesgos en el output del modelo, problemas de propiedad intelectual y la falta de registros confiables para decisiones importantes.

Por lo tanto, en lugar de simplemente prohibir el uso de la IA entre los empleados, cada vez más empresas están adoptando una forma de gobernanza más segmentada; por ejemplo, clasificando los diferentes escenarios de uso de la IA según la sensibilidad de los datos, las consecuencias de posibles errores y la importancia de la decisión de negocio, y estableciendo distintos permisos según los grupos de empleados. Desde esta perspectiva, el hecho de que Goldman Sachs haya restringido el uso de herramientas avanzadas de programación como Claude Code y GitHub principalmente a ingenieros, puede considerarse una transición de su modelo de gobernanza de IA, pasando de una "experimentación abierta" a una "gestión especializada".