Zuckerberg de Meta (META.US) responde al debate sobre la "desaceleración" de la IA: seguimos avanzando en las capacidades de los modelos y fortaleciendo la protección de la seguridad

Según ha informado Jinse Finance, el CEO de Meta Platforms (META.US), Mark Zuckerberg, y el responsable de AI de la compañía, Alexander Wang, se han pronunciado respecto a la disputa sobre la velocidad del desarrollo de la AI, defendiendo que los laboratorios de AI deben continuar impulsando las capacidades de los modelos y, al mismo tiempo, construir medidas de protección más robustas en torno a modelos cada vez más potentes.

Ambos han realizado estas declaraciones en la plataforma X. Actualmente, el sector está debatiendo ampliamente sobre si se debería ralentizar el desarrollo de capacidades hasta que la seguridad de la AI avance más. La denominada seguridad en AI consiste en garantizar que los sistemas de AI sigan de manera fiable la intención y los valores humanos.

Las acciones de Meta acumularon tres jornadas consecutivas al alza hasta el martes, con un incremento total del 4,2% y pequeños avances en negociación nocturna. Según Stocktwits, en la última revisión, el sentimiento de los pequeños inversores hacia la acción era “extremadamente bajista”.

Zuckerberg: Los laboratorios tienen incentivos para crear una AI más segura

Zuckerberg señaló que las compañías de AI ya cuentan con fuertes incentivos comerciales y legales para impulsar la seguridad de los modelos y alinearlos con los usuarios. “Las personas no querrán utilizar agentes inteligentes que no estén alineados con ellos ni actúen según sus indicaciones,” escribió Zuckerberg. “Cualquier laboratorio que no se centre en la alineación quedará atrás.”

En su opinión, la alineación se está convirtiendo en una importante capacidad competitiva, no solo en una restricción para el desarrollo de la AI. “Mi perspectiva es que la confianza y la alineación se están convirtiendo rápidamente en la capacidad más importante para diferenciar agentes y modelos," afirmó.

Zuckerberg también mencionó que Meta decidió posponer el lanzamiento del modelo Muse durante varios meses para abordar cuestiones de seguridad y protección.

Meta apoya la supervisión externa

Zuckerberg y Alexander Wang consideran que, en un momento en que los modelos de AI son cada vez más potentes, se debe incorporar una mayor cantidad de evaluadores independientes y supervisión externa.

“Incorporar evaluadores independientes y asesores es una práctica recomendada en la industria,” dijo Zuckerberg, y cree que una mayor y más diversa ecología de evaluadores mejorará la labor de seguridad en AI.

Alexander Wang también afirmó que los laboratorios de AI deben mantener “un sólido marco de gobernanza” durante todo el proceso de entrenamiento y despliegue, incluyendo evaluadores externos y supervisión independiente de los estándares de seguridad para la publicación de modelos.

Añadió: “Cada laboratorio debe operar bajo la protección de los sistemas de los países democráticos... Esto significa que, si un modelo causa daños, el laboratorio asumirá una importante responsabilidad legal.”

Meta defiende su estrategia de asignación de potencia de cálculo

Una parte clave de los argumentos de ambos directivos es la decisión de Meta de destinar la mayor parte de su potencia de cálculo a servir a los usuarios, en lugar de acelerar la mejora recursiva de sí misma (RSI).

“Invertir la gran mayoría de la potencia de cálculo en servir a la humanidad, en vez de competir por la mejora recursiva de sí misma, es una de las mejores formas de garantizar el desarrollo seguro de esta tecnología,” afirmó Zuckerberg.

La preocupación radica en que la RSI podría permitir que los sistemas de AI mejoren su capacidad rápidamente, escapando del control humano e incrementando el riesgo de perder el control sobre modelos potentes.

Alexander Wang también describió la competencia por la RSI como “uno de los caminos más peligrosos que pueden conducir a la pérdida de control sobre modelos potentes”.

La disputa sobre el ritmo de la AI polariza la industria tecnológica

El debate sobre el ritmo del desarrollo de la AI está dividido en dos posturas principales: el CEO de Anthropic, Dario Amodei, pide ralentizar el desarrollo de la AI avanzada para que los mecanismos de seguridad puedan seguir el ritmo; mientras que el CEO de OpenAI, Sam Altman; el CEO de Microsoft, Satya Nadella; y Elon Musk, de SpaceX, apoyan continuar el desarrollo con más prudencia y poniendo la seguridad como prioridad, pero sin detenerlo.

Por otro lado, el presidente de Estados Unidos, Donald Trump, se opone a ralentizar la competición de AI en EE.UU. por temor a que China tome la delantera; el exasesor en AI de Trump, David Sacks, sostiene que las empresas deben gestionar los riesgos por sí mismas y no buscar restricciones gubernamentales, cuestionando las advertencias de seguridad de Anthropic.

El inversor Michael Burry se pregunta si las demandas para ralentizar el desarrollo se deben, en parte, a intereses particulares, ya que podrían proteger a las empresas de AI existentes de la presión competitiva.