OpenAI desarrolló en 9 meses un chip que supera al Blackwell, ¿Nvidia todavía tiene una ventaja competitiva?

OpenAI, en colaboración con Broadcom, presentó por primera vez los datos prácticos de su chip de inferencia Jalapeño de desarrollo propio, cuyos indicadores de rendimiento superan notablemente los sistemas actuales a nivel de Nvidia, desatando un amplio debate en el mercado sobre la futura reconfiguración del panorama de chips de IA.

Según el último análisis de Rich Privorotsky, responsable del departamento de trading de Goldman Sachs, Jalapeño no es el supuesto "verdugo de Nvidia", pero su aparición marca que el mercado del hardware de IA está pasando de una alta concentración a una diversificación creciente. Esta evaluación afecta directamente a la lógica de valoración a largo plazo de Nvidia: no se trata de los envíos de este año, sino de la estructura de beneficios de los próximos años.

Para el mercado, los impactos clave de este evento tienen dos dimensiones: primero, la ventaja competitiva de Nvidia en chips de entrenamiento y en el ecosistema CUDA no se ve amenazada a corto plazo; segundo, el segmento de inferencia, que implica cargas laborales diarias de alta frecuencia y gran volumen, se está convirtiendo en el campo de batalla principal para los chips personalizados, poniendo bajo presión progresiva la fuente de ingresos "tipo anualidad" de Nvidia.

Datos prácticos de Jalapeño: liderazgo en inferencia, pero con un posicionamiento claro

El chip Jalapeño, diseñado conjuntamente entre OpenAI y Broadcom, publicó recientemente los primeros datos de benchmarks públicos. Los resultados muestran que este chip puede realizar entre 1,5 y 1,9 veces más operaciones de IA por vatio que sistemas similares de Nvidia, y la velocidad de respuesta es entre 1,7 y 3,6 veces superior.

Desde la perspectiva de especificaciones de hardware, el consumo nominal de una sola Jalapeño ronda los 700 vatios, aunque normalmente consume menos en ejecución real. Un rack completo puede albergar 128 chips, con aproximadamente 27,5TB de memoria HBM4 de alto ancho de banda, y cada chip cuenta con un ancho de banda de memoria de 15,4TB/s.

Cabe destacar que OpenAI no hizo concesiones en la configuración de memoria: este es un chip diseñado deliberadamente para maximizar el ancho de banda, no buscando reducir costos a expensas de la memoria.

El despliegue de Jalapeño comenzará a pequeña escala más adelante este año, y se prevé que inicie la producción en masa en 2027. OpenAI ya ha dejado claro que este chip es un complemento a los de socios como Nvidia y no un reemplazo.

La distinción esencial entre entrenamiento e inferencia: la verdadera ventaja de Nvidia

La clave para entender este evento está en diferenciar las dos principales cargas laborales de los chips de IA.

El entrenamiento es como "ir a la escuela": se alimenta al modelo con enormes volúmenes de datos y se actualizan los pesos; es una tarea compleja, de gran escala y muy prolongada, que sigue dependiendo fuertemente de GPUs generales como las de Nvidia. La inferencia es "hacer el trabajo": cuando el usuario pregunta por ChatGPT, un agente reserva un vuelo, o una herramienta de código genera funciones; el modelo ya está entrenado y se busca el menor costo y máxima velocidad para entregar resultados.

Jalapeño es un ASIC especializado en inferencia (chip personalizado), no de entrenamiento. Usando la analogía de Privorotsky: la GPU es una navaja suiza, el ASIC es el cuchillo del chef; el segundo es más efectivo en tareas específicas, pero no puede sustituir la versatilidad del primero.

Esto significa que OpenAI seguirá necesitando GPUs Nvidia para entrenar modelos e investigación en el futuro previsible. Privorotsky remarca que Jalapeño no provocará una "caída abrupta de la demanda por Nvidia", pero "los límites del debate sobre hardware de IA se siguen expandiendo".

Transferencia híbrida, no desaparición del sector

Privorotsky expone tres argumentos centrales en su análisis.

Primero, los chips de inferencia personalizados ya no son proyectos de laboratorio. Una empresa de software sin historia en semiconductores puede, en un plazo muy corto y junto a Broadcom, lanzar un chip de alto rendimiento, lo que demuestra que las barreras de entrada al rubro han disminuido drásticamente.

Segundo, esto no implica una caída de la demanda de Nvidia este año. El entrenamiento, la investigación y muchas cargas laborales no estandarizadas todavía requieren GPUs generales, y la primera generación de chips personalizados tendrá volúmenes de salida limitados y ciclos de entrega prolongados.

Tercero, en un horizonte temporal más amplio, cada vez más cargas de trabajo del negocio de inferencia de IA se trasladarán hacia chips dedicados. Esto es una "transferencia híbrida": lo que cambia es a quién pertenece la ganancia, no el tamaño de la industria.

Goldman Sachs también señala que este acontecimiento no representa una noticia negativa para la industria de la memoria. Un rack con 128 chips y 27,5TB de HBM4 significa que OpenAI le pagará un mayor precio efectivo por vatio a proveedores de memoria como SK Hynix, Samsung y Micron. La adopción de chips personalizados para inferencia no reduce la demanda de memoria de alto ancho de banda; podría, de hecho, aumentar su escasez.

IA asistiendo el diseño de chips: la narrativa realmente subestimada

Al final de su análisis, Privorotsky plantea una cuestión que el mercado suele pasar por alto: ¿cómo puede una empresa sin experiencia previa en diseño de chips completar este desarrollo en tiempo récord?

La respuesta de Goldman Sachs es: el ciclo de diseño asistido por IA y aprendizaje por refuerzo — usar modelos para explorar alternativas de circuitos, reducir los ciclos de diseño-medición-validación y luego generar con IA el código de software que correrá en el nuevo chip.

Esta lógica "recursiva" implica que la IA está participando en el diseño de las máquinas destinadas a ejecutar IA. Si este ciclo de diseño se mantiene eficiente, el foso defensivo que Nvidia ha construido en torno a su ecosistema de software para GPUs generales se irá debilitando progresivamente en los escenarios de inferencia estable.

Para todo el sector, compiladores, generadores de kernels y "modelos que escriben código para chips" están evolucionando de simples herramientas periféricas a infraestructuras estratégicas.

Reestratificación del ecosistema: quién gana, quién pierde

Nvidia: sin problemas a corto plazo, pero bajo presión estructural a largo término. Las agrupaciones de entrenamiento, el ecosistema CUDA, la interconexión de redes y la flexibilidad para "correr nuevos modelos el martes siguiente" siguen siendo un verdadero foso defensivo. Sin embargo, si las cargas diarias de inferencia siguen migrando hacia ASIC, Nvidia mantendrá la "fiebre del oro", pero irá perdiendo parte de sus "ingresos de anualidad". Esto afectará la múltiplicación de valoraciones durante varios años, más que generar una crisis de volumen de ventas en 2026.

Broadcom y las foundries de chips personalizados: se convierten en los "proveedores de armas" para cada empresa que quiera desarrollar su propio chip, pero no quiere convertirse en TSMC. La personalización de chips de inferencia es un negocio de servicios y redes: más Jalapeño equivale a más encapsulado, SerDes y necesidad de fabricación a nivel rack.

Laboratorios de modelos: Jalapeño es tanto un arma de rentabilidad como de producto. Un laboratorio con chips propios de inferencia puede bajar precios, elevar el límite de velocidad, o permitir que los agentes ejecuten más pasos antes de que la factura se descontrole. Alquilar solo GPUs equivale a alquilar la estructura de costos de otro; al tener chips de inferencia propios, el laboratorio puede redefinir el producto. Google creó TPU para esto, Amazon creó Trainium, y ahora OpenAI se suma oficialmente a la competencia mostrando su propia hoja de resultados.

Usuarios y precios: la reducción del costo de inferencia suele producir dos efectos paralelos: bajan los precios en la capa base y suben en la avanzada, ya que los modelos son más grandes y con mayor capacidad de agencia. La reducción del costo total por token es la base digital para hacer realidad tanto "chatbots de USD 20" como "servicios de agentes de USD 2000 mensuales".