OpenAI acaba de sacar pecho con su primer chip de inferencia IA, al que ha bautizado con el curioso nombre de «Jalapeño». Este chip acelerador de IA permite ejecutar modelos ya entrenados y generar las respuestas que recibimos al usar ChatGPT, la API o un agente. Los analistas de SemiAalysis ya han podido analizar ese componente y tienen una conclusión incómoda para Nvidia: en varias de las cargas de prueba, Jalapeño supera a los chips Nvidia Blackwell.
Jalapeño muestra sus poderes. OpenAI ha diseñado un chip especializado en inferencia de grandes modelos de lenguaje (LLMs), sacrificando parte de la flexibilidad de una GPU a cambio de optimizar la tarea que más le interesa: la ejecución de esos modelos. SemiAnalysis lo probó con modelos abiertos como GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T y encontró ventajas en dos métricas importantes: latencia y rendimiento por vatio. Dependiendo del modelo y la configuración, OpenAI habla de hasta 3,6 veces menos latencia y entre 1,5 y 1,9 veces más rendimiento por vatio que Blackwell.
Y eso que aún no está del todo optimizado. Los analistas de SemiAnalysis destacana además cómo Japapeño consigue superar a Blackwell en rendimiento por vatio prácticamente en todos los escenarios analizados sin siquiera usar la técnica Multi-Token Prediction (MTP), que permite generar varios tokens de forma especulativa y que sí estaba activa en configuraciones rivales. En cuanto incluya esa optimización, el chip podrá mejorar aún más su rendimiento, y de hecho en coste total de propiedad (TCO) los analistas creen que Jalapeño se acerca incluso a Vera Rubin, la próxima generación de chips de IA de Nvidia.
Nvidia sigue teniendo sus fortalezas. Hay que dejar claro que Jalapeño está creado para una tarea muy concreta. Nvidia sigue teniendo una ventaja enorme en el ámbito del entrenamiento de modelos y, sobre todo, en el ecosistema CUDA que lleva casi dos décadas construyendo. OpenAI seguirá necesitando muchísimas GPUs de Nvidia para entrenar sus modelos, y también probablemente para parte de la inferencia.
Chips a medida. Aun así en OpenAI saben mejor que nadie las necesidaes que tienen sus modelos a la hora de ser usados, y ese conocimiento permite que diseñen un chip específicamente orientado a ejecutar esas cargas de trabajo de forma óptima. Cuando vas a hacer eso miles de millones de veces, tener un chip a medida puede ser más eficiente que tener una GPU diseñada para hacer muchas cosas distintas.
Incentivos. Entrenar un modelo cuesta una fortuna, pero lo haces una vez. Servirlo (la parte de inferencia) cuesta dinero cada vez que alguien lo usa. Eso es cada vez más importante con unos agentes de IA que pueden requerir muchísimas peticiones para completar una tarea. Jalapeño no está pensado para venderse a otras empresas, al menos de momento. OpenAI quiere usarlo en su propia infraestructura. La compañía liderada por Sam Altman quiere reducir cuánto le cuesta cada token, y al mismo tiempo no depender tanto de Nvidia.
La batalla de la inferencia IA. Google lleva años utilizando sus TPU, Amazon tiene Titanium e Inferentia, y Microsoft, Meta y otros también disponen de chips de IA especializados que poco a poco van planteando más y más competencia a Nvidia. La empresa de Jensen Huang puede seguir dominando los chips para entrenamiento, pero está claro que en el ámbito de la inferencia la competencia aprieta, aunque aquí, cuidado, Nvidia tiene un as en la manga tras la compra de Groq.
–
La noticia
OpenAI ya tiene listo su chip de inferencia. Se llama Jalapeño y ha conseguido algo inesperado: superar a Nvidia
fue publicada originalmente en
Xataka
por
Javier Pastor
.
