OpenAI presentó en la conferencia Hot Chips su primer chip propio de inferencia, llamado Jalapeño, desarrollado junto con Broadcom. La compañía aseguró que, en sus pruebas internas, alcanza hasta 1,9 veces más operaciones por kilovatio que el Nvidia GB300. El chip registra un consumo de 700 W, frente a los 1.200 W a 1.400 W de los sistemas de Nvidia usados como referencia. Es la primera vez que OpenAI muestra públicamente benchmarks de un chip diseñado por ella, mientras la industria de inteligencia artificial busca reducir su dependencia de Nvidia y el gasto energético de los centros de datos.
Jalapeño es un ASIC, un chip diseñado para una tarea específica, y no una GPU de uso general como las que fabrica Nvidia. Su función es la inferencia, el proceso de ejecutar un modelo ya entrenado para generar respuestas. El entrenamiento sigue concentrado, en buena medida, en las GPU tradicionales. OpenAI construyó el chip junto con Broadcom, que también participa en el desarrollo de los procesadores TPU utilizados por Google.
Jalapeño logró hasta 1,9 veces más rendimiento por kilovatio
La comparación se hizo con InferenceX, una suite pública de benchmarks desarrollada por la firma de análisis SemiAnalysis, y enfrentó a Jalapeño con los sistemas Nvidia GB200 y GB300. Según los resultados presentados por OpenAI, el chip consiguió entre 1,5 y 1,9 veces más rendimiento por kilovatio y redujo la latencia de punta a punta, es decir, el tiempo entre el pedido y la respuesta completa, entre 1,7 y 3,6 veces. Las pruebas se realizaron con tres modelos abiertos: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5, este último con un millón de millones de parámetros. En los escenarios que miden la velocidad entre tokens, la ventaja reportada llegó a un rango de 8,6 a 104,3 veces frente a determinadas configuraciones anteriores del GB300.
El consumo total baja la ventaja a 1,18 kW frente a 2,55 kW
Un apéndice de la presentación ofrece una comparación más amplia. Al medir el consumo eléctrico completo por acelerador, con refrigeración y componentes de soporte incluidos, la diferencia se reduce a 1,18 kW para Jalapeño frente a 2,55 kW para GB300. La brecha sigue siendo significativa, aunque es menor que la que surge al observar únicamente el rendimiento del acelerador.
Los resultados todavía no tienen una auditoría independiente
Hasta ahora no se conoció una auditoría independiente de esos resultados. Los datos fueron presentados por OpenAI y no hay pruebas externas que permitan confirmar las cifras. Tampoco se informaron el precio, el volumen de producción, clientes externos confirmados ni una fecha de disponibilidad comercial.
La comparación se realizó contra GB200 y GB300, las generaciones actuales de Nvidia. No incluyó la arquitectura Rubin, que Nvidia presentó como su próximo salto tecnológico y cuya llegada al mercado está prevista para los próximos meses.
OpenAI aún no fijó una fecha para usar el chip en producción
OpenAI se suma a otras compañías que desarrollan silicio propio para reducir su dependencia de Nvidia. Google utiliza TPU desde hace más de una década, Amazon tiene la línea Trainium, Meta avanza con sus chips MTIA y Microsoft desarrolló Maia. Broadcom participa en varios de estos proyectos, incluido el trabajo con OpenAI y el desarrollo de TPU para Google. Estos chips buscan adaptar el hardware a tareas específicas de inteligencia artificial y reducir los costos operativos a gran escala. OpenAI todavía no confirmó cuándo Jalapeño podría utilizarse en producción para atender los pedidos de ChatGPT o de su API.
