d-Matrix presentó en Hot Chips 2026 el acelerador de inteligencia artificial Raptor, un diseño que, según la empresa, apila memoria DRAM directamente debajo del chip de cómputo en una configuración tridimensional. El fabricante asegura que cada tarjeta alcanza más de 100 TB/s de ancho de banda con 32 GB de capacidad. Por ahora, esas cifras provienen principalmente de materiales de la compañía.
El principal límite para la inferencia de modelos de lenguaje grandes no está solo en la potencia de cómputo. También influye la velocidad con la que los datos viajan entre la memoria y las unidades de procesamiento. Cuando crece el contexto que maneja un modelo o aumenta la cantidad de agentes de IA que funcionan en paralelo, ese movimiento de datos puede elevar la latencia. Raptor busca reducirla al conectar la lógica y la memoria dentro del mismo paquete, en lugar de recurrir a un intermediario externo como el que utilizan las pilas HBM de las GPU de Nvidia y AMD.
Raptor usa un die lógico de 4 nanómetros y contactos de 36 micrones
El diseño invierte el orden más habitual del empaquetado tridimensional. En vez de colocar la memoria sobre el procesador, Raptor ubica el die lógico fabricado por TSMC con un proceso de 4 nanómetros encima de un die de DRAM diseñado a medida. Las dos piezas se conectan por sus caras activas, con una separación entre contactos de apenas 36 micrones. La DRAM también funciona como interposer, la capa que conecta distintos chiplets dentro del paquete, mediante vías verticales que atraviesan el silicio, conocidas como TSV.
Cada chiplet aporta 4 GB de memoria y cerca de 12,5 TB/s de ancho de banda. Una tarjeta combina 8 chiplets y suma 32 GB de memoria, junto con un ancho de banda cercano a 100 TB/s. d-Matrix afirma que la conexión vertical consume 0,37 picojulios por bit, frente a los 2,4 picojulios por bit que calcula para transferir información hacia una base HBM4.
d-Matrix compara Raptor con una solución HBM4 de 192 GB
Durante la presentación, d-Matrix comparó su tarjeta con una solución basada en HBM4 de 192 GB que, de acuerdo con sus propios cálculos, ronda los 18 TB/s. La HBM ofrece más capacidad total, mientras que la empresa sostiene que su arquitectura utiliza el silicio entre 5 y 7 veces menos energía para mover los datos. Esas cifras todavía no cuentan con una medición independiente publicada y deben leerse como estimaciones de d-Matrix, no como un benchmark neutral.
El silicio funcional todavía no tiene fecha comercial
d-Matrix confirmó que Raptor ya existe como silicio funcional, aunque el producto aún no alcanzó una versión comercial terminada. La empresa no informó una fecha pública de disponibilidad ni un precio de referencia. Tampoco se conocieron pruebas de rendimiento de un sistema completo verificadas por terceros. Los datos sobre tokens por segundo y desempeño con modelos grandes difundidos después de la presentación provienen de materiales de d-Matrix y de declaraciones de sus ejecutivos.
d-Matrix compite con otras startups que buscan ingresar al mercado de chips para inferencia de inteligencia artificial, dominado por Nvidia y AMD. Esas compañías utilizan arquitecturas que dependen de memoria HBM suministrada por SK Hynix, Samsung y Micron. El próximo paso para d-Matrix será convertir el silicio funcional de Raptor en un producto comercial, pero la compañía todavía no comunicó una fecha ni un precio.
