Las GPU de servidor que quedaron obsoletas en los grandes centros de datos tienen una segunda vida. Un creador del canal de YouTube Hardware Haven adquirió una NVIDIA Tesla V100 en su variante SMX, el formato enchufable diseñado para racks de servidores sin interfaz PCIe nativa, por 100 dólares, y construyó por otros 100 dólares un adaptador con una placa de circuito impreso personalizada y refrigeración fabricada con impresora 3D para instalarla en una motherboard de consumo estándar. El costo total del proyecto rondó los 200 dólares, una cifra marginal frente a los miles que cuestan las GPU de las líneas Hopper o Blackwell actuales de Nvidia.
Los resultados del experimento son concretos: la tarjeta corre modelos de lenguaje grandes localmente y muestra rendimiento competitivo frente a placas de gama media actuales en tareas de inferencia de IA. Una aclaración de arquitectura necesaria: aunque algunos la ubican en la era Turing, la V100 pertenece a la arquitectura Volta, lanzada por Nvidia en 2017. Turing llegó después.
Por qué la V100 sigue siendo relevante para IA
La clave está en la memoria. La Tesla V100 SMX viene con 16 GB de HBM2, un tipo de memoria de alto ancho de banda que se diseñó para cargas de trabajo de inteligencia artificial y computación de alto rendimiento. El ancho de banda de la HBM2 en esta placa alcanza los 900 GB/s, una cifra que muchas GPU de consumo actuales no superan de manera significativa. Lo que sí cambia drásticamente es el precio: las V100 SMX se consiguen hoy en plataformas de segunda mano por entre 80 y 150 dólares, gracias al excedente que dejaron los grandes proveedores de nube al actualizar su infraestructura.
En comunidades de IA local, usuarios que probaron configuraciones similares reportan velocidades de inferencia de entre 20 y 40 tokens por segundo con cuantización para modelos del rango de los 7 a 13 mil millones de parámetros, como Mistral, Llama y equivalentes. En varios escenarios, superan a una RTX 3060 de 12 GB de GDDR6, principalmente porque la diferencia de ancho de banda de memoria favorece las cargas de inferencia en batch. Los números varían según el software utilizado, ya sea Ollama, vLLM u otras herramientas, y no existe un benchmark estandarizado independiente para este mod en particular.
El desafío técnico del adaptador
La V100 SMX usa el conector SMX2, un formato socketed pensado para servidores de alto rendimiento, funcionalmente parecido a enchufar un procesador en su zócalo. Convertirla en una tarjeta PCIe x16 no es trivial: implica diseñar y fabricar una PCB adaptadora que maneje las señales correctamente, resolver la refrigeración activa para una placa con un TDP de entre 250 y 300 vatios y garantizar que la motherboard de consumo reconozca el dispositivo sin inestabilidades. El creador resolvió el problema térmico con piezas impresas en 3D, evitando el throttling que limitaría el rendimiento en sesiones largas de inferencia.
Adaptadores similares para variantes SMX de Nvidia se consiguen en plataformas de compra online por alrededor de 50 dólares, aunque la calidad y la compatibilidad varían. Quien siga este camino debe considerar que la garantía es inexistente, que la estabilidad en plataformas de consumo no está garantizada y que Nvidia no ofrece soporte para este tipo de configuraciones. El proyecto está claramente en el terreno del hardware entusiasta y DIY.
El contexto más amplio: hardware viejo en el boom de IA
Este tipo de mod refleja una tendencia concreta en la comunidad de IA local: la VRAM se convirtió en el recurso escaso y determinante para correr modelos grandes, y las GPU nuevas con suficiente memoria tienen precios que quedan fuera del alcance de muchos desarrolladores independientes, estudiantes o investigadores. Una RTX 4090 con 24 GB ronda los 2.000 dólares en el mercado internacional; una H100 de 80 GB de VRAM supera los 20.000 dólares. Frente a eso, una V100 de 16 GB por 200 dólares tiene una lógica de costo-beneficio difícil de ignorar para inferencia, no para entrenamiento intensivo, donde las limitaciones de la arquitectura Volta pesan más.
En Argentina, las plataformas de segunda mano listan variantes de la V100 en rangos que van de los 200.000 a los 400.000 pesos aproximadamente, aunque la disponibilidad es irregular y la importación de hardware de servidor tiene sus propias fricciones logísticas. La V100 también aparece en restricciones de exportación de Estados Unidos hacia ciertos mercados, lo que afecta su circulación en algunos países, pero no su disponibilidad general en el mercado secundario global.
Para quienes trabajan con herramientas de IA desde el lado del desarrollo o la experimentación, el experimento de Hardware Haven plantea una pregunta práctica: antes de invertir en hardware nuevo de gama media, vale la pena revisar qué capacidad hay disponible en el mercado de excedentes de centro de datos. No es una solución para producción empresarial, pero para prototipado, investigación y uso personal, la relación entre precio y capacidad de VRAM en estas placas de generaciones anteriores tiene argumentos sólidos.
Descargo legal: los valores mencionados son orientativos y pueden variar según el mercado, la disponibilidad y el tipo de cambio.
