Tarjetas gráficas Nvidia Tesla y Nvidia Hopper, ¿qué diferencias hay?

¡Hola Nitroamig@s! Un verdadero gusto continuar una semana más con vosotros. En esta ocasión hablaremos de las tarjetas gráficas desconocidas para el público general Nvidia Tesla y Nvidia Hopper. Veremos qué diferencias hay entre ellas y cuál es más recomendable en la actualidad. Es vital saber qué tipo de estación de trabajo o PC Work escoger en función del desempeño que queramos realizar.

¡Al turrón!

Tarjetas gráficas Nvidia Tesla y Nvidia Hopper

Todos conocemos las famosas tarjetas gráficas Nvidia Geforce. Llevan con nosotros muchos años y han sido el buque insignia de la compañía pilotada por Jensen Huang. Tiempo después aparecieron las Nvidia Quadro, dedicadas especialmente al diseño y renderizado de proyectos 2D y 3D, desde arquitectura hasta ingeniería, pasando por animadores.

Pero con el tiempo otros nichos de mercado fueron apareciendo. Cada vez se necesitaba más potencia y capacidad de cómputo, y tras los Data Center y el inicio de la IA llegaron las tarjetas gráficas especializadas para ello: las Nvidia Tesla.

Verdaderas bestias del hardware, además, en diseños compactos y característicos, siendo capaces de encajar en casi cualquier formato.

Durante estos últimos años, la gama de tarjetas gráficas Nvidia Tesla han cubierto bien las necesidades del mercado, aunque eso cambió a partir del 2021. El fenómeno de la IA explotó y en estos tres años su crecimiento ha sido en vertical. Con semejante revolución, miles de empresas han querido sumarse al carro, y la producción de Tesla no era suficiente. Se necesitaba más potencia con un mismo nivel de producción. Y ahí nacieron las Nvidia Hopper.

El salto evolutivo, para algunos natural, de unas tarjetas gráficas enfocadas 100% para la IA, dejando el resto de usos al margen. De esta forma se podía cubrir ese boyante sector, todavía en pañales, y dominar el mercado. Y vaya si lo ha hecho, ya que en la actualidad Nvidia posee casi un monopolio mundial al ser el proveedor del 90% de los chips para IA.

Pero, ¿de verdad las Nvidia Hopper se han comido a las Nvidia Tesla? ¿Valen la pena? ¿Qué diferencias hay? A continuación, te respondemos todo.

Tarjetas gráficas Nvidia Tesla

Las tarjetas gráficas Nvidia Tesla son un paso más allá. Representan una categoría de procesadores gráficos específicos, diseñados para servidores y centros de datos. Esta nueva arquitectura permite acelerar los cálculos en aplicaciones de inteligencia artificial (IA), aprendizaje profundo y computación científica. A diferencia de las tarjetas gráficas convencionales orientadas a juegos y aplicaciones gráficas, las Tesla se centran en ofrecer un rendimiento superior en cálculos de alta precisión y operaciones de datos complejos, siendo una pieza clave en entornos de investigación y desarrollo profesional.

Los modelos Nvidia Tesla abarcan varias generaciones y cada una ofrece distintas especificaciones y capacidades. Están optimizadas para satisfacer necesidades en potencia de cálculo manteniendo una excelente eficiencia energética. Por ejemplo, algunas versiones como la Tesla V100, con su arquitectura Volta, están optimizadas para acelerar las más complejas operaciones de IA. En resumen, proporcionan una base sólida para servidores y centros de datos que requieren de un procesamiento intensivo.

Precio y características

En lo que se refiere a precios, estos varían considerablemente dependiendo del modelo y las especificaciones. Puedes encontrar gráficas Tesla desde unos "pocos" miles de euros hasta decenas de miles de euros, siendo imposible encontrar modelos "baratos". Esto sucede porque estas tarjetas gráficas no están orientadas a particulares. Nvidia y las ensambladoras dejan claro su orientación hacia aplicaciones empresariales y de investigación de alto nivel.

Las tarjetas gráficas Nvidia Tesla oscilan entre unos 9.000 euros y pueden subir hasta más de 50.000 euros en los modelos TOP.

Cabe recalcar que el enfoque principal de las tarjetas Tesla es ofrecer soluciones para cálculos complejos y procesamiento de grandes volúmenes de datos, más que para tareas de renderizado gráfico. Esto las hace indispensables en campos como la simulación científica o la investigación biomédica, entre otros. Estas tarjetas no solo sobresalen en rendimiento, sino que también incluyen características especializadas para aplicaciones técnicas, como corrección de errores (ECC) para garantizar la precisión de los cálculos y NVLink para la comunicación de alta velocidad entre tarjetas, lo que las hace ideales para sistemas de servidores y centros de datos​.

Las tarjetas gráficas Nvidia Tesla han evolucionado a lo largo de los años desde su introducción en 2007. Algunos de los modelos destacados incluyen la Tesla K40 con arquitectura Kepler, la Tesla P100 con tecnología Pascal, y más recientemente, la Tesla V100 basada en la arquitectura Volta. Cada modelo ha mejorado en términos de núcleos CUDA, capacidad de memoria, eficiencia y potencia de cálculo.

Por ejemplo, tenemos la tarjeta gráfica Tesla K80, con 4,992 núcleos CUDA y 24 GB de memoria GDDR5. El modelo Tesla V100 da un salto de gigante hasta los 125 Teraflops, 5.120 núcleos CUDA, 640 núcleos Tensor y 32GB de memoria.

La línea Tesla incluye varias generaciones de tarjetas, cada una con sus propias especificaciones técnicas únicas.

Tarjetas gráficas Nvidia Hopper

Como dijimos al inicio de la entrada, las tarjetas gráficas Nvidia Hopper son una evolución de los modelos Tesla. Si bien las Nvidia Tesla sirven principalmente como servidores y procesamiento de datos y pueden usarse también para IA, las Nvidia Hopper se centran especialmente en esto último. Al igual que las Quadro surgieron para ceñirse al trabajo gráfico, la nueva arquitectura Grace Hopper de la empresa de Santa Clara, en California, se han desarrollado exclusivamente para el machine learning, el deep learning y redes neuronales para IA.

Esta nueva serie de tecnologías se generan en gigantescos centros de datos. Para poder gestionar un aprendizaje preciso de la inteligencia artificial, se pensó en esta nueva tecnología.

Lanzan Nvidia H100 y... ¡La gente se vuelve loca!

La NVIDIA H100 es una tarjeta gráfica profesional de vanguardia, diseñada para abordar algunas de las cargas de trabajo más exigentes en computación acelerada, inteligencia artificial (IA) y computación de alto rendimiento (HPC). Se destaca por ofrecer un rendimiento excepcional, escalabilidad y seguridad para cada centro de datos. Son el zénit en el desarrollo de sistemas de inteligencia artificial, donde la precisión y la eficiencia en el procesamiento son cruciales.

La Nvidia H100 acelera los modelos de lenguaje de gran tamaño (LLMs) hasta 30 veces más rápido en comparación con la generación anterior. Esto la convierte, como dijimos más arriba, en el líder absoluto de la industria.

Y como siempre, una de las puntas de lanza de Nvidia ha sido su software, en este caso con NVIDIA Magnum IO, un kit de desarrollo que otorga ayudas de forma visual, simplificando procesos, además de poder eliminar y evitar "cuellos de botella" en la información.

Precio y características

Puede conectar hasta 256 GPUs mediante el sistema NVIDIA NVLink Switch para acelerar cargas de trabajo de exaescala. Además, incluye un motor Transformer dedicado para abordar modelos de lenguaje de billones de parámetros, ofreciendo una escalabilidad y rendimiento óptimos en entornos de centros de datos limitados por energía. Esto hace que pueda procesar hasta 175 mil millones de parámetros de forma rápida y canalizarlo a una corriente principal​.

Las especificaciones técnicas de la H100 incluyen:

• 80 GB de RAM HBM3.
• PCIe Gen 5
• 14,592 núcleos CUDA.
• 456 unidades de mapeo de textura (TMUs).
• 24 unidades de rasterizado (ROPs).
• 456 núcleos Tensor de cuarta generación.
• Interfaz de memoria de 5120 bits.
• Ancho de banda de memoria de 2.04 TB/s.

La tarjeta opera a una frecuencia de 1095 MHz, que puede aumentarse hasta 1755 MHz, mientras que la memoria funciona a 1593 MHz. Tiene un consumo energético, conocido como TDP (Thermal Design Power) base de 350 W aunque a pleno rendimiento alcanza los 700W.

Este componente de hardware tan sofisticado no soporta conexiones de pantalla. En la actualidad no tiene soporte para DirectX, OpenGL o Vulkan, ya que se enfoca en aplicaciones de computación más que en gráficos.​

Para terminar, su precio ha ido escalando por la excelsa demanda hasta superar los 30.000 euros.

Nvidia H200 Grace Hopper

Lo último de lo último. Tan reciente que ha sido el motivo real de hacer esta entrada. Salieron las primeras estaciones de trabajo en febrero, a un precio que ronda y supera los 50.000 euros y... Se venden como pan caliente.

Todas las bondades que contamos arriba sobre la H100 son ciertas, y es una auténtica divinidad griega en poder, pero la H200 es directamente Kratos de God of War.

Como ya tenéis todas las especificiaciones de la H100 y la H200 es similar, lo resumiremos diciendo que es hasta dos veces superior. Pero como una imagen vale más que 1.000 palabras, pues qué mejor que lo veáis por vosotros mismos con la información oficial presentada por Nvidia.

Diferencias entre Nvidia Tesla y Nvidia Hopper

La arquitectura Nvidia Hopper representa una evolución significativa respecto a la serie Tesla, introduciendo mejoras sustanciales en rendimiento, eficiencia energética y capacidades de procesamiento especializado para IA y HPC (Computación de alto rendimiento o High-Performance Computing).

Aquí te explico algunas de las diferencias clave entre Nvidia Tesla y Nvidia Hopper:

Avances en el diseño del núcleo de procesamiento (SM)

La organización interna del Streaming Multiprocessor (SM) en Hopper se ha optimizado aún más, con un diseño organizado en cuadrantes, cada uno con su propia unidad de programación y despacho, lo cual mejora el rendimiento en operaciones mixtas de precisión INT32 e INT8, así como en operaciones FP32 y FP64. Hopper introduce un nuevo diseño de Tensor Core, aunque los detalles específicos son menos transparentes​.

Innovación con Tensor Cores y Transformer Engine

Hopper implementa Tensor Cores de cuarta generación y una nueva unidad especializada denominada Transformer Engine, diseñada para acelerar específicamente los modelos de aprendizaje profundo de tipo transformer, muy utilizados en procesamiento de lenguaje natural y visión por computadora. Esto representa una mejora significativa en el rendimiento para entrenamiento e inferencia de IA, con un enfoque en la eficiencia de cálculo y la precisión de los modelos​.

Eficiencia energética y TDP

Hopper marca un salto en el consumo energético, con el formato SXM5 de la tarjeta H100 alcanzando un TDP (Thermal Design Power) de 700W, un aumento significativo respecto a las generaciones anteriores. Esto subraya la potencia de procesamiento incrementada de Hopper, a pesar de los retos que supone el enfriamiento de componentes tan potentes​.

Uso de HBM3 y ancho de banda de memoria

Hopper es la primera arquitectura de acelerador que utiliza memoria HBM3, ofreciendo hasta 3TB/segundo de ancho de banda. Esto es un aumento notable sobre generaciones anteriores, permitiendo un acceso más rápido a grandes volúmenes de datos, crucial para aplicaciones de IA y HPC.

Mejoras en el rendimiento

Aunque es difícil hacer comparaciones directas sin datos específicos completos, basándonos en la información facilitada por los medios especializados y por la propia Nvidia, Hopper ofrece un rendimiento en operaciones tensoriales de 3 a 6 veces superior al de su predecesor, dependiendo del formato. Este aumento es el resultado de mejoras tanto en la cantidad como en la capacidad de los Tensor Cores, junto con el nuevo Transformer Engine​.

Soporte para programación dinámica con instrucciones DPX

Una novedad de Hopper es la introducción de las instrucciones DPX, que optimizan los algoritmos de programación dinámica, acelerando significativamente tareas complejas en comparación tanto con CPUs tradicionales como con arquitecturas GPU anteriores de Nvidia.

¿Cómo conseguirlas?

A diferencia de las tarjetas gráficas habituales dirigidas a particulares, estas no pueden conseguirse fácilmente. No puedes ir a una tienda de informática o a un centro comercial y encontrártela a disposición inmediata. Al ser chips tan caros y complejos, su fabricación es casi bajo demanda.

Para adquirir estas tarjetas, lo más recomendable es dirigirse directamente a distribuidores autorizados o la propia página de Nvidia, donde se pueden encontrar las especificaciones completas, soporte y garantía directa del fabricante. La elección del modelo adecuado dependerá en gran medida del tipo de aplicaciones a ejecutar y el presupuesto disponible, teniendo en cuenta que el soporte y actualizaciones continuas son factores clave para maximizar la inversión en este tipo de tecnología.

Conclusión

Son tarjetas muy similares, pero no iguales. La arquitectura tecnológica Hopper está 100% destinada a la IA y aprendizaje en centros de datos, mientras que Tesla, aunque también son buenas en ello, son más aptas para servidores y otros tipos de procesamiento de datos. Tienes que tener muy en cuenta qué es exactamente lo que necesitas, ya que entre Geforce, Quadro, Tesla y Hopper, hay grandes diferencias en precio, rendimiento y características, y unas te valdrán más la pena que otras.

En resumen, Hopper representa un gran avance sobre las arquitecturas anteriores de Nvidia, incluyendo Tesla, con mejoras significativas en rendimiento de IA, eficiencia energética y capacidades de procesamiento especializado, diseñadas para satisfacer las crecientes demandas de aplicaciones de IA y HPC.

Espero que esta entrada, aunque algo extensa, os haya ayudado a distinguir entre las distintas arquitecturas de Nvidia que lo están petando. Recordad que cada semana sacamos contenido nuevo y que podéis seguirnos en nuestras redes sociales.