No solo llegará el H200, sino también el chip más potente de Nvidia, B100, x100

Fuente de la imagen: Generado por Unbounded AI

No hay más fuerte, solo más fuerte, y los chips de IA de Nvidia pueden ser siempre imbatibles.

Justo cuando pensabas que el H100 era el chip de IA más potente, Nvidia lanzó el H200 más potente. Justo cuando pensabas que el H200 era el mejor a corto plazo, Nvidia tenía listo el B100 más fuerte. Tal vez entonces haya B200, x100, x200…

El repentino lanzamiento del chipset H200 AI sorprendió a muchas personas, después de todo, Nvidia ha superado a sus competidores por un amplio margen con H100, y los pedidos han sido suaves, y los pedidos se organizarán hasta el próximo año. Nvidia no se detuvo ahí, sino que aprovechó la tendencia para lanzar chips de IA más potentes.

A medida que el H200 ocupaba un lugar central, surgió más información sobre el chip B100 con la nueva arquitectura Blackwell de próxima generación.

El B100 rinde el doble que el H200

Según la información publicada por Nvidia, la compañía planea lanzar la arquitectura Blackwell en 2024, y se espera que los chips de GPU B100 con esta arquitectura aumenten significativamente la potencia de procesamiento, y los datos de evaluación preliminar indican una mejora del rendimiento de más del 100% en comparación con la serie H200 existente con arquitectura Hopper. Estas mejoras de rendimiento son especialmente notables en las tareas relacionadas con la IA, como demuestra la competencia del B100 en el punto de referencia de rendimiento de inferencia GPT-3 175B (figura siguiente).

En cuanto a la tecnología de memoria, la serie H200 actual de NVIDIA utiliza memoria HBM3e con un rendimiento de 4,8 TB/s. Sin embargo, dado que no se espera que el HBM4 de Micron se lance hasta 2025, Nvidia puede explorar soluciones alternativas a la serie Blackwell, como la de Samsung.

Se espera que las GPU Blackwell utilicen el proceso de fabricación de 3 nm de TSMC, que se espera que mejore la eficiencia.

Durante los últimos dos años, NVIDIA ha confiado en sus GPU Hopper y Ampere para trabajar con varios socios para satisfacer las necesidades de los clientes de IA y HPC en todo el mundo, pero con la llegada de Blackwell, todo eso cambiará en 2024. Los ingresos generales del centro de datos y de la compañía de Nvidia han crecido significativamente como resultado del auge de la IA, y parece que el tren se está moviendo a toda velocidad, ya que su objetivo es lanzar dos nuevas familias de GPU para 2025.

De cara al futuro, NVIDIA ha revelado sus planes para el chip X100, cuyo lanzamiento está previsto para 2025, que ampliará la gama de productos para incluir el X40 y el GX200 para uso empresarial, combinando capacidades de CPU y GPU en una configuración de superchip. Del mismo modo, se espera que el GB200 siga el ejemplo del B100 e incorpore el concepto de superchip.

A juzgar por la ruta de productos de NVIDIA, en los próximos 1-2 años, el mercado de chips de IA volverá a ponerse patas arriba.

Los competidores se persiguen unos a otros, y Nvidia es ambiciosa

En la actual ola de revolución de la IA generativa que se está produciendo, la transición de líder a rezagada nunca ha sido tan rápida como lo es hoy, con productos que alguna vez fueron líderes convirtiéndose en productos del pasado convirtiéndose en productos del pasado, y cualquier ventaja que alguna vez fue producto de una era antigua podría desaparecer en un instante. Con el dominio de los chips de IA, Nvidia tiene una capitalización de mercado de más de un billón de dólares y sus ingresos están fuera del alcance de todos los competidores. Esta supremacía no es segura, y sus competidores están esperando una oportunidad para moverse y podrían caer si no tienen cuidado.

Google ha lanzado un plan sin precedentes para construir su propia infraestructura de IA, que incluye una inversión de recursos en chips de IA TPUv5 y TPUv5e. Estos chips se pueden utilizar tanto internamente para entrenamiento/inferencia como para clientes externos de empresas como Apple, Anthropic, CharacterAI, MidJourney, Assembly, Gridspace y más.

Google no es la única amenaza para Nvidia.

En cuanto al software, PyTorch 2.0 de Meta y OpenAI Triton están creciendo rápidamente, lo que permite que otros proveedores de hardware los habiliten.

Los competidores directos de Nvidia, como el MI300X** de AMD, Gaudí de Intel, el MTIA de Meta y las pilas de software de Athena de Microsoft, se encuentran en diferentes etapas de madurez, pero esto está claro.

La brecha de software, aunque todavía existe, no es ni de lejos tan grande como solía ser. Si bien Nvidia aún mantiene una ventaja de hardware, esta ventaja puede romperse rápidamente si no se tiene cuidado.

Entre ellos, el MI300 de AMD y el Gaudi 3 de Intel lanzarán hardware tecnológicamente superior en comparación con el H100 de Nvidia en los próximos meses.

Incluso fuera de Google, AMD e Intel, Nvidia se enfrenta a la presión competitiva de las empresas que se quedan atrás en el diseño de hardware, pero los gigantes detrás de ellas quieren ser subsidiados tratando de deshacerse de la acumulación de ganancias de Nvidia en HBM. Amazon lanzará pronto Trainium2 e Inferentia3, y Microsoft también llegará pronto a Athena. Hablamos de la cadena de suministro y de las ventas del próximo año en julio, pero se trata de inversiones plurianuales que no se ralentizarán en el futuro.

Nvidia vio un mal presagio hace unos años. Los gigantes tecnológicos han estado tratando de reemplazar todas sus necesidades de hardware y comerse el almuerzo de Nvidia.

Desde este punto de vista, existe un argumento muy razonable de que Nvidia no podrá mantener su cuota de mercado ni sus márgenes de beneficio debido a esta amenaza competitiva.

Por supuesto, Nvidia no se quedará de brazos cruzados. Si bien Nvidia tiene mucho éxito, también es una de las empresas más paranoicas de la industria, desde su estilo de gestión hasta las decisiones de su hoja de ruta. Huang encarna el espíritu de Andy Grove.

Como resultado, Nvidia se ha embarcado en una estrategia ambiciosa y arriesgada de múltiples frentes para mantenerse a la vanguardia del mercado de hardware de IA. El plan de Nvidia es ir más allá de las comparaciones con competidores tradicionales como Intel y AMD y convertirse en un gigante tecnológico. Quieren ser compañeros de Google, Microsoft, Amazon, Meta y Apple.

Recursos: