AI al rescate para el gasto en servidores y almacenamiento en el primer trimestre

Aquí hay una pregunta divertida y no hagas trampa preguntándole a ChatGPT. ¿Qué es más valioso, una onza de oro o una onza de un acelerador de GPU Nvidia “Hopper” H100?

Los dos tienen un precio más cercano de lo que podría imaginar, pero parece que el oro sigue ganando y también parece que la GPU es más valiosa por onza que la plata, el otro metal precioso. No obstante, el valor de estas y otras GPU, que se están agregando a los sistemas de inferencia y capacitación de IA, así como a los clústeres de HPC, fue la principal fuerza que impulsó los aumentos de ingresos en el negocio de servidores y almacenamiento.

IDC acaba de publicar sus estimaciones consolidadas de ingresos de servidores y almacenamiento para Planet Earth y ha revisado sus pronósticos para 2023 y hasta 2027 para las ventas de infraestructura de servidores y almacenamiento por casos de uso y sectores industriales. Y eso nos hizo pensar en los lingotes de oro y plata y el oro digital que compañías como Nvidia y AMD, y por su propio bien, esperamos que Intel también, están extrayendo en ellos en las colinas de Big Data.

La versión PCI-Express más gruesa del acelerador H100 pesa 1.286 gramos, que son 45,4 onzas. Probablemente tenga un precio de venta de alrededor de $ 20,000, pero quién puede decir con tantos grandes compradores con mucho dinero persiguiendo cualquier suministro limitado que tenga Nvidia. Eso equivale a $ 441 por onza, que es aproximadamente donde el oro se cotizaba en 2005. El oro se cotiza a alrededor de $ 1,929 por onza al cierre de esta edición y, por lo tanto, es aproximadamente 4,4 veces más valioso por unidad de peso que un PCI H100. -Tarjetas Express. La plata, por el contrario, brilla como un servidor nuevo, pero solo se cotiza a alrededor de $ 23 por onza esta tarde. Al igual que los aceleradores de GPU, el oro y la plata son productos valiosos porque son relativamente raros, pero la diferencia es que el valor de la GPU no solo aumenta y disminuye pasivamente en función de la disponibilidad, sino que se puede implementar con software para realmente crear nuevo valor en su propio derecho.

Esta es la tesis completa detrás de una construcción masiva en los sistemas de IA que está apuntalando el servidor y las raquetas de almacenamiento en el primer trimestre. Sin él, los volúmenes disminuirían un poco y los ingresos probablemente también disminuirían mucho más. No lo sabemos con certeza porque IDC no está desglosando las ventas de servidores y almacenamiento adquiridas para ejecutar cargas de trabajo de IA por separado de otras cargas de trabajo. Pero sí dijo que las ventas de infraestructura en la nube superaron los ingresos de infraestructura fuera de la nube en el primer trimestre, como ha sido el caso durante algunos años, y que la porción de nube de las ventas de servidores y almacenamiento, la porción más fuerte y más grande de la infraestructura del centro de datos pastel en este momento: los envíos de unidades cayeron en un 11,4 por ciento bastante dramático, pero los precios de venta promedio aumentaron en un 29,7 por ciento gracias a la inflación de precios (los fabricantes de servidores se sienten seguros de transferir algunos costos finalmente) y «una mayor concentración de GPU- sistemas acelerados implementados por proveedores de servicios en la nube”.

Creemos que los servidores impulsados ​​por GPU han estado apuntalando los ingresos de los servidores durante poco más de una década de manera material, y que esto ha ido en aumento a medida que la revolución de la IA ha cobrado impulso. Claramente, a raíz de la generalización de los grandes modelos de lenguaje y los modelos de recomendación de aprendizaje profundo, la demanda se ha disparado, y los desarrolladores de la nube y los hiperescaladores están comprando tantos como pueden para tratar de aprovechar la oportunidad de la IA. Es justo decir que, debido a problemas de suministro y al alto costo de los sistemas de capacitación en IA, muchas organizaciones que intentan adaptar la IA a sus cargas de trabajo tendrán que comenzar en la nube, lo que establece un ciclo virtuoso que favorece la nube y sus modelo de alquiler en lugar de comprar sistemas e instalarlos en las instalaciones, con excepciones notables en las que las grandes empresas y las nuevas empresas tienen el dinero para comprar los suyos propios y no tienen que pagar la prima de la nube para obtener capacidad de GPU para entrenar sus modelos. Esta tensión obligará a muchos a comenzar con modelos previamente entrenados y modificarlos, lo que probablemente sea algo bueno dado el tiempo que lleva entrenar un modelo y la escasez de hardware y personas para hacerlo realidad.

En el primer trimestre, que es el más reciente para el que hay datos disponibles de IDC, las ventas de servidores y almacenamiento para todas y cada una de las cargas de trabajo y para todos y cada uno de los clientes ascendieron a 35.300 millones de dólares, un aumento del 8,2 % interanual. Es importante recordar que este no es un indicador de los ingresos que los desarrolladores de la nube y otros proveedores de servicios obtienen del alquiler de la capacidad de las máquinas que compran.

Desglosado por modelo de entrega, las ventas de servidores y almacenamiento para nubes compartidas, lo que llamamos constructores de nubes y lo que muchos todavía llaman la nube pública, aunque en realidad no son servicios públicos en absoluto, aumentó un 22,5 por ciento a $ 15,7 mil millones.

IDC desglosa otro segmento del mercado en nubes dedicadas, que incluye servidores y almacenamiento vendidos para alojar aplicaciones de una manera más estática entre proveedores de servicios, así como equipos vendidos por OEM bajo contratos de alquiler (como Hewlett Packard Enterprise GreenLake, Dell APEX, Lenovo TrueScale y Cisco+). Las ventas de hierro para respaldar nubes dedicadas cayeron un 1,5 por ciento a $ 5,8 mil millones y aún representan una parte relativamente pequeña del mercado. Pero no te hagas una idea equivocada. En los últimos doce meses, las ventas de equipos en casos de uso de la nube dedicada han aumentado un 18,7 por ciento en comparación con el 21 por ciento para la infraestructura de nube compartida.

Súmelos y, en el primer trimestre de 2023, las ventas de servidores y almacenamiento en todos los casos de uso de la nube aumentaron un 14,9 % hasta los 21 500 millones de dólares. Y las ventas de plataformas heredadas que no están en la nube (piense en los mainframes IBM System z y Unix y los sistemas propietarios que ejecutan bases de datos y sistemas de procesamiento de transacciones) cayeron nueve décimas de punto a $ 13.8 mil millones. Sin embargo, en los últimos doce meses, las ventas de estos sistemas que no están en la nube aumentaron un 10,1 por ciento.

La pregunta ahora es esta: ¿El aumento de las tasas de interés de los bancos centrales del mundo, así como la incertidumbre general de las economías nacionales y regionales, harán que las ventas de servidores y almacenamiento disminuyan en 2023, o se impulsarán sobre el crecimiento subyacente en las aplicaciones existentes? y agregar la burbuja emergente de IA para hacerlo bastante bien en 2023 y más allá?

Si las ventas de equipos que no están en la nube son un indicador principal, entonces no se ve bien. IDC proyecta que en 2023, los ingresos por servidores y almacenamiento de esta clase de caso de uso caerán un 6,3 % a $ 60,4 mil millones. No creemos que este sea un indicador adelantado muy bueno, sino más bien un reflejo de los ciclos de actualización para IBM System z y Power Systems iron, así como para otros sistemas basados ​​en X86 para hacer un trabajo similar.

Si bien se prevé que el mercado general de servidores y almacenamiento crezca solo un 1,1 % este año, a 156 800 millones de dólares, se espera que las ventas de infraestructura en la nube aumenten un 7,3 % a 96 400 millones de dólares, y dentro de esto, la infraestructura de nube compartida, el material vendido a Amazon. Se espera que Web Services, Microsoft Azure, Google Cloud, Meta Platforms, Alibaba, Tencent y Baidu crezcan un 8,4 % hasta alcanzar los 68.000 millones de dólares. La infraestructura de nube dedicada crecerá a un ritmo más modesto del 4,8 % hasta los 28 400 millones de dólares.

Las ventas de equipos que no están en la nube a empresas, gobiernos y académicos parecen ser los culpables, si hace un diagrama de Venn de los datos. Aquí hay una tabla consolidada que creamos basada en los datos actualizados de IDC para 2022 más los pronósticos en 2023 y 2027:

IDC proyecta que el gasto en servidores y almacenamiento en empresas, gobiernos e instituciones académicas caerá un 5,1 por ciento a $ 62,3 mil millones este año, lo que no es una buena noticia y también sugiere que cuando se trata de IA, muchas de estas organizaciones están buscando a la nube para empezar. Esto tiene sentido dadas las dobles incertidumbres sobre la economía y la forma de incorporar la IA en las aplicaciones.

El pronóstico general para el gasto en servidores y almacenamiento en todo el mundo entre 2022 y 2027 sigue siendo bastante optimista, según IDC, y se espera que las ventas tengan una tasa de crecimiento anual compuesta del 6,2 por ciento y alcancen los $ 221,7 mil millones al final del período de pronóstico. Las ventas de infraestructura en la nube en 2027 serán, como puede ver en la tabla anterior, un poco más pequeñas que todas las infraestructuras en 2022, lo que es notable por derecho propio. Pero una vez más, gran parte de ese crecimiento proviene de inversiones en hardware de inferencia y capacitación de IA, ya sea para uso local o a través de una nube.