Debería ser bastante raro en cualquier campo que un mercado originalmente muy maduro florezca gradualmente de un duopolio. El artículo de portada de este número comienza con la dinámica de algunas nuevas empresas de GPU y analiza el estado actual del mercado y las tendencias futuras de las GPU en los centros de datos de hoy.
En 1993, cuando Nvidia se estableció por primera vez, el mercado de PC y chips aceleradores de gráficos profesionales estaba en auge. Pero después de 10 años (2003), solo Nvidia y ATI (luego AMD) sobrevivieron en este mercado.
Desde entonces, los escenarios de aplicación de GPU también han pasado de la representación de gráficos de juegos simples a HPC empresarial, supercomputación, aceleración de centros de datos y aplicaciones de inteligencia artificial (IA). En los últimos dos años, "International Electronic Business" ha estado prestando atención al informe financiero de Nvidia. Desde mediados del año pasado, los ingresos del negocio del centro de datos de Nvidia han superado oficialmente los del negocio de los juegos; desde entonces, el centro de datos se ha convertido en el negocio de Nvidia. unidad de negocio más rentable.
Vale la pena mencionar que, dado que la electrónica de consumo ha entrado en un período de recesión, los ingresos del negocio de juegos del FY23 Q3 de Nvidia (el tercer trimestre del año fiscal 2023, al 30 de octubre de 2022) han caído drásticamente, con una disminución interanual de más del 50 %, pero los datos El negocio principal se mantiene fuerte: los ingresos fueron de $3.833 mil millones, un 31 % más que el año anterior. Los ingresos del negocio del centro de datos representaron el 64,6 % de los ingresos totales de Nvidia en el trimestre.
Desde principios de este siglo, el mercado global de GPU ha formado un duopolio. En los siguientes diez años, las GPU y las tarjetas gráficas fueron dominadas por Nvidia y AMD. Pero en los últimos dos años, en el mercado global de GPU, especialmente en el mercado chino, muchas empresas han entrado en este campo. A fines del año pasado, las estadísticas de la firma de investigación de mercado Jon Peddie Research mostraron que un total de 18 empresas en todo el mundo estaban desarrollando o fabricando GPU. Por supuesto, estos datos también incluyen el mercado móvil y las empresas upstream GPU IP. Sin embargo, incluso si estas empresas no se cuentan, todavía hay 11 jugadores del mercado de PC y centros de datos, incluidos Intel, Biren, Hanbo, Tianshu Zhixin, Innosilicon, Mu Xi, Moore Thread, etc.
Debería ser bastante raro en cualquier campo que un mercado originalmente muy maduro florezca gradualmente de un duopolio. El artículo de portada de este número comienza con la dinámica de algunas nuevas empresas de GPU y analiza el estado actual del mercado y las tendencias futuras de las GPU en los centros de datos de hoy.
La "nueva vida" y el "saqueo" de GPU
En los últimos dos años, en el informe de la "Conferencia de desarrolladores de GTC Nvidia", "Negocio electrónico internacional" mencionó: "Para Nvidia, estos años son de hecho una 'edad de oro': a partir de 2015, el negocio de Nvidia Tanto los ingresos como las ganancias netas se han disparado, y estos dos valores incluso una vez aumentaron a tres dígitos: el rendimiento de Nvidia hace que parezca una empresa nueva en lugar de una empresa madura”.
El gran crecimiento del rendimiento de Nvidia es inseparable de la expansión de nuevos negocios. Al observar los cambios anteriores en el precio de las acciones de Nvidia, podemos ver que entre 1999 y 2015, el precio de las acciones de la compañía ha sido tibio. Para 2015, el precio de sus acciones era de solo 4-5 yuanes. Pero en 2021, el precio de las acciones de la empresa una vez superó los $300 (consulte la Figura 1 para obtener más detalles). ¿Qué pasó con el mercado global de GPU durante 2015-2021?
Figura 1: el precio de las acciones de Nvidia se ha duplicado docenas de veces
Desde el año fiscal 2016, la palabra "Centro de datos" ha aparecido con frecuencia en el informe anual de Nvidia. En el pasado, este negocio se llamaba negocio "Enterprise (empresa)". Aunque los ingresos del negocio del centro de datos de Nvidia ahora superan el 60 % de los ingresos totales de la empresa, el rápido aumento en el valor de este negocio también está relacionado con la recesión en el mercado de la electrónica de consumo. En general, la tendencia alcista del negocio de los centros de datos se ha prolongado durante decenas de trimestres.
Hoy en día, los centros de datos y las GPU empresariales son los mayores generadores de ingresos de Nvidia. Según los datos de IDC, para 2021, Nvidia ocupará el 91,4 % de la cuota de mercado global de GPU empresarial, y la cuota de mercado de AMD, que ocupa el segundo lugar, será solo del 8,5 %. Desde la aceleración de gráficos de juegos de PC hasta el centro de datos, ¿cómo se ha desarrollado la GPU?
Una GPU es un acelerador que contiene una gran cantidad de unidades de cómputo paralelas y es bueno en operaciones de punto flotante. No solo puede satisfacer las necesidades de renderizado de gráficos 3D, sino también las necesidades informáticas de HPC e IA. En 2007, el profesor de informática de Stanford, Ian Buck, desarrolló CUDA, una plataforma para programar GPU. Puede que no se considere simplemente que CUDA ha llevado la GPU más allá de los juegos y la visión profesional, haciendo que las tarjetas gráficas estén disponibles para todos los ámbitos de la vida, pero CUDA se ha convertido en un punto de aprendizaje para desarrolladores de todo el mundo, y también es una parte importante de HPC de Nvidia. , AI e incluso el Omniverso (Omniverse).) Partes importantes de. Al mismo tiempo, el predominio de CUDA ha encerrado a los desarrolladores en el ecosistema de NVIDIA.
Desde la perspectiva de la arquitectura GPU, la GPU del juego puede acelerar varias aplicaciones en el centro de datos mediante la eliminación de algunas unidades de funciones fijas de procesamiento de gráficos. Sin embargo, Nvidia considera claramente que los juegos y los centros de datos son dos negocios independientes a nivel operativo. Aunque las arquitecturas de chip de los dos tipos de GPU son similares, sus mercados, clientes y direcciones de aplicaciones son completamente diferentes. Al mismo tiempo, a medida que el estado comercial del centro de datos se vuelve cada vez más importante, su GPU también tiene algunas características propias, e incluso esto afectará a la GPU de gráficos. Por ejemplo, la arquitectura Hopper lanzada por Nvidia el año pasado se enfoca en la adición del motor Transformer y se enfoca en NLP (procesamiento del lenguaje natural).
Desde un punto de vista de clasificación amplio, la GPU del centro de datos pertenece a la categoría de aceleradores, que es un acelerador alrededor de la CPU. Desde la perspectiva de la relación de valor de los diferentes dispositivos y chips dentro del servidor del centro de datos, la relación de valor del acelerador es mucho menor que la de la CPU. El dato anterior que da Ark Invest es que en 2020 la CPU representó el 83% del valor de todos los chips del procesador, lo que significa que el valor que puede obtener la GPU es inferior al 17%.
Figura 2: Proporción de valor de dispositivos en servidores 2020-2030 (Unidad: USD) Fuente: Big Idea 2021, Ark Invest
Se puede ver en la diferencia en la escala de ingresos entre Nvidia e Intel. A pesar de que Intel enfrenta enormes presiones competitivas y de mercado, los ingresos comerciales de DCAI (centro de datos e IA) de la compañía en el último año aún superan con creces los ingresos comerciales del centro de datos de Nvidia. Esto significa que las CPU son más rentables que las GPU, pero eso puede cambiar pronto. Ark Invest cree que dentro de los 10 años posteriores a 2020, el valor de la CPU en los servidores del centro de datos caerá drásticamente al 40 % (Figura 2).
Si se tienen en cuenta la CPU, el almacenamiento, el acelerador y otras categorías, se espera que el valor de mercado de la categoría de acelerador alcance los 41.000 millones de dólares para 2030, y el valor de mercado de la CPU se reducirá ligeramente a 27.000 millones de dólares. Ark Invest dijo: "Los aceleradores que incluyen GPU, TPU, FPGA, etc. serán adecuados para aplicaciones que requieren rendimiento informático, como IA, análisis de datos, descubrimiento de fármacos, juegos en la nube, etc.".
Por supuesto, "acelerador" no solo se refiere a la GPU, también incluye FPGA, chips AI y varios ASIC. Pero "en los próximos cinco años, la GPU seguirá dominando el mercado de aceleradores, lo que está relacionado con sus características programables y de pila de software". El informe de mercado de aceleradores de centros de datos de Valuates Reports también mencionó que las GPU representaron el 85 % del mercado general de aceleradores de centros de datos en 2018.
Con respecto al espacio de crecimiento y los datos de valor de mercado del mercado de aceleradores de centros de datos, la magnitud de los datos proporcionados por diferentes agencias de análisis es muy diferente, y los datos de CAGR (tasa de crecimiento anual compuesta) también son variados. Sin embargo, todos los pronósticos creen que en los próximos diez años, la CAGR de este mercado mantendrá un crecimiento de dos dígitos.Por ejemplo, Ark Invest predijo anteriormente que los aceleradores de centros de datos crecerán casi siete veces durante 2020-2030.
Una nueva ronda de "cien flores floreciendo"
En la mayoría de los subcampos de la industria electrónica, hay muchos participantes del mercado solo en las primeras etapas de desarrollo, y toda la industria mostrará las características de "cien flores floreciendo". Solo con un gran espacio para el crecimiento, el mercado atraerá a muchos jugadores para que ingresen.
En esta etapa, sin importar desde qué punto de vista, el mercado de aceleradores de centros de datos es bastante atractivo. En otras palabras, la GPU se ha transformado de un acelerador de renderizado de gráficos para PC a un acelerador para varias aplicaciones en el centro de datos.Este tipo de chip se ha expandido de un campo altamente maduro a un nuevo campo con un gran espacio para el desarrollo.
Incluso si los nuevos jugadores en este mercado se enfrentarán a gigantes como Nvidia, todavía hay empresas dispuestas a participar en este mercado. Hay dos razones principales para esto: por un lado, está relacionado con las fricciones comerciales chino-estadounidenses y la tendencia de regionalización del mercado mundial de semiconductores.China tiene una demanda más urgente de autonomía de chips que otras regiones del mundo. nuevos participantes en China, sin importar desde la perspectiva del mercado o la tecnología, la GPU es relativamente más fácil de ingresar que la CPU; por otro lado, este mercado es lo suficientemente atractivo.
De hecho, no solo los recién llegados han mostrado un entusiasmo considerable, sino que incluso los gigantes de Intel también están trabajando duro en el negocio de GPU para centros de datos. En el último año, Intel no escatimó esfuerzos en la promoción de mercado de las tarjetas gráficas de arquitectura Xe-HPC. El valor de las CPU en el mercado de centros de datos ha ido disminuyendo. Intel necesita urgentemente buscar oportunidades de expansión comercial en el mercado de centros de datos.
Además del mercado de centros de datos, algunas empresas también están tratando de ingresar al mercado altamente maduro de tarjetas gráficas para PC que ha sido controlado por Nvidia y AMD. En la mayoría de los casos, los productos en estos mercados son subproductos generados por el mercado del centro de datos. Después de que la arquitectura GPU se vuelva modular y elásticamente escalable, este intento es técnicamente factible. Por supuesto, empresas como Innosilicon y Moore Threads en China han presentado tarjetas gráficas para PC debido a la demanda de independencia y localización de semiconductores.
Entre los recién llegados, Imagination es uno muy representativo. En la década de 1990, Imagination también era una de las empresas que competían en el mercado de las tarjetas aceleradoras de gráficos. Más tarde, el principal negocio de la empresa se desplazó al mercado móvil. Imagination se llama un "nuevo jugador del mercado" porque su negocio de GPU no ha estado involucrado antes en el mercado de centros de datos.
Después de que el fondo de capital privado Canyon Bridge anunciara la adquisición de Imagination en 2017, la historia de Imagination abrió un nuevo capítulo. El diseño de GPU actual de Imagination se basa en un esquema de diseño modular, que escala a través del núcleo de la misma arquitectura, cubriendo varias aplicaciones, desde teléfonos móviles hasta centros de datos; esta es una solución que está muy en línea con los conceptos de diseño de GPU contemporáneos.
"Desde una perspectiva IP, creemos que la clave de esta transición es garantizar que el hardware se pueda construir de manera escalable para permitir un mayor margen de rendimiento en los años venideros", dijo David Harold, director de marketing de Imagination Technologies en una entrevista con " Los analistas de International Electronic Business" dijeron: "Ya sea ahora o en el futuro, las PC y los centros de datos son mercados importantes para Imagination. Reconocemos que las aplicaciones móviles 5G están impulsando un aumento significativo en la cantidad de conexiones, lo que también es importante para los calificados". , Las soluciones confiables en la nube plantean requisitos más altos. Basándonos en la configuración del centro de datos de la arquitectura CXT, estamos ayudando a los clientes a integrar la tecnología de trazado de rayos en las soluciones en la nube de manera sostenible y eficiente. La serie C ya ha proporcionado autorización en este mercado, y planea lanzar los chips correspondientes dentro de los próximos 18 meses".
Además, Bai Nong, presidente de Imagination China, mencionó en la "Cumbre Global de CEO de 2022" que para Imagination, el mercado de juegos en la nube de China es uno de los cuatro mercados en rápido desarrollo. Entonces, las GPU de "centro de datos" que la compañía está considerando incluyen renderizado de gráficos, que es el punto fuerte de Imagination. "Creemos que las GPU serán un componente fundamental de los sistemas de centros de datos, no solo por sus capacidades de procesamiento de gráficos 3D, sino también por sus capacidades de computación altamente paralelas. En particular, esta última es una herramienta esencial en escenarios de uno a muchos". ."
El año pasado, Sun Erjun, cofundador y CMO de Muxi, mencionó en una entrevista con "International Electronic Business": "Usar la computación general como punto de entrada tiene en cuenta las necesidades urgentes del mercado en computación científica, aprendizaje automático y capacitación en inteligencia artificial. El nuevo La mejora de algunas escenas de renderizado también presenta nuevos requisitos para la parte informática, e incluso el renderizado y la computación se están integrando estrechamente ". En términos de aplicación, la GPU de Mu Xi involucra inteligencia artificial, ciudades inteligentes, centros de datos y computación en la nube. , conducción autónoma, ciencias de la vida, gemelos digitales, metaverso, etc.
El entorno general de la transformación social digital se basa en sí mismo en el desarrollo de teléfonos móviles, IoT, IA y big data, así como en sus demandas de TI, comunicaciones y aceleradores de centros de datos. Al igual que la dirección de la aplicación enumerada por Mu Xi, la GPU tiene un potencial de mercado amplio y enorme. Impulsados por el enorme potencial del mercado, los nuevos participantes han revelado la dinámica de los productos GPU. Por ejemplo, Hanbo Semiconductor anunció en la "Conferencia Mundial de Inteligencia Artificial WAIC 2022" que lanzará productos GPU; Mu Xi también dijo que la compañía lanzará GPU productos en el futuro. La GPU capaz de renderizar puede cubrir completamente el mercado de GPU de alto rendimiento; Biren Technology lanzó el primer chip de GPU de propósito general BR100, y su propia arquitectura original...
Segmentación del mercado de GPU y fiebre de IA
El año pasado, el fundador y director ejecutivo de Nvidia, Jensen Huang, dividió los centros de datos en seis categorías: centros de supercomputación, centros de datos de computación empresarial, hiperescaladores, centros de datos de computación en la nube, fábricas de IA y centros de datos de borde. Seeking Alpha ha realizado un análisis detallado de estos seis sectores, y la mayoría de los chips grandes para centros de datos se pueden clasificar de acuerdo con esto.
Centro de datos de supercomputación
En 2021, el 70 % de las 500 supercomputadoras TOP del mundo usan GPU Nvidia, y la tasa de adopción de GPU Nvidia en nuevos sistemas sigue aumentando. Las aplicaciones de este centro de datos de supercomputación incluyen computación cuántica, predicción climática, extracción de energía fósil, modelado molecular, simulación física, aerodinámica, investigación de fusión nuclear, etc.
Centro de datos empresarial
Un centro de datos empresarial es un centro de datos operado dentro de una empresa para proyectos como TI, finanzas, atención médica o soporte de datos de clientes. La capacidad de este campo es muy grande y también es el foco de la competencia actual del mercado.
súper cúmulo
Anteriormente, IDC definió un centro de datos de súper clúster, que es un centro de datos con un área de más de 10,000 pies cuadrados y más de 5,000 servidores. Su infraestructura es de gran escala y se puede escalar de manera flexible para satisfacer las necesidades de diferentes clientes. Los gigantes tecnológicos como Meta, Google y Alibaba tienen centros de datos de este tipo.
centro de datos de computación en la nube
Los centros de datos de computación en la nube son infraestructuras que brindan servicios a través de la nube, con aplicaciones como juegos en la nube, servicio al cliente automatizado e imágenes médicas avanzadas. Los datos de Canalys muestran que la cuota de mercado de los centros de datos de computación en la nube de Nvidia alcanzará el 33 % en 2021.
fábrica de IA
La fábrica de IA es un nuevo tipo de centro de datos. Algunas empresas comienzan a prestar atención a la utilización de los datos y utilizan la IA para optimizar la cadena de suministro, el mantenimiento predictivo y el control de procesos de fabricación. La línea de producción y la cadena de suministro de BMW, uno de los clientes típicos de Nvidia, ha utilizado completamente robots, IA y gemelos digitales en las fábricas de IA.
Centro de datos perimetral
El centro de datos de borde es un centro de datos relativamente pequeño que está más cerca de los usuarios finales, logrando una baja latencia y una alta velocidad de transmisión de datos. Este tipo de centro de datos tiene una gama más amplia de aplicaciones, como almacenes, comercio minorista, automóviles, robots y transporte inteligente.
En estas seis categorías, Nvidia puede proporcionar chips y productos de sistema/solución de forma horizontal, y también puede proporcionar software de pila completa de abajo hacia arriba de forma vertical. Sin embargo, el autor cree que aunque Nvidia ha logrado una ventaja de ser el primero en moverse en ciertos mercados con OEM o socios, los nuevos jugadores todavía tienen grandes oportunidades en mercados potenciales.
Cabe mencionar que en términos de segmentación de aplicaciones en diferentes dimensiones, la IA es lo más destacado de la GPU. El enfoque de actualización de la nueva arquitectura de Nvidia Hopper también está claramente sesgado hacia la IA, que tiene mucho que ver con el fuego actual de la IA. Según los datos de Omdia, solo en la categoría de procesadores de IA, las GPU de Nvidia representarán más del 80 % de los ingresos globales de los procesadores de IA (excluyendo las CPU) en 2021, superando con creces a participantes del mercado como AMD, Google e Intel.
La demanda del mercado de chips de IA también está aumentando. A lo largo de los años, tanto las empresas emergentes como las empresas establecidas de la industria de semiconductores han hecho todo lo posible para fortalecer el diseño de los chips de IA; en un sentido amplio, la GPU también es una rama de los chips de IA. El pronóstico de Ark Invest muestra que, de 2021 a 2025, el gasto del centro de datos en procesadores de IA (incluidas las GPU, pero sin incluir las CPU) se cuadruplicará, de $5 mil millones a $22 mil millones.
Mercados fuera de Nvidia
Según los datos de las agencias estadísticas, todavía hay espacio para un crecimiento múltiple en las GPU de los centros de datos, y Nvidia solo ocupa una parte del mercado potencial. La posición de mercado de Nvidia en el entrenamiento de IA es casi inquebrantable, pero en 2021, Cassell y el equipo de Omdia mencionaron en un informe que otros fabricantes de chips absorberán la participación de mercado de Nvidia en los próximos años debido a la aceptación en el mercado de otros tipos de chips de IA. grado es cada vez más alto.
El informe señaló que se espera que para 2026, la proporción de GPU en la dirección de las aplicaciones de IA caiga al 54 %, y este valor llegará al 82 % en 2021. En términos de chips de IA, GPU ocupa temporalmente la mayor parte del valor de mercado Con la aparición de muchas empresas de chips de IA en todo el mundo, en el futuro aparecerán más FPGA, TPU y varios chips específicos de IA.
Por lo tanto, Nvidia se enfrenta a la presión de la competencia en los chips de aceleración de centros de datos.Después de todo, este mercado está lejos de ser maduro y puede verse afectado en el futuro. Aun así, en entrevistas pasadas con analistas de "Comercio Electrónico Internacional", la mayoría de los participantes del mercado todavía dijeron que sienten una gran presión sobre la existencia de Nvidia.
En 2021, cuando Hanbo lanzó el chip de razonamiento AI, dijo que la GPU Nvidia ya tiene ventajas ecológicas considerables en la pista de entrenamiento de AI, por lo que el punto de entrada para que Hanbo ingrese al mercado es el chip de razonamiento AI en el dirección de DSA. En la entrevista de portada de la edición de octubre de 2021 de la revista "International Electronic Business", Graphcore admitió francamente que, como empresa de chips de inteligencia artificial para centros de datos, la empresa está trabajando arduamente para expandir el campo de aplicaciones y se está enfocando en Internet, finanzas, y la investigación basada en los recursos humanos y materiales existentes, la salud médica y las otras cinco partes no pueden cubrir un rango ecológico tan amplio como Nvidia.
En la conferencia anual de GTC, Nvidia anunció que actualizó algunas bibliotecas de software en un campo determinado, y el rendimiento correspondiente se mejoró x veces, lo que aumenta la dificultad de la pista de GPU en el centro de datos.
Pero, ¿por qué todavía hay tantas empresas que quieren entrar en este mercado? Sun Erjun dijo: "Las GPU tienen una gran cantidad de escenarios de aplicación en campos clave como la inteligencia artificial, la computación científica, las finanzas y la industria. En comparación con los chips de IA dedicados, las GPU son más versátiles, más ricas en escenarios de aterrizaje y más amplias en campos de aplicación. Una gran cantidad de capital La entrada en la pista de GPU puede reflejar que el mercado es generalmente optimista sobre GPU". Al mismo tiempo, también mencionó el impulso de las políticas del gobierno chino, especialmente el proyecto "East Counts West", y la perspectiva de la economía digital.
El año pasado, cuando Hanbo anunció que iba a fabricar una GPU, el analista de "International Electronic Business" le preguntó a Qian Jun, fundador y director ejecutivo de Hanbo Semiconductor: "¿Por qué eligió ingresar a una vía tan estresante?" Qian Jun respondió: "En el pasado, Hanbo se enfoca en la computación y el procesamiento de video, pero ahora queremos hacer 'generación de píxeles', primero seleccionaremos algunas industrias y campos para hacerlo como hicimos con la IA en la etapa inicial".
La imaginación también tiene una suposición de observación específica del mercado. David dijo: "La computación heterogénea está en aumento, y cada vez más empresas están fabricando chips personalizados". Esta es una oportunidad de mercado para las GPU de centros de datos fuera de Nvidia. Esto puede tener algo que ver con el papel de Imagination como proveedor de IP.
El valor de mercado del centro de datos ha pasado de la CPU al acelerador, lo que refleja la impotencia del estancamiento de la Ley de Moore. La CPU, un procesador que se basa más en la Ley de Moore para avanzar, se enfrenta a la vergüenza de no poder satisfacer las necesidades del rápido desarrollo de la economía digital en la dirección de HPC, por lo que los aceleradores con capacidades de procesamiento de datos altamente paralelas se han puesto de moda. .
Los chips de GPU aún son un recién nacido en el mercado de los centros de datos, y la competencia por las GPU de los centros de datos acaba de comenzar. Nvidia tiene una ventaja temporal en esta ronda, pero esto no significa que otros participantes del mercado no tengan posibilidades de ganar.
FIN
Bienvenido a unirse a Imagination GPU y al grupo de comunicación de inteligencia artificial 2
Únase al grupo, agregue el editor WeChat: eetrend89
(Agregue, tenga en cuenta el nombre y el título de la empresa)
Lectura recomendada
Diálogo con el presidente de Imagination China: uso de GPU como punto de apoyo para fortalecer la colaboración de software y hardware para facilitar la transformación digital
[Video] El director técnico de Imagination China interpreta completamente la GPU IMG DXT
Imagination Technologies es una empresa con sede en el Reino Unido dedicada a la investigación y el desarrollo de chips y software de propiedad intelectual (IP). Los productos basados en Imagination IP se utilizan en los teléfonos, automóviles, hogares y lugares de trabajo de miles de millones de personas en todo el mundo. Para obtener más información sobre tecnologías de vanguardia como Internet de las cosas, dispositivos portátiles inteligentes, comunicaciones, electrónica automotriz y desarrollo de gráficos e imágenes, ¡bienvenido a Imagination Tech!