Potencia computacional Servicio: Nuevos modelos de negocio y cadena de industria
La tendencia de entrenamiento de grandes modelos ha llegado, y la dificultad de conseguir una GPU de alta gama se ha convertido en un problema para la industria. Los altos costos de potencia computacional y la falta de potencia computacional y financiamiento representan un desafío directo para las empresas.
La escasez de GPU de alta gama se ha convertido en un fenómeno generalizado. En su punto máximo, el precio de una tarjeta Nvidia A100 se disparó a entre dos y trescientos mil yuanes, y el alquiler mensual de un servidor A100 se disparó a entre 50,000 y 70,000 yuanes. A pesar de esto, el alto precio no garantiza la obtención de los chips. Algunos proveedores de potencia computacional incluso han enfrentado situaciones raras como el incumplimiento de los proveedores.
El umbral de entrenamiento de grandes modelos no es tan fácil como se promociona en la industria. Tomando como ejemplo el gran modelo meteorológico Pangu, su costo de entrenamiento puede superar los 2 millones de yuanes. Si se entrena un modelo general de mayor escala, el costo puede aumentar diez o incluso cien veces.
Ante esta situación, se considera generalmente en la industria que, con la intensa competencia en el mercado de grandes modelos, el mercado pasará de la euforia a la racionalidad, y las empresas ajustarán sus estrategias y controlarán costos según los cambios en las expectativas.
Para hacer frente a la escasez de potencia computacional, las empresas están adoptando diversas metodologías innovadoras. Algunas compañías optan por utilizar datos de mayor calidad para el entrenamiento, con el fin de mejorar la eficiencia. Otras empresas se dedican a mejorar la capacidad de infraestructura, logrando un funcionamiento estable por encima de mil calorías. La programación de recursos de potencia computacional también pone a prueba la capacidad técnica de los proveedores de servicios.
Algunos fabricantes están explorando nuevos caminos, pasando de la arquitectura de computación en la nube a la arquitectura de supercomputación para reducir costos. También hay empresas que eligen utilizar plataformas nacionales para el entrenamiento y la inferencia de modelos grandes, como alternativa a los escasos productos de Nvidia.
La potencia computacional se ha convertido en un nuevo modelo de servicio en el proceso de demanda del mercado y la iteración tecnológica. El servicio de potencia computacional se basa en la diversidad de potencia computacional, se conecta a través de una red de potencia computacional y tiene como objetivo proporcionar potencia computacional efectiva.
La esencia del servicio de potencia computacional es lograr una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de cálculo, y fusionarse con tecnologías como la nube, el big data y la IA. No solo incluye potencia computacional, sino que también envuelve de manera unificada recursos como almacenamiento y red, completando la entrega en forma de servicio.
En la cadena industrial de potencia computacional, las empresas upstream proporcionan recursos básicos, las empresas midstream se encargan de la producción y suministro de potencia computacional, y las empresas downstream utilizan los servicios de potencia computacional para ofrecer servicios de valor añadido.
La facturación por uso y los planes anuales y mensuales son los modelos predominantes de servicios de potencia computacional actuales. La industria también está promoviendo la "integración y fusión de la computación y la red", apoyando la programación entre arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de computación de alto rendimiento para modelos grandes, los servicios de potencia computacional han entrado rápidamente en la vista del público, formando una cadena industrial y un modelo de negocio únicos. A pesar de los desafíos actuales como la escasez de GPUs de alta gama, la tendencia de la potencia computacional como servicio ya se ha establecido, y los proveedores de servicios deben prepararse para los cambios del mercado.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
20 me gusta
Recompensa
20
5
Compartir
Comentar
0/400
MissedTheBoat
· 07-03 08:17
El cardano ha subido hasta el cielo.
Ver originalesResponder0
TheShibaWhisperer
· 07-02 16:51
a100 está demasiado caro, ¿quién puede soportarlo?
Ver originalesResponder0
OPsychology
· 07-01 08:23
¿Los chips están ridículamente caros...?
Ver originalesResponder0
FlashLoanPrince
· 07-01 08:07
No se puede tomar a la gente por tonta, y todavía están ahí engañando.
La aparición de servicios de potencia computacional: nuevas cadenas de industria y modelos de negocio en la era de los grandes modelos.
Potencia computacional Servicio: Nuevos modelos de negocio y cadena de industria
La tendencia de entrenamiento de grandes modelos ha llegado, y la dificultad de conseguir una GPU de alta gama se ha convertido en un problema para la industria. Los altos costos de potencia computacional y la falta de potencia computacional y financiamiento representan un desafío directo para las empresas.
La escasez de GPU de alta gama se ha convertido en un fenómeno generalizado. En su punto máximo, el precio de una tarjeta Nvidia A100 se disparó a entre dos y trescientos mil yuanes, y el alquiler mensual de un servidor A100 se disparó a entre 50,000 y 70,000 yuanes. A pesar de esto, el alto precio no garantiza la obtención de los chips. Algunos proveedores de potencia computacional incluso han enfrentado situaciones raras como el incumplimiento de los proveedores.
El umbral de entrenamiento de grandes modelos no es tan fácil como se promociona en la industria. Tomando como ejemplo el gran modelo meteorológico Pangu, su costo de entrenamiento puede superar los 2 millones de yuanes. Si se entrena un modelo general de mayor escala, el costo puede aumentar diez o incluso cien veces.
Ante esta situación, se considera generalmente en la industria que, con la intensa competencia en el mercado de grandes modelos, el mercado pasará de la euforia a la racionalidad, y las empresas ajustarán sus estrategias y controlarán costos según los cambios en las expectativas.
Para hacer frente a la escasez de potencia computacional, las empresas están adoptando diversas metodologías innovadoras. Algunas compañías optan por utilizar datos de mayor calidad para el entrenamiento, con el fin de mejorar la eficiencia. Otras empresas se dedican a mejorar la capacidad de infraestructura, logrando un funcionamiento estable por encima de mil calorías. La programación de recursos de potencia computacional también pone a prueba la capacidad técnica de los proveedores de servicios.
Algunos fabricantes están explorando nuevos caminos, pasando de la arquitectura de computación en la nube a la arquitectura de supercomputación para reducir costos. También hay empresas que eligen utilizar plataformas nacionales para el entrenamiento y la inferencia de modelos grandes, como alternativa a los escasos productos de Nvidia.
La potencia computacional se ha convertido en un nuevo modelo de servicio en el proceso de demanda del mercado y la iteración tecnológica. El servicio de potencia computacional se basa en la diversidad de potencia computacional, se conecta a través de una red de potencia computacional y tiene como objetivo proporcionar potencia computacional efectiva.
La esencia del servicio de potencia computacional es lograr una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de cálculo, y fusionarse con tecnologías como la nube, el big data y la IA. No solo incluye potencia computacional, sino que también envuelve de manera unificada recursos como almacenamiento y red, completando la entrega en forma de servicio.
En la cadena industrial de potencia computacional, las empresas upstream proporcionan recursos básicos, las empresas midstream se encargan de la producción y suministro de potencia computacional, y las empresas downstream utilizan los servicios de potencia computacional para ofrecer servicios de valor añadido.
La facturación por uso y los planes anuales y mensuales son los modelos predominantes de servicios de potencia computacional actuales. La industria también está promoviendo la "integración y fusión de la computación y la red", apoyando la programación entre arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de computación de alto rendimiento para modelos grandes, los servicios de potencia computacional han entrado rápidamente en la vista del público, formando una cadena industrial y un modelo de negocio únicos. A pesar de los desafíos actuales como la escasez de GPUs de alta gama, la tendencia de la potencia computacional como servicio ya se ha establecido, y los proveedores de servicios deben prepararse para los cambios del mercado.