OpenAI pasará gradualmente de GPUs de NVIDIA a Trainium de Amazon en Bedrock

Según la monitorización de Dongcha Beating, Garman confirmó en la misma entrevista que los modelos de OpenAI en Bedrock operarán en un entorno mixto de GPUs de NVIDIA y el chip desarrollado por Amazon, Trainium, con un cambio gradual hacia Trainium en el futuro. Altman expresó entusiasmo por esta transición. Garman bromeó diciendo que el nombre Trainium era un término equivocado: aunque puede manejar tanto entrenamiento como inferencia, el caso de uso principal seguirá siendo la inferencia, pero fue nombrado un chip de entrenamiento. Sin embargo, él cree que la marca del chip no es importante para la gran mayoría de los clientes, ya que los usuarios interactúan con la IA a través de una interfaz, no del chip en sí. Altman estuvo de acuerdo con este punto. Cuando Thompson preguntó si los Agentes Gestionados de Bedrock integrarían modelos más allá de OpenAI en el futuro, Garman no dio una respuesta directa, diciendo solo que actualmente están enfocados en colaborar con OpenAI, y que “la plenitud del tiempo es un largo tiempo”.