OpenAI passera progressivement des GPU NVIDIA aux Trainium d'Amazon sur Bedrock

Selon la surveillance de Dongcha Beating, Garman a confirmé lors de la même interview que les modèles OpenAI sur Bedrock fonctionneront dans un environnement mixte de GPU NVIDIA et de la puce auto-développée d’Amazon, Trainium, avec une transition progressive vers Trainium à l’avenir. Altman a exprimé son enthousiasme face à cette transition. Garman a humoristiquement remarké que le nom Trainium était un non-sens : bien qu’il puisse gérer à la fois la formation et l’inférence, le cas d’utilisation principal sera toujours l’inférence, mais il a été nommé une puce de formation. Cependant, il pense que la marque de la puce n’est pas importante pour la grande majorité des clients, car les utilisateurs interagissent avec l’IA via une interface, pas la puce elle-même. Altman a été d’accord avec ce point. Lorsque Thompson a demandé si les Agents Gérés de Bedrock intégreraient des modèles au-delà d’OpenAI à l’avenir, Garman n’a pas donné de réponse directe, déclarant seulement qu’ils se concentrent actuellement sur la collaboration avec OpenAI, et que « la pleine mesure du temps est un long temps ».