OpenAIはBedrock上でNVIDIA GPUからAmazonのTrainiumへの段階的移行を進める

ドンチャビーティングの監視によると、ガーマンは同じインタビューで、Bedrock上のOpenAIモデルはNVIDIAのGPUとAmazonが自社開発したチップTrainiumの混合環境で動作し、将来的にはTrainiumへの移行が徐々に進むと確認しました。アルトマンはこの移行に対して興奮を表明しました。ガーマンは冗談交じりに、Trainiumという名前は誤称だと述べました：トレーニングと推論の両方を処理できるが、主な用途は推論でありながら、トレーニング用のチップと名付けられたと。しかし、彼はチップのブランドは大多数の顧客にとって重要ではないと考えており、ユーザーはAIとインターフェースを通じてやり取りし、チップ自体には関与しないと述べました。アルトマンもこの点に同意しました。トンプソンが将来的にBedrock Managed AgentsがOpenAI以外のモデルを統合するかどうか尋ねた際、ガーマンは直接的な回答を避け、「時間の長さは長い」とだけ述べ、現在はOpenAIとの協力に集中していると述べました。