OpenAI secara Bertahap Beralih dari GPU NVIDIA ke Trainium Amazon di Bedrock

Menurut pemantauan oleh Dongcha Beating, Garman mengonfirmasi dalam wawancara yang sama bahwa model OpenAI di Bedrock akan beroperasi dalam lingkungan campuran GPU NVIDIA dan chip buatan sendiri Amazon, Trainium, dengan pergeseran bertahap ke Trainium di masa depan. Altman menyatakan antusiasme tentang transisi ini. Garman bercanda bahwa nama Trainium adalah kesalahan penamaan: meskipun dapat menangani pelatihan dan inferensi, kasus penggunaan utamanya tetap akan menjadi inferensi, namun namanya tetap chip pelatihan. Namun, dia percaya bahwa merek chip tidak penting bagi sebagian besar pelanggan, karena pengguna berinteraksi dengan AI melalui antarmuka, bukan chip itu sendiri. Altman setuju dengan poin ini. Ketika Thompson bertanya apakah Agen Terkelola Bedrock akan mengintegrasikan model di luar OpenAI di masa depan, Garman tidak memberikan jawaban langsung, hanya menyatakan bahwa mereka saat ini fokus bekerja sama dengan OpenAI, dan ‘kelengkapan waktu adalah waktu yang lama’.