OpenAI sẽ dần chuyển đổi từ GPU của NVIDIA sang Trainium của Amazon trên Bedrock

Theo giám sát của Dongcha Beating, Garman xác nhận trong cùng một cuộc phỏng vấn rằng các mô hình của OpenAI trên Bedrock sẽ hoạt động trong một môi trường hỗn hợp của GPU NVIDIA và chip tự phát triển của Amazon là Trainium, với sự chuyển đổi dần sang Trainium trong tương lai. Altman bày tỏ sự phấn khích về sự chuyển đổi này. Garman đùa rằng tên gọi Trainium là một sự đặt tên không chính xác: mặc dù nó có thể xử lý cả huấn luyện và suy luận, mục đích chính vẫn là suy luận, nhưng nó lại được gọi là chip huấn luyện. Tuy nhiên, ông tin rằng thương hiệu chip không quan trọng đối với phần lớn khách hàng, vì người dùng tương tác với AI qua giao diện, không phải qua chính chip. Altman đồng ý với quan điểm này. Khi Thompson hỏi liệu các Đại lý Quản lý Bedrock có tích hợp các mô hình ngoài OpenAI trong tương lai hay không, Garman không đưa ra câu trả lời trực tiếp, chỉ nói rằng hiện tại họ đang tập trung hợp tác với OpenAI, và ‘thời gian đầy đủ là một quãng thời gian dài’.