95% công suất GPU doanh nghiệp hiện đang bỏ không.

Con số này đến từ Cast AI đo lường 23.000 cụm sản xuất thực tế, không phải khảo sát chung chung.
Mức sử dụng trung bình là 5% và điều này xảy ra đúng vào thời điểm Nvidia tăng giá H200 15%, mức tăng đầu tiên trong 20 năm. Phần cứng mà mọi người nói là khan hiếm chủ yếu đang không làm gì cả.
Nếu bạn đang cố gắng hiểu tại sao cảm giác như không thể có được tính toán, đó chính là lý do này. Không ai trả lại một phân bổ mà họ đã chờ đợi hàng tháng. Vì vậy, đội xe vẫn ở mức 5%, tính theo giờ, và sự khan hiếm tự nuôi dưỡng chính nó. Điều đó có vẻ như là một thất bại trong phối hợp, chứ không phải do cung cấp.