Thiếu hụt GPU tái diễn: Các nhà cung cấp đám mây thắt chặt nguồn cung, các công ty khởi nghiệp AI đối mặt với mức tăng 32% giá thuê chip và thời gian chờ đợi kéo dài đến cuối năm

Theo giám sát của Beating, một số startup AI đã báo cáo rằng các nhà cung cấp đám mây như Microsoft và Amazon đang tập trung sức mạnh tính toán GPU cho các nhóm nội bộ và khách hàng lớn (chẳng hạn như OpenAI và Anthropic), khiến các khách hàng nhỏ đến vừa phải đối mặt với việc tăng giá, thời gian chờ đợi lâu và điều khoản hợp đồng nghiêm ngặt hơn. Gần đây, bộ phận quản lý bán hàng của Azure của Microsoft đã thông báo cho nhân viên rằng thời gian chờ GPU cho khách hàng đám mây dự kiến sẽ kéo dài đến cuối năm 2026. Một trường hợp cụ thể liên quan đến startup tạo hình ảnh Krea (đã huy động được $83 triệu đô la, với các nhà đầu tư bao gồm Andreessen và Bain Capital Ventures), đã thuê hàng trăm chip Blackwell với giá 2,80 đô la mỗi thẻ mỗi giờ sáu tháng trước theo hợp đồng sáu tháng. Khi đến thời điểm gia hạn, một số nhà cung cấp đám mây không trả lời cuộc gọi, và thỏa thuận cuối cùng được ký với giá 3,70 đô la/giờ, tăng 32%, hợp đồng được gia hạn thêm một năm. CEO Victor Perez cho biết một số nhà cung cấp không phản hồi hoàn toàn, trong khi những nhà khác chỉ tham gia thảo luận cho các hợp đồng ba năm. Will Falcon, CEO của nhà cung cấp GPU đám mây Lightning AI, tiết lộ rằng công ty có 40.000 GPU trực tuyến, nhưng tổng nhu cầu từ khoảng 40 khách hàng trong hàng chờ đạt tới 400.000 GPU, với giá thuê tăng hơn 25% trong vòng sáu tháng. Microsoft áp dụng quản lý theo cấp độ cho quyền truy cập GPU: khoảng 1.000 khách hàng lớn nhất (Tier 1) được ưu tiên; các khách hàng nhỏ hơn muốn thuê chip Blackwell phải cam kết ít nhất 1.000 đơn vị trong ít nhất một năm, với hợp đồng bắt đầu từ hàng chục triệu đô la. Khách hàng thanh toán theo mức sử dụng có thể bị Microsoft thu hồi quyền truy cập nếu GPU của họ bị bỏ không trong nhiều giờ. Các startup tham gia chương trình hạn mức miễn phí ‘Microsoft for Startups’ cũng đã được thông báo rằng việc sử dụng không đủ sẽ dẫn đến việc rút quyền truy cập GPU. Hemant Taneja, đối tác tại General Catalyst, đã khảo sát các công ty trong danh mục đầu tư về các nút thắt về sức mạnh tính toán, và công ty đang lên kế hoạch tạo ra một bể tính toán chung hoặc đàm phán tập thể cho các công ty đã đầu tư. Một số startup bắt đầu xem xét mua GPU trực tiếp: startup AI Collide trong ngành dầu khí dự định chi khoảng 500.000 đô la để mua trực tiếp GPU NVIDIA và thuê không gian trung tâm dữ liệu để vận hành độc lập, nhằm tránh hàng đợi và những bất ổn.