torygreen

Tôi đã suy nghĩ về tin tức GLM 5.2 gần đây và góc nhìn về trọng số mở mà mọi người đang khai thác nhưng họ đang bỏ lỡ một góc nhìn hoàn toàn khác ở đây.
Mọi người đang tập trung vào việc một phòng thí nghiệm Trung Quốc đã đạt hiệu suất ngang tầm tiên phong và mã nguồn mở nó, nhưng phần đáng để suy ngẫm là cách thức.
ZAI và các phòng thí nghiệm Trung Quốc khác đã bị cắt đứt khỏi Nvidia vào đầu năm 2025, vì vậy có lẽ không có H100, H200 nào được trực tiếp chuyển đến họ kể từ đó.
Họ đã vượt qua $128B trên một mô hình được huấn luyện trên silicon của Trung Quốc, đạt được hiệu suất chỉ kém tiên ph

Tôi không ngờ con số năm năm của Goldman lại lớn đến vậy.
Năm nhà siêu quy mô dự kiến sẽ chi 5,3 nghìn tỷ đô la cho hạ tầng AI từ năm 2025 đến 2030.
Trong năm 2022, họ đã chi $162B tổng cộng.
Năm nay, họ đang trên đà đạt 725 tỷ đô la.
Đến năm 2027, các nhà phân tích dự đoán sẽ đạt 1 nghìn tỷ đô la trong một năm.
Đối với bất kỳ ai xây dựng sản phẩm hoặc hạ tầng AI ngoài năm bảng cân đối này, quỹ đạo này là con số quan trọng nhất trong giả định lập kế hoạch của bạn.
Khoảng cách giữa những gì họ có thể triển khai và những gì mọi người khác có thể truy cập sẽ cộng dồn mỗi năm khi quá

IPO công nghệ lớn nhất của thập kỷ 2000 là Visa với 28 tỷ đô la. Lớn nhất của thập kỷ 2010 là Alibaba với 168 tỷ đô la. Gần 6 lần mỗi thập kỷ.
Bây giờ mở rộng dòng này. OpenAI và Anthropic mỗi cái đều đứng ở $1T ngay cả trước khi niêm yết.
Nếu cộng tất cả các màn ra mắt công nghệ lớn nhất trong 25 năm qua. Alibaba, Facebook, Uber, Rivian, Snowflake, Palantir, Cerebras, CoreWeave, tất cả chúng. Bạn sẽ có khoảng 800 tỷ đô la.
Chỉ riêng OpenAI + Anthropic đã trị giá gần 2 nghìn tỷ đô la. Vẫn còn tư nhân. Gấp 2,5 lần tổng số các đợt phát hành lớn nhất của Wall Street trong một phần tư thế kỷ, cộng

Trong phần lớn lịch sử, vốn đã mở rộng qua các máy móc.
Bây giờ nó mở rộng qua nhận thức.
Một công ty khởi nghiệp có thể thức dậy với số lượng tương đương hàng triệu nhà phân tích, nhà nghiên cứu, lập trình viên và chiến lược gia hoạt động song song với chi phí cận biên gần như bằng không.
Cuộc cách mạng AI khác biệt so với bất kỳ cuộc cách mạng kỹ thuật nào trước đây.

Bạn không thể nâng cấp một hiến chương mở và coi phần mở rộng là tùy chọn khi tiền xuất hiện
Phiên tòa bắt đầu bằng một câu hỏi: liệu bạn có thể cấp phép cho một tổ chức phi lợi nhuận, gọi OpenAI là sứ mệnh của bạn, thu hút 10 năm kỹ sư theo sứ mệnh và vốn quyên góp dựa trên lời hứa đó, rồi sau đó chuyển đổi sang cấu trúc giới hạn lợi nhuận và gọi đó là một sự tiến hóa?
Elon rời OpenAI vào năm 2018. Số tiền $130b anh ấy yêu cầu bồi thường sẽ chuyển đến tổ chức phi lợi nhuận. Dù bạn nghĩ gì về anh ấy như một người kiện tụng, câu hỏi mà vụ kiện buộc vào hồ sơ tòa án là câu hỏi đúng: liệu một qu

nvidia bây giờ lớn hơn toàn bộ nền kinh tế của Nhật Bản và hóa đơn AI của bạn là lý do
mỗi đô la bạn chi tiêu cho AI ngay bây giờ đều đi qua chip của một công ty, trên ba đám mây bán lại với mức giá cao hơn
> các startup AI tiêu tốn khoảng 80% vốn huy động chỉ để thuê tính toán
> tôi đã thấy các nhóm giai đoạn hạt giống trả 700 nghìn đô la mỗi tháng cho một nhà cung cấp chip duy nhất
> các trung tâm dữ liệu hoạt động ở mức 12-18% công suất trong khi hóa đơn của bạn tăng mỗi quý
toàn ngành vừa đồng ý xếp hàng và đưa tiền cho cùng một trạm thu phí
có tính năng tính toán nhàn rỗi trong các bộ máy

đám đông cho rằng AI đã quá phát triển chưa từng cố gắng mua h100 trong quý này
dành một tuần để cố gắng mua h100 ngay bây giờ có nghĩa là: cam kết 12 tháng tại aws ( sử dụng 24/7 đã khóa trước khi bạn thấy một GPU nào, danh sách chờ gcp không có ETA, lambda và coreweave đều đã bán hết, mọi nhà cung cấp nhỏ hơn đều đưa ra cùng một câu trả lời bằng những từ khác nhau
việc xây dựng hyperscaler được đo bằng năm, thiếu hụt CPU đang làm chậm các GPU tồn tại, và nhu cầu vẫn tiếp tục tăng trong khi các hyperscaler đang nộp giấy phép
đội ngũ AI giai đoạn seed đang dành 70-80% quỹ thời gian của họ cho

Rõ ràng Nvidia đã âm thầm thăm các công ty thiết bị điện của Hàn Quốc, yêu cầu họ thiết kế lại hạ tầng trung tâm dữ liệu dựa trên kiến trúc DC 800V.
Đó là một thừa nhận rằng mô hình AI tập trung đã gặp phải một bức tường vật lý, mỗi thế hệ chip mới đều kéo theo việc nâng cấp trạm biến áp mới ở đâu đó trong hệ thống.
Các trung tâm dữ liệu toàn cầu đã hoạt động với mức sử dụng từ 12 đến 18 phần trăm.
Các trang trại khai thác tiền điện tử có GPU mạnh mẽ nằm không hoạt động kể từ khi Ethereum hợp nhất.
Các hệ thống chơi game tiêu dùng với 4090 nằm không sử dụng trên bàn suốt cả ngày.
Thi

rất nhiều người vẫn đang xây dựng kiến trúc dựa trên một phụ thuộc tính toán đã biến mất khỏi thực tế
ví dụ, qwen3 32b hiện đang hoạt động trên các GPU cộng đồng phân tán, phân đoạn pipeline chạy trên các nút không có kiểm soát của một nhà điều hành duy nhất, suy luận không cần phép phép trên internet mở
ba lớp, tất cả đều mở: trọng số mở (alibaba đã phát hành chúng), tính toán không cần phép (cộng đồng phần cứng, không có quyền kiểm soát), truyền tải mở (không có cụm riêng tư, không có cổng API kiểm soát). quyền sở hữu không áp dụng cho bất kỳ lớp nào trong số đó
mô hình tư duy rằng suy luận

google cloud next bắt đầu trong tuần này và mọi người hưng phấn về các nhà siêu máy tính đều sắp ăn mừng chính xác bước đi mà về mặt lịch sử đã giết lợi nhuận của họ từ lâu: google đã trả cho nvidia một khoản phí chênh lệch trên mỗi h100. lợi nhuận chảy về santa clara.
bây giờ: google đang đàm phán với marvell về chip tùy chỉnh cùng với một biến thể TPU mới dành riêng cho suy luận. khoản đầu tư capex đang chuyển vào nội bộ.
amazon đã làm điều đó với graviton vào năm 2018. microsoft công bố maia vào năm 2023. mỗi lần, nhà siêu máy tính ngừng trả phí chênh lệch cho nhà cung cấp của họ vì kho