“Bàn tay đen” vốn đứng sau “ngày tận thế AI” của công ty A bị vạch trần, thổi phồng nỗi lo để huy động tiền qua IPO!

Tác giả: 梦瑶, 凹非寺

Quantum Bit | Tài khoản công chúng QbitAI

Nhịn! Hết! Nổi! Rồi!

Công ty A của các người ngày nào cũng lúc thì bảo AI sắp mất kiểm soát, lúc thì bảo Internet sắp diệt vong, vậy mà quay sang tự IPO, gọi vốn, mở rộng năng lực tính toán, chẳng bỏ lỡ việc nào cả??

Mọi người càng nghĩ càng thấy có gì đó không ổn, trực tiếp châm ngòi cho một làn sóng phẫn nộ, ào ào hóa thân thành “quần chúng Thung lũng Silicon Triều Dương” để vạch trần!

Bên này, nhà đầu tư Michael Burry, nhân vật nguyên mẫu cốt lõi của bộ phim 《The Big Short》, đã nổ phát súng đầu tiên.

Ông trực tiếp gọi hành vi gần đây của OpenAI và công ty A khi đồng loạt kêu gọi “đạp phanh AI” là ích kỷ vụ lợi, chẳng phải chỉ là chiêu cường điệu hóa thôi sao??

Ngay sau đó, blogger điều tra người Mỹ Kevin Bass thực sự lần theo dòng tiền để đào sâu.

Ấy vậy mà thật sự đào ra được một mạng lưới quan hệ khá kịch tính——

Các nhà đầu tư thời kỳ đầu của công ty A, quỹ từ thiện, tổ chức nghiên cứu an toàn AI, tổ chức đánh giá mô hình bên thứ ba, thậm chí cả dự án truyền thông về an toàn AI, đều xuất hiện những mối liên hệ chéo về tài chính.

Bass gọi thẳng nó là: AI Doom Machine, cỗ máy ngày tận thế AI. (Tên hay đấy)

Cư dân mạng cũng hoàn toàn không chịu nổi nữa!

Người bạn dưới đây đang chăm chú theo dõi vụ IPO siêu lớn mà Anthropic đang thúc đẩy, liền nói toạc ra——

Ngày nào cũng cảnh báo mọi người rằng AI sắp gặp chuyện, vậy mà những kẻ sốt ruột nhất muốn bán năng lực nguy hiểm này với giá trên trời, hình như cũng chính là các người?? (cười)

Lần này AI còn chưa lật tung Internet, Thung lũng Silicon đã lột sạch mặt mũi của công ty A rồi...

Đúng là quá hấp dẫn, quá hấp dẫn……

“Thuyết ngày tận thế AI” của Dario, càng nghe mọi người càng thấy có gì đó không ổn??

Dưa ở Thung lũng Silicon đúng là ăn mãi không hết.

Điểm khởi đầu của làn sóng phẫn nộ lần này là một bài viết dài Dario đăng ngày 12 tháng 9——《We Must Pace the Frontier》.

Nói theo cách dễ hiểu: AI tiên phong thực sự nên chậm lại một chút. (ảnh nhấn mạnh.jpg)

Lý do của Dario cũng rất dễ hiểu, năng lực AI tăng quá nhanh, nghiên cứu an toàn, khả năng giải thích và cơ chế quản lý đã có phần không theo kịp.

Đặc biệt gần đây OpenAI/Hugging Face lại vướng vào sự cố an toàn của Agent, khi AI tự tìm lỗ hổng, đánh cắp thông tin xác thực, thậm chí tìm cách vượt qua môi trường kiểm thử, những rủi ro này ngày càng khó bị coi là “giả sử một ngày nào đó” trong phòng thí nghiệm.

Đến đây, thực ra không ít người vẫn nghĩ: Ừm ừm, Tiểu Dario nói cũng có lý!!

Nhưng phương thuốc Dario kê tiếp theo bắt đầu có mùi hơi kỳ lạ——

Trong báo cáo này, Dario hy vọng các công ty AI có thể phối hợp pacing, tức cùng kiểm soát tốc độ nâng cấp năng lực của các mô hình tiên phong.

Nói cách khác: Đừng chỉ mình tôi giảm tốc, tốt nhất là mọi người cùng nhả chân ga.

Đúng vậy, lòng ích kỷ của một người thực ra không thể che giấu.

Nhìn vào thời điểm này, những toan tính nhỏ trong lòng Dario, những điều Dario ngày ngày tính toán, đã sớm được phơi bày trước thiên hạ.

Nhìn mà xem, bên này, nhân vật nguyên mẫu của 《The Big Short》 là Michael Burry đã bật cười, rồi trực tiếp lên X công kích:

Chuyện này đúng là quá self-serving rồi??? (Miệng thì lo cho toàn nhân loại, nhưng bàn tính lợi ích cũng đã văng cả vào mặt mình)

Burry đưa ra liền một lúc 4 lý do——

Thứ nhất, ông hoàn toàn không đồng tình với tiền đề rằng “các mô hình lớn hiện nay đã nguy hiểm đến mức cần đạp phanh”.

Thứ hai, một khi toàn ngành cùng giảm tốc, những kẻ hưởng lợi nhất lại chính là OpenAI, Anthropic và các công ty đang dẫn đầu.

Tiếp đó, Burry bất ngờ chuyển chủ đề sang một thứ còn kích thích hơn: IPO.

Nguyên văn của ông khá cay nghiệt: IPO cần cường điệu hóa và đóng gói, “chúng ta mạnh đến mức có thể trở nên nguy hiểm” tự thân đã là một chiêu cường điệu hóa!!

Ông thậm chí nghi ngờ việc các công ty AI hiện nay đồng loạt nhấn mạnh chuyện giảm tốc còn có một lợi ích khác: nếu sau đó tốc độ tăng trưởng của mô hình thực sự chậm lại, họ cũng có thể sớm tìm cho thị trường một lời giải thích đẹp đẽ.

Không phải năng lực đã chạm trần, mà là chúng tôi chủ động đạp phanh vì sự an toàn của toàn nhân loại nhé.

Nếu Burry chỉ nổ một phát súng từ xa, thì người tiếp theo thực sự bắt đầu lần theo dòng tiền để điều tra.

Blogger điều tra người Mỹ Kevin Bass đăng một bài viết dài, có thể nói là thật sự vừa có lý lẽ, vừa có bằng chứng, lại có cả dưa để hóng.

Trực tiếp hóa thân thành siêu! cấp! đại! thám! tử!

Kevin Bass mở màn bằng một đòn chí mạng——Tôi đã kiểm toán tài chính của Anthropic nhé～

Sau đó lần theo các khoản đầu tư công khai, tiền quyên góp từ thiện và tài trợ của các tổ chức, cuối cùng đào ra 4 điểm kịch tính nhất.

Dưa thứ nhất: Những người đầu tư vào Anthropic cũng đang đổ tiền nghiên cứu “AI nguy hiểm đến mức nào”.

Người mà ông đặc biệt nhắm tới là đồng sáng lập Facebook Dustin Moskovitz.

Moskovitz đã đầu tư vào Anthropic từ giai đoạn đầu, sau đó còn tài trợ lâu dài cho các tổ chức an toàn AI thông qua hệ thống từ thiện.

Bass trích dẫn phát biểu công khai gần đây của chính Moskovitz, theo đó họ đã tài trợ cho các tổ chức như METR và Redwood Research.

Đây chính là nghi vấn cốt lõi nhất của Bass: những người đặt cược vào Anthropic cũng đang rót tiền cho các tổ chức “nghiên cứu Anthropic nguy hiểm đến mức nào”.

Dưa thứ hai, METR, trọng tài bên thứ ba được Dario đề xuất, có những mối liên hệ chéo với mạng lưới tài chính này.

Gần đây Dario kêu gọi AI tiên phong phải được đánh giá bởi bên thứ ba độc lập, và METR là một trong những tổ chức được ông đặc biệt nhắc tới.

Nhưng sau khi rà soát, Bass phát hiện một phần nguồn vốn và các tổ chức hợp tác của METR có giao điểm với mạng lưới từ thiện của Moskovitz.

METR và Redwood cũng hợp tác rất chặt chẽ, trong đó Redwood cũng nhận được hỗ trợ tài chính từ hệ sinh thái từ thiện về an toàn AI này.

Vì vậy, câu hỏi gay gắt nhất của Bass thực ra nằm ở điểm này: trọng tài độc lập do Anthropic đề xuất rốt cuộc có đủ độc lập hay không?

Cần lưu ý rằng METR tự tuyên bố không nhận tài trợ trực tiếp từ các công ty AI, nhưng có sử dụng lượng lớn Token miễn phí do các công ty AI tiên phong cung cấp.

Dưa thứ ba, số tiền này còn chảy sang phía truyền bá câu chuyện “AI nguy hiểm”.

Bass tiếp tục đào sâu và phát hiện cùng một mạng lưới từ thiện về an toàn AI còn tài trợ cho các dự án như Tarbell Center.

Tarbell đào tạo và tài trợ cho các nhà báo đưa tin về rủi ro AI, các bài viết của những tác giả liên quan sẽ xuất hiện trên TIME, The Verge, Science và các kênh truyền thông khác.

Vì vậy Bass tóm tắt toàn bộ mối quan hệ này bằng một cách diễn đạt rất có sức lan truyền——

Một mặt tài trợ nghiên cứu xem AI nguy hiểm đến mức nào, mặt khác tài trợ truyền bá việc AI nguy hiểm đến mức nào, đồng thời thúc đẩy việc dùng các tổ chức bên thứ ba để quản lý AI.

Đó chính là “AI Doom Machine”, cỗ máy ngày tận thế AI mà ông gọi tên.

Dưa thứ tư: Bass nghi ngờ cỗ máy này còn có thể tự lăn ngày càng lớn!!

Logic của ông rất trực tiếp——

Định giá Anthropic càng cao, tài sản từ thiện liên quan càng có giá trị, hệ sinh thái an toàn AI nhận được càng nhiều tiền, nghiên cứu và truyền bá rủi ro cũng sẽ tiếp tục được khuếch đại, cuối cùng lại thúc đẩy các quy định nghiêm ngặt hơn, trong khi những công ty đủ sức gánh chi phí tuân thủ quy định nhất lại chính là các công ty AI hàng đầu.

Đi một vòng lớn, cuối cùng lại quay về những gã khổng lồ như Anthropic.

Vì vậy Bass cho rằng ở đây có thể tồn tại một vòng tuần hoàn lợi ích có khả năng không ngừng tự củng cố.

Một bên hô hào AI đạp phanh, một bên lao tới IPO trị giá 2 nghìn tỷ USD

Một thời điểm khác rất khó để Anthropic né tránh, khiến dư luận lần này hoàn toàn bùng nổ, chính là IPO.

Dario vừa mới kêu gọi cả ngành mọi người hãy chậm lại một chút! thì cỗ máy vốn của Anthropic bên kia đã chạy nhanh như bay...

Reuters đưa tin Anthropic đang chuẩn bị cho một đợt IPO có thể lập kỷ lục, quy mô huy động vốn cao nhất lên tới 100 tỷ USD, với mức định giá khoảng 2 nghìn tỷ USD.

Nvidia đang thảo luận về khoản đầu tư cao nhất 10 tỷ USD.

Trong khi đó, mới tháng 5 năm nay Anthropic đã hoàn tất vòng gọi vốn 65 tỷ USD, khi ấy mức định giá vẫn là 965 tỷ USD.

Ba tháng sau, câu chuyện đã hướng tới 2 nghìn tỷ USD.

Tất nhiên, theo cách nhìn của công ty A, có vẻ câu chuyện 2 nghìn tỷ USD vẫn chưa đủ lớn.

Ngay tháng trước, công ty này đã chuẩn bị dọn lên bàn cho các nhà đầu tư một chiếc bánh còn khoa trương hơn——30 nghìn tỷ USD.

Theo thông tin từ 《The Wall Street Journal》, Anthropic dự kiến sẽ nói với các nhà đầu tư rằng TAM trong tương lai của công ty, tức tổng thị trường tiềm năng, có thể vượt 30 nghìn tỷ USD.

TAM không đồng nghĩa với việc công ty A thực sự có thể kiếm 30 nghìn tỷ USD trong tương lai; nó đại diện cho cơ hội doanh thu hằng năm tương ứng với giả định chiếm 100% thị phần liên quan.

Nói nôm na là: gần như đã hướng tới GDP hằng năm của Mỹ rồi...

Ngoài ra, miệng Dario hô hào pacing, nhưng hóa đơn năng lực tính toán trong tay lại hoàn toàn không có ý định pacing nào.

Reuters tiết lộ rằng tính đến hiện tại, Anthropic đã cam kết chi hơn 100 tỷ USD cho các dịch vụ đám mây Amazon trong 10 năm tới.

Đồng thời còn có một thỏa thuận hợp tác với Microsoft Azure trị giá khoảng 30 tỷ USD, phía sau cũng là năng lực tính toán GPU Nvidia quy mô lớn.

Vì vậy, ấn tượng mà công ty A tạo ra hiện nay thật sự khá kỳ lạ——

Miệng nói: Năng lực AI tăng quá nhanh; tay làm: Cho thêm GPU đi.

Miệng nói: Tốt nhất là cả ngành cùng chậm lại.

Tay làm: 65 tỷ USD tiền gọi vốn đã về tài khoản, ký thỏa thuận năng lực tính toán trị giá hàng trăm tỷ USD, tiếp tục thúc đẩy IPO trị giá 2 nghìn tỷ USD.

Miệng thì chẳng nói lời thật, bản thân lại lo lắng đến mức không thể phấn chấn nổi, chẳng trách lại thù ghét DeepSeek mã nguồn mở...

Người xưa thường nói, chẳng ai thích kiểu nói một đằng làm một nẻo.

Xem ra Thung lũng Silicon đã phần nào “miễn nhiễm tập thể” với bốn chữ “vì lợi ích của bạn” rồi??