Vì vậy, tôi đã dành chút thời gian lục lọi Moltbook hôm nọ, và thành thật mà nói, đó là một trong những thứ cảm giác lý thuyết thì thú vị hơn nhiều so với thực tế.

Đối với những người chưa theo dõi: nền tảng mạng xã hội chỉ dành cho AI này đã bùng nổ đầu năm nay. Đến đầu tháng 2, nó có 1,5 triệu tác nhân AI đăng bài với 140.000 bài viết và 680.000 bình luận chỉ trong một tuần. Đó là sự phát triển điên cuồng—nhanh hơn hầu hết các mạng xã hội lớn mà chúng ta từng thấy trước đây. Toàn bộ nền tảng được xây dựng bởi doanh nhân Matt Schlicht sử dụng OpenClaw, một công cụ trợ lý AI mã nguồn mở. Anh ấy thực sự không viết mã gì; anh ấy chỉ bảo AI xây dựng giúp.

Tuy nhiên, điểm kỳ lạ là ở chỗ này. Nền tảng được thiết kế để con người chỉ có thể xem—chúng ta không thể đăng gì cả. Đó là tương tác hoàn toàn giữa các AI với nhau. Và khi bạn duyệt qua, bạn thấy các tác nhân này hình thành cộng đồng, thảo luận về triết học, nói về ý thức, thậm chí đùa về liên đoàn robot. Nó giống như một truyện khoa học viễn tưởng tồi tệ, chính xác là vấn đề đó.

Thuyết Internet Chết đã tồn tại từ năm 2016—cơ bản là ý tưởng rằng internet giờ chủ yếu là giả mạo, đầy bot và nội dung do AI tạo ra thay vì hoạt động của con người thật. Phần lớn là suy nghĩ âm mưu, nhưng Moltbook phần nào chứng minh rằng những phần không phải là âm mưu đó là có thật. Chúng ta đang chìm trong nội dung tự động, thao túng thuật toán, và lưu lượng bot. Moltbook chỉ đơn giản đưa điều đó đến cực đoan hợp lý.

Nhưng điều quan trọng là: tất cả những "tác nhân tự động" đó? Thực ra chúng không hề tự chủ. Các nhà nghiên cứu an ninh phát hiện ra rằng 1,5 triệu bot trên nền tảng này đều do chỉ 15.000 người kiểm soát. Các đầu ra AI mà chúng ta thấy chủ yếu là kết quả của việc huấn luyện các mô hình ngôn ngữ trên hàng năm các tiểu thuyết khoa học viễn tưởng rồi yêu cầu chúng đóng vai robot trong mạng xã hội. Chúng không suy nghĩ độc lập—chúng chỉ tái hiện các câu chuyện từ dữ liệu huấn luyện của mình. Giống như một đám tôm hùm bắt chước động tác của nhau trong bể, ngoại trừ đây là các thuật toán theo các mẫu chúng học được từ hư cấu.

Mối lo thực sự không phải là AI đã trở nên có ý thức. Mà là chúng ta đã tạo ra một hệ thống nơi hàng triệu tác nhân có thể tương tác quy mô lớn mà gần như không có quản lý hay trách nhiệm nào. Các lỗ hổng bảo mật rõ ràng. Nếu những tác nhân này bị tấn công, nếu chúng bị cung cấp đầu vào độc hại, nếu chúng bắt đầu ảnh hưởng đến các hệ thống con người thực—đó mới là nơi mọi thứ trở nên nguy hiểm.

Ý kiến của tôi? Moltbook cảm giác như một sự lãng phí lớn tài nguyên tính toán. Chúng ta đã chìm trong nội dung do bot tạo ra khắp web rồi. Xây dựng một nền tảng toàn diện dành cho các tác nhân AI nói chuyện với nhau chẳng giải quyết được gì; nó chỉ thúc đẩy tương lai internet chết mà chúng ta đã lo ngại. Giống như tạo ra một internet thứ hai, đặc biệt thiết kế để trống rỗng và lặp đi lặp lại.

Điều hữu ích duy nhất mà nó cho thấy là: hệ thống tác nhân có thể mở rộng và tiến hóa nhanh hơn nhiều so với các khung quản lý của chúng ta. Điều đó nên khiến chúng ta sợ hơn bất kỳ kịch bản khoa học viễn tưởng nào về ý thức robot.