Mọi thiên đường AI bắt đầu bằng việc loại bỏ biến số không phù hợp với mô hình. Con người.

Tôi đã đọc lại "Tư duy chết người" của Hayek.
Đó là một cuốn sách ngắn với một luận điểm và ngay bây giờ nó giống như một phản hồi trực tiếp đối với một nửa các đề xuất AI tôi thấy.
Sự cám dỗ luôn ở đó: thiết kế xã hội như một cỗ máy. Mô tả thế giới bằng các phương trình. Loại bỏ phi lý trí. Xây dựng hệ thống hoàn hảo.
Nó hợp lý nếu bạn xuất phát từ vật lý hoặc kỹ thuật. Nếu bạn có thể phân chia nguyên tử và mô tả nó bằng toán học, logic sẽ theo sau: tại sao không phải xã hội? Vũ trụ có các quy luật. Chắc chắn con người cũng vậy.
Đó là lý do đằng sau các nền kinh tế kế hoạch hóa. Cùng một luận điểm, khác thương hiệu, đằng sau các thành phố do AI quản lý.
Vấn đề của Hayek với điều này không phải là toán học. Đó là mô hình về con người. Con người dựa vào truyền thống, bối cảnh địa phương, quy tắc phi chính thức, những mâu thuẫn không bao giờ hoàn toàn giải quyết. Không phải lỗi. Chỉ là bản chất của con người.
Kiến thức trong bất kỳ xã hội nào cũng phân tán. Nó tồn tại trong giá cả, trong các quyết định địa phương, trong các tín hiệu mà một nhà hoạch định trung ương không thể thu thập đầy đủ. Thị trường không phải là một ý thức hệ trong cách diễn giải của Hayek — chúng là cơ chế duy nhất cho phép kiến thức này di chuyển. Tập trung quyền lực, và bạn phá hủy chính xác những gì bạn đang cố gắng tối ưu hóa.
Tôi cứ nghĩ về điều này khi ai đó đề xuất chính sách tiền tệ do AI quản lý, hoặc một hệ thống tài chính nơi con người là một biến đầu vào.
Công nghệ không phải là vấn đề. Những gì các hệ thống này loại bỏ đầu tiên chính là người không phù hợp với mô hình. Đó là nơi chứa đựng thông tin.