Ảnh hưởng của Trường Khung của Donald Hoffman đến AI


Dưới đây là một tổng hợp tập trung về các ảnh hưởng của AI dựa trên công trình của Hoffman:
1. Các Mô Hình Ngôn Ngữ Lớn Hiện Tại Về Cơ Bản Là Hạn Chế
Hoffman đã tuyên bố rằng các mô hình ngôn ngữ lớn hiện tại “ngớ ngẩn hơn dưa chuột” theo khung của ông.
Tại sao?
- Các mô hình ngôn ngữ lớn hoạt động hoàn toàn trong giao diện không-thời gian (các token văn bản, các mẫu thống kê).
- Chúng không truy cập vào cấu trúc nền tảng của thực tại (các tác nhân có ý thức).
- Chúng tối ưu hóa cho dự đoán trong giao diện của chúng, không phải cho sự hiểu biết thực sự hoặc khả năng hành động.
2. Logic Dấu Vết Đệ Quy (Đề Xuất Thay Thế)
Hoffman đã phát triển một kiến trúc mới gọi là logic dấu vết đệ quy, mà ông tuyên bố là hoàn toàn khác biệt so với các mô hình dựa trên transformer hiện nay.
- Nó dựa trên động lực của các tác nhân có ý thức thay vì việc khớp mẫu thống kê.
- Các mô tả ban đầu cho thấy nó mô hình hóa quá trình quan sát và khả năng hành động đệ quy.
- Ông đã nói rằng một số tên tuổi lớn trong AI tiên phong đã tiếp cận ông về khung này.
3. Ảnh Hưởng Đến Trí Tuệ Nhân Tạo Tổng Quát (AGI)
Nếu quan điểm của Hoffman đúng:
- Mở rộng các kiến trúc hiện tại (nhiều tham số hơn, nhiều dữ liệu hơn) sẽ gặp giới hạn cứng vì chúng vẫn bị mắc kẹt trong giao diện.
- Trí tuệ nhân tạo thực sự sẽ đòi hỏi các kiến trúc có thể mô hình hóa động lực của người quan sát và tương tác của các tác nhân, không chỉ dự đoán token.
- Thể hiện thể chất có thể phần lớn không liên quan — hầu hết ý thức (và do đó trí thông minh) có thể là phi thể chất.
4. Ý Thức Như Rào Cản
Khung của Hoffman gợi ý rằng ý thức không phải là một đặc tính phát sinh của tính toán phức tạp. Thay vào đó:
- Ý thức là nền tảng.
- AI hiện tại thiếu nền tảng ontological phù hợp (nó mô hình hóa các biểu tượng, không phải các tác nhân đằng sau chúng).
Điều này là một thách thức trực tiếp đối với cả giả thuyết mở rộng quy mô và nhiều lý thuyết hiện tại về ý thức trong nghiên cứu AI.
---
Bạn có muốn tôi mở rộng về bất kỳ điểm nào trong số này, so sánh quan điểm của Hoffman với các nhà tư tưởng AI/ý thức khác, hoặc tiếp tục với tổng hợp nghiên cứu rộng hơn không?
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim