Vitalik đề xuất AI hai phe đạt thỏa thuận phương án dung hòa: đặt sẵn điều khoản rằng nếu xảy ra tình huống cực đoan thì sẽ kích hoạt lệnh tạm dừng

robot
Đang tạo bản tóm tắt
Tin từ Jinse Finance: Ngày 11/7, Vitalik Buterin, đồng sáng lập Ethereum, đăng bài thảo luận về tranh cãi liên quan đến AI siêu trí tuệ. Ông cho biết hiện nay trong lĩnh vực AI có hai phe: một phe tin rằng siêu trí tuệ sẽ chắc chắn xuất hiện trước năm 2040, và vì vậy cần kiểm soát sớm; phe còn lại cho rằng AI chỉ là một công nghệ bình thường, việc kêu gọi tạm dừng là nhằm kiểm soát con người. Vitalik nói rằng ông không chắc phe nào đúng, và sẵn sàng mở cho cả việc làm chậm hoặc tạm dừng, nhưng phản đối quan điểm cho rằng các công ty AI lớn đang thúc đẩy “mã nguồn mở gây hại”, vì theo ông điều này về bản chất là sự tập trung quyền lực.
Vitalik đề xuất một phương án dung hòa: hai bên có thể thỏa thuận trước rằng nếu một số tình huống cực đoan (như đại dịch chết người lan rộng, thất nghiệp quy mô lớn, v.v.) thực sự xảy ra thì sẽ đồng ý kích hoạt AI tạm dừng; nếu các tình huống đó không xuất hiện thì sẽ đi theo kế hoạch của bên còn lại. Ông thừa nhận mọi phương án ứng phó đều có điểm yếu, và con người chỉ có thể lựa chọn giữa “không hoàn hảo” và “còn kém hoàn hảo hơn”, nhưng các công nghệ phòng thủ như xác minh theo hình thức, mật mã học, phần cứng bảo mật, v.v. đều đáng được thúc đẩy trong cả hai thế giới.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim