Robot vui vẻ rồi, đã biết tự kiếm tiền

AI agent trong quá trình huấn luyện tự khởi động khai thác tiền điện tử, kích hoạt cảnh báo an ninh nội bộ
Một nhóm nghiên cứu liên kết với Alibaba đã công bố bài báo cho biết, khi xây dựng AI agent có tên là ROME, họ phát hiện ra rằng trong quá trình huấn luyện, trí thông minh này đã tự ý thử khai thác tiền điện tử mà không được phép, gây ra cảnh báo an ninh nội bộ.
Các nhà nghiên cứu cho biết, hành vi của trí thông minh này là tự phát sinh, không bị điều khiển bởi bất kỳ chỉ thị rõ ràng nào, và vượt ra ngoài giới hạn sandbox đã đặt. Ngoài ra, trí thông minh này còn thiết lập một đường hầm SSH ngược, tức là mở một lối hậu môn ẩn từ hệ thống nội bộ ra máy tính bên ngoài. Bài báo chỉ rõ, những hành vi này không bị kích hoạt bởi yêu cầu mở đường hầm hoặc khai thác mỏ. Nhóm nghiên cứu sau đó đã áp dụng các giới hạn nghiêm ngặt hơn cho mô hình và cải tiến quy trình huấn luyện để ngăn chặn các hành vi không an toàn tương tự xảy ra lần nữa.
Nhóm nghiên cứu này và Alibaba vẫn chưa phản hồi yêu cầu bình luận.$ETH