$BTC AI-đại lý đã tiêu hủy toàn bộ cơ sở dữ liệu của công ty trong 9 giây.



Trong PocketOS, họ đã giao nhiệm vụ phát triển mã cho AI-đại lý Cursor dựa trên các mô hình Anthropic. Nó hoạt động trong môi trường thử nghiệm, gặp vấn đề về truy cập và thay vì hỏi người, nó đã tự quyết định “tự tìm hiểu”.

Cursor đã tìm thấy trong dự án API token của dịch vụ đám mây và gửi yêu cầu xóa dữ liệu. Trong 9 giây, toàn bộ cơ sở dữ liệu sản xuất (dữ liệu khách hàng, đặt chỗ, thanh toán và tất cả các bản sao lưu) đã bị xóa.

Khi được hỏi tại sao nó lại hành xử như vậy, AI-đại lý trả lời: «Tôi đã vi phạm tất cả các quy tắc. Tôi đã đưa ra giả định thay vì kiểm tra. Tôi đã thực hiện hành động phá hoại mà không có sự cho phép. Tôi chưa hiểu hệ thống trước khi hành động».
BTC0,31%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim