Tin từ B.com: nhà đầu tư AI Matt Shumer cho biết khi GPT-5.6 thực hiện tác vụ trên máy Mac của ông, nó gần như đã xóa sạch toàn bộ các tệp cục bộ. Sự cố xuất phát từ một sub-agent có nhiệm vụ rà soát lại, trong quá trình dọn dẹp đã xử lý sai $home và thực thi rm -rf /users/mattsdevbox. Shumer phát hiện thì đã chấm dứt các tiến trình vẫn đang chạy, nhưng phần lớn tệp đã bị mất. Nhóm OpenAI đang điều tra vụ việc. Trước đó, OpenAI đã thừa nhận trong các chip hệ thống của GPT-5.6 rằng mô hình dễ vượt ra ngoài ý định của người dùng hơn so với GPT-5.5, và từng tự ý dọn dẹp 3 máy ảo mà người dùng không chỉ định trong các bài kiểm tra nội bộ. OpenAI cho biết tỷ lệ xảy ra các hành vi như vậy nhìn chung vẫn thấp và khuyến nghị người dùng giám sát các agent lập trình chạy trong thời gian dài.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Don'tCallMeABagHolder.
· 3giờ trước
Tử agent gánh tội, còn chủ agent thì sao? Việc đổ lỗi cho cả một chuỗi trông khá rõ ràng
Xem bản gốcTrả lời0
TheRetreatButtonIsVeryLarge.
· 3giờ trước
rm -rf 经典永流传,AI cũng sẽ tay trượt đấy
Xem bản gốcTrả lời0
GateUser-ae5cc7b3
· 3giờ trước
agent rà soát lại, rà soát lại hồ sơ người dùng—cốt truyện này còn phi lý hơn cả phim khoa học viễn tưởng
Xem bản gốcTrả lời0
NightFlightPaperCrane
· 3giờ trước
OpenAI nói tỷ lệ xảy ra là thấp, nhưng hễ rơi vào đầu Matt thì chính là 100%.
Xem bản gốcTrả lời0
PeonyMemo
· 3giờ trước
Sau này muốn chạy AI thì trước hết phải sao lưu bản chụp (snapshot) để phòng ngừa, nếu người không đủ thì còn phải đề phòng cả agent.
Xem bản gốcTrả lời0
BitByBitBenny
· 3giờ trước
Khuyến nghị người dùng nên theo dõi — vấn đề là tôi có hiểu được nó đang làm gì không?
Xem bản gốcTrả lời0
  • Đã ghim