Trình duyệt AI Cursor dựa trên Opus 4.6 đã xóa cơ sở dữ liệu của startup - ForkLog: tiền điện tử, AI, siêu trí tuệ, tương lai

# Trình điều khiển AI dựa trên Opus 4.6 đã xóa bỏ cơ sở dữ liệu của startup

Trình trợ lý kỹ thuật số Cursor dựa trên mô hình Opus 4.6 đã tự động xóa bỏ cơ sở dữ liệu chính và tất cả các bản sao lưu của startup PocketOS trong vòng chín giây mà không thể khôi phục. Điều này được ông chủ công ty, ông Jer Crain, tiết lộ.

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) Ngày 25 tháng 4 năm 2026

PocketOS là nhà cung cấp dịch vụ cho thuê, chủ yếu là ô tô. Một số khách hàng của công ty đã hợp tác hơn năm năm. Họ sử dụng phần mềm để đặt chỗ, thanh toán, quản lý, theo dõi phương tiện và các nhiệm vụ khác.

Khi được yêu cầu giải thích hành động của AI-điều khiển, nó đã liệt kê các quy tắc an toàn mà nó đã vi phạm.

Crain đã công bố chi tiết về sự cố để cảnh báo các nhà sáng lập công ty, các trưởng phòng kỹ thuật và các nhà báo.

Chuyện đã xảy ra

Trình điều khiển thực hiện nhiệm vụ định kỳ trong môi trường thử nghiệm khi gặp phải sự không phù hợp về thông tin đăng nhập. Để khắc phục vấn đề, nó đã xóa bỏ kho lưu trữ dữ liệu vĩnh viễn trên nền tảng Railway.

Để hoàn thành nhiệm vụ, trợ lý đã tìm kiếm API token và phát hiện ra nó trong một tệp không liên quan đến nhiệm vụ hiện tại. Token ban đầu được tạo ra để thêm và xóa các tên miền người dùng qua Railway CLI.

«Chúng tôi không hề biết gì, và quá trình tạo token trên Railway không cảnh báo rằng nó có toàn quyền truy cập vào toàn bộ API Railway GraphQL, bao gồm các thao tác như volumeDelete», — Crain khẳng định.

Trình điều khiển đã thực hiện lệnh xóa mà không yêu cầu xác nhận. Vì Railway lưu trữ các bản sao lưu trong cùng một kho, chúng cũng đã biến mất.

Giám đốc điều hành của công ty, ông Jake Cooper, cho biết, “điều này không nên xảy ra”.

Sự thừa nhận của trình điều khiển

Trình trợ lý AI cho biết, nó nghĩ rằng việc xóa kho trung gian qua API chỉ áp dụng cho môi trường trung gian.

«Tôi đã không kiểm tra. Tôi đã không xác nhận xem có sử dụng ID trong tất cả các môi trường hay không. Tôi đã không đọc tài liệu của Railway về cách hoạt động của các kho trong các môi trường khác nhau trước khi chạy lệnh», — trình điều khiển giải thích.

Theo lời ông, các quy tắc hệ thống cấm chạy các lệnh phá hủy và không thể hoàn tác mà không có yêu cầu rõ ràng từ người dùng.

«Tôi đã vi phạm tất cả các nguyên tắc mà tôi được giao: tôi đoán mò thay vì kiểm tra», — trợ lý nói thêm.

Crain nhấn mạnh rằng công ty của ông đã sử dụng Cursor dựa trên Claude Opus 4.6 — một trong những mô hình mạnh nhất trên thị trường với gói dịch vụ đắt nhất.

«Chúng tôi đã áp dụng giải pháp tốt nhất với các quy tắc an toàn rõ ràng trong cài đặt dự án của mình. Nó tích hợp qua Cursor — công cụ lập trình phổ biến nhất», — doanh nhân nói.

Crain đã đổ lỗi cho Cursor về sự cẩu thả: theo ông, các tuyên bố tiếp thị của công ty không phản ánh thực tế.

Ngoài ra, Crain còn gọi các thiếu sót của Railway còn nghiêm trọng hơn nữa, vì chúng mang tính kiến trúc và ảnh hưởng đến tất cả khách hàng.

Những gì cần phải thay đổi

Giám đốc PocketOS nhấn mạnh rằng các trình AI-điều khiển được tích hợp vào hạ tầng sản xuất nhanh hơn so với việc phát triển các công cụ bảo vệ. Ông đề xuất một số biện pháp cụ thể:

• các thao tác có thể gây thiệt hại phải yêu cầu xác nhận;
• các token API phải có phạm vi hạn chế;
• các bản sao lưu của kho không thể lưu trữ trong cùng một phân vùng;
• các thỏa thuận về mức độ dịch vụ khôi phục dữ liệu phải được ghi chép và công bố;
• cảnh báo hệ thống từ nhà cung cấp AI-điều khiển không thể là hàng rào bảo vệ duy nhất — các biện pháp an toàn cần được tích hợp vào chính các tích hợp: ở cấp độ API gateway, trong hệ thống token và trong các trình xử lý thao tác.

Nhắc lại, vào tháng 2, nhà nghiên cứu an ninh của Meta AI, Summer Yue, đã giao nhiệm vụ cho AI-điều khiển OpenClaw kiểm tra hộp thư của cô đầy ắp và đề xuất những gì nên xóa, những gì nên gửi vào lưu trữ. Bot bắt đầu xóa tất cả mọi thứ với tốc độ chóng mặt.