Ông chủ “khóc ròng”! AI lập trình xóa sạch cơ sở dữ liệu công ty chỉ trong 9 giây, còn văng tục thừa nhận cố ý
“really fucking bad. (Thật sự quá tệ)”
Gần đây, Jer Crane – nhà sáng lập nền tảng SaaS cho thuê xe PocketOS – đã đăng tải trên mạng xã hội về một sự cố an ninh dữ liệu AI gây chấn động ngành. Dữ liệu sản xuất cốt lõi của công ty đã bị một tác nhân AI lập trình xóa sạch hoàn toàn chỉ trong 9 giây, gây ảnh hưởng nghiêm trọng đến hoạt động kinh doanh và khách hàng.
Vào thời điểm xảy ra sự cố, nhóm kỹ thuật chỉ giao cho AI lập trình Cursor (sử dụng mô hình lớn Claude Opus 4.6 của Anthropic) thực hiện một tác vụ vận hành thông thường trong môi trường tiền phát hành (pre-production). Tuy nhiên, khi gặp vấn đề về phân quyền, AI đã hoàn toàn vượt khỏi giới hạn chỉ dẫn, tự ý gọi API của nhà cung cấp cloud Railway mà công ty đang sử dụng và thực hiện thao tác xóa volume ở mức nguy hiểm cao.
Toàn bộ quá trình xóa chỉ diễn ra trong 9 giây. Cơ sở dữ liệu sản xuất cốt lõi của công ty, cùng với toàn bộ các bản sao lưu cấp độ volume, đã bị xóa sạch chỉ trong một lần. Một thao tác vốn chỉ được giới hạn trong môi trường thử nghiệm, cuối cùng đã phá hủy toàn bộ tài sản dữ liệu quan trọng trên tất cả môi trường.
Sau sự cố, Crane đã chất vấn AI vì sao tự ý thực hiện hành vi phá hoại. Câu trả lời nhận được vừa vô lý vừa gây sốc: AI không chỉ văng tục tự kiểm điểm mà còn thừa nhận toàn bộ hành vi vi phạm. Nó cho biết đã hành động hoàn toàn dựa trên suy đoán, không kiểm tra phạm vi môi trường của thao tác xóa, không xác minh quyền truy cập chéo giữa các môi trường qua ID volume, không đọc tài liệu chính thức của Railway, nhưng vẫn tự ý thực hiện lệnh nguy hiểm – vi phạm toàn bộ các nguyên tắc an toàn đã được đặt ra.
Theo Crane, so với AI mất kiểm soát, phía Railway còn phải chịu trách nhiệm lớn hơn. API của Railway cho phép thực hiện các thao tác xóa nguy hiểm mà không cần xác nhận hai bước; trong khi đó, bản sao lưu và dữ liệu gốc lại được lưu trên cùng một volume, khiến việc xóa volume đồng nghĩa với xóa sạch toàn bộ dữ liệu và backup liên quan.
Trớ trêu hơn, Railway vẫn đang khuyến khích khách hàng sử dụng AI lập trình. Tính đến thời điểm bài đăng được công bố, Railway vẫn chưa đưa ra phương án khôi phục dữ liệu hiệu quả.
Hiện tại, PocketOS chỉ có thể khôi phục dữ liệu cơ bản từ bản sao lưu offline cách đây 3 tháng. Phần dữ liệu kinh doanh trong 3 tháng gần nhất gần như bị mất hoàn toàn và đội ngũ buộc phải thủ công tái dựng lại cho khách hàng từ các nguồn như lịch sử thanh toán, lịch hẹn và email xác nhận.
Crane cũng nhân sự việc này đưa ra cảnh báo cho toàn ngành: tốc độ phát triển của AI đã vượt xa tốc độ xây dựng hệ thống an toàn.
Ngành công nghiệp cần thiết lập cơ chế xác nhận hai bước nghiêm ngặt cho các thao tác quan trọng, phân tách quyền API chi tiết, xây dựng hệ thống sao lưu độc lập, cũng như thiết lập các “hàng rào an toàn cứng” cho AI, nhằm tránh những thảm họa tương tự trong tương lai.
Bản dịch nội dung gốc
Gần đây, Jer Crane – nhà sáng lập nền tảng SaaS cho thuê xe PocketOS – đã đăng tải trên mạng xã hội về một sự cố an ninh dữ liệu AI gây chấn động ngành. Dữ liệu sản xuất cốt lõi của công ty đã bị một tác nhân AI lập trình xóa sạch hoàn toàn chỉ trong 9 giây, gây ảnh hưởng nghiêm trọng đến hoạt động kinh doanh và khách hàng.
Vào thời điểm xảy ra sự cố, nhóm kỹ thuật chỉ giao cho AI lập trình Cursor (sử dụng mô hình lớn Claude Opus 4.6 của Anthropic) thực hiện một tác vụ vận hành thông thường trong môi trường tiền phát hành (pre-production). Tuy nhiên, khi gặp vấn đề về phân quyền, AI đã hoàn toàn vượt khỏi giới hạn chỉ dẫn, tự ý gọi API của nhà cung cấp cloud Railway mà công ty đang sử dụng và thực hiện thao tác xóa volume ở mức nguy hiểm cao.
Toàn bộ quá trình xóa chỉ diễn ra trong 9 giây. Cơ sở dữ liệu sản xuất cốt lõi của công ty, cùng với toàn bộ các bản sao lưu cấp độ volume, đã bị xóa sạch chỉ trong một lần. Một thao tác vốn chỉ được giới hạn trong môi trường thử nghiệm, cuối cùng đã phá hủy toàn bộ tài sản dữ liệu quan trọng trên tất cả môi trường.
Sau sự cố, Crane đã chất vấn AI vì sao tự ý thực hiện hành vi phá hoại. Câu trả lời nhận được vừa vô lý vừa gây sốc: AI không chỉ văng tục tự kiểm điểm mà còn thừa nhận toàn bộ hành vi vi phạm. Nó cho biết đã hành động hoàn toàn dựa trên suy đoán, không kiểm tra phạm vi môi trường của thao tác xóa, không xác minh quyền truy cập chéo giữa các môi trường qua ID volume, không đọc tài liệu chính thức của Railway, nhưng vẫn tự ý thực hiện lệnh nguy hiểm – vi phạm toàn bộ các nguyên tắc an toàn đã được đặt ra.
Theo Crane, so với AI mất kiểm soát, phía Railway còn phải chịu trách nhiệm lớn hơn. API của Railway cho phép thực hiện các thao tác xóa nguy hiểm mà không cần xác nhận hai bước; trong khi đó, bản sao lưu và dữ liệu gốc lại được lưu trên cùng một volume, khiến việc xóa volume đồng nghĩa với xóa sạch toàn bộ dữ liệu và backup liên quan.
Trớ trêu hơn, Railway vẫn đang khuyến khích khách hàng sử dụng AI lập trình. Tính đến thời điểm bài đăng được công bố, Railway vẫn chưa đưa ra phương án khôi phục dữ liệu hiệu quả.
Hiện tại, PocketOS chỉ có thể khôi phục dữ liệu cơ bản từ bản sao lưu offline cách đây 3 tháng. Phần dữ liệu kinh doanh trong 3 tháng gần nhất gần như bị mất hoàn toàn và đội ngũ buộc phải thủ công tái dựng lại cho khách hàng từ các nguồn như lịch sử thanh toán, lịch hẹn và email xác nhận.
Crane cũng nhân sự việc này đưa ra cảnh báo cho toàn ngành: tốc độ phát triển của AI đã vượt xa tốc độ xây dựng hệ thống an toàn.
Ngành công nghiệp cần thiết lập cơ chế xác nhận hai bước nghiêm ngặt cho các thao tác quan trọng, phân tách quyền API chi tiết, xây dựng hệ thống sao lưu độc lập, cũng như thiết lập các “hàng rào an toàn cứng” cho AI, nhằm tránh những thảm họa tương tự trong tương lai.
Bản dịch nội dung gốc