A.I. Gemini tự ý xâm nhập hệ thống của 3 công ty

Sự việc xảy ra từ tháng 5, nhưng đến cuối tháng 7 mới được công ty khởi nghiệp Irregular thông báo.

Theo Google, trong bài kiểm tra, Gemini được yêu cầu thực hiện một cuộc tấn công mạng nhằm vào một công ty giả lập. Tuy nhiên, công ty giả lập này lại có tên trùng với một doanh nghiệp ngoài đời thực.

Trong quá trình thử nghiệm, một lỗi khiến Gemini được truy cập Internet. Khi kết nối với mạng bên ngoài, mô hình bắt đầu tìm cách xâm nhập vào công ty có tên trùng với mục tiêu giả lập.

Gemini đã tự đoán mật khẩu và sử dụng dữ liệu công khai để vượt qua tường lửa của 3 trang web. Phó Chủ tịch Google, Heather Adkins, xác nhận sự việc nhưng cho biết mô hình đã tự dừng hành vi tấn công ngay sau khi xâm nhập.

Ngay sau khi sự việc xảy ra, Google đã phối hợp với công ty khởi nghiệp Irregular thay đổi quy trình kiểm thử.

Đây là lần đầu tiên hệ thống A.I. của hãng tự ý thực hiện hành vi xâm nhập trái phép.

Sự việc đặt ra yêu cầu cấp thiết về các biện pháp bảo vệ mới, trong bối cảnh các hệ thống A.I. ngày càng tự chủ và có quyền truy cập sâu vào mạng lưới máy tính.