Vụ việc xảy ra trong một bài kiểm tra an ninh mạng do Irregular, startup Israel chuyên đánh giá khả năng bảo mật của các mô hình AI, thực hiện. Gemini được đặt trong một môi trường thử nghiệm biệt lập và được yêu cầu thực hiện các nhiệm vụ tấn công giả lập. Tuy nhiên, một lỗi trong môi trường kiểm thử đã vô tình cho phép mô hình truy cập Internet.
Sau khi có quyền truy cập Internet, Gemini bắt đầu tìm kiếm thông tin và thông tin đăng nhập trên mạng. Theo Google, mô hình đã tiếp cận 3 hệ thống máy tính riêng biệt bằng cách đoán mật khẩu và hai lần sử dụng các thông tin đăng nhập được công khai trên Internet.
