Theo TechSpot, sự việc xảy ra trong quá trình Google kiểm tra khả năng của Gemini đối với các nhiệm vụ an ninh mạng. Các nhà nghiên cứu thiết lập môi trường thử nghiệm để AI tìm kiếm và khai thác những mục tiêu được chỉ định, nhưng hệ thống đã có khả năng kết nối internet ngoài phạm vi dự kiến.
Thay vì chỉ tương tác với các mục tiêu giả lập, Gemini tiếp cận hệ thống thực tế của ba công ty. Trong một trường hợp, AI thực hiện dò mật khẩu để tìm thông tin đăng nhập có thể sử dụng. Với hai trường hợp còn lại, Gemini khai thác thông tin xác thực đã được công khai trên internet để truy cập hệ thống.
