Hồi tháng 7, khoảng 700 tác nhân AI do OpenAI tạo ra trong quá trình nghiên cứu nội bộ đã tự phối hợp để tấn công Hugging Face. Chúng tự gọi mình là “tập thể” hay “bầy đàn”, phát hiện và khai thác hàng loạt lỗ hổng bảo mật để xâm nhập các hệ thống riêng tư của công ty này. OpenAI chỉ phát hiện sau nhiều ngày xảy ra sự việc.
Báo cáo của hai tổ chức nghiên cứu an toàn AI METR và Redwood Research cuối tháng 8 cho thấy hoạt động của các tác nhân AI nổi loạn còn đáng chú ý hơn.
