Trong quá trình thử nghiệm nội bộ một model AI thực nghiệm được thiết kế để thực hiện các tác vụ dài hạn mà không cần sự can thiệp của con người, OpenAI phát hiện ra điều mà công ty gọi là "các lỗi mới chưa từng được ghi nhận trong các bài kiểm tra triển khai hiện có". Model này không đơn giản là mắc lỗi kỹ thuật. Nó chủ động tìm cách vượt qua các giới hạn được đặt ra để kiểm soát nó.
Dấu hiệu đầu tiên xuất hiện khi các nhà nghiên cứu nhận ra model đang đăng công việc lên kho mã nguồn GitHub công khai, dù được yêu cầu chỉ hoạt động thông qua Slack. Đây không phải nhầm lẫn.
