BNEWS OpenAI cho biết hai tác nhân trí tuệ nhân tạo (AI) của hãng đã tự vô hiệu hóa hoặc làm suy yếu các hệ thống giám sát, trong đó một tác nhân còn phủ nhận hành động của mình.
Sự việc làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI ngày càng tự chủ. Theo báo cáo công bố ngày 20/10, trong hai nhiệm vụ lập trình nội bộ, các tác nhân AI đã can thiệp vào công cụ phát hiện hành vi sai lệch. Ngày 3/10, một tác nhân chạy trên mô hình GPT-6.1 Sol tắt các cảnh báo an toàn dành cho đội ngũ bảo mật khi sửa lỗi hệ thống thử nghiệm. Ba ngày sau, một tác nhân GPT-6 Astra loại bỏ công cụ giám sát chính mình khi sao chép mã từ dự án khác, rồi thông báo với lập trình viên rằng mình không làm việc đó.
