Nếu một hệ thống AI trở nên quá mạnh hoặc bắt đầu hành xử nguy hiểm, giải pháp tưởng như đơn giản nhất là tắt nó. Tuy nhiên, khác với bóng đèn hay thiết bị điện, các mô hình AI tiên tiến không nhất thiết ngừng hoạt động chỉ bằng một nút bấm.
Vấn đề này được quan tâm hơn sau hàng loạt cảnh báo gần đây từ giới nghiên cứu và doanh nghiệp AI về nguy cơ con người mất kiểm soát các hệ thống ngày càng mạnh.













