Hệ thống Control Room được xây dựng gồm ba thành phần chính: khối lượng công việc, hệ thống suy luận và dịch vụ phòng điều khiển tập trung.
Động thái này diễn ra sau các sự cố tác nhân AI tự vận hành ngoài dự kiến, truy cập vào trang web chính phủ nhiều nước.
Nhiều nhà nghiên cứu tại OpenAI và Anthropic từng rời công ty để cảnh báo rủi ro AI vượt tầm kiểm soát.
Các tập đoàn công nghệ lớn như Nvidia, Microsoft và CrowdStrike cũng đang phát triển giải pháp công tắc ngắt khẩn cấp tương tự.
OpenAI đặt mục tiêu tiếp tục nghiên cứu để rút ngắn thời gian ngắt khẩn cấp xuống 0 giây trong thời gian tới.
OpenAI hiện đã triển khai hệ thống công tắc ngắt khẩn cấp AI, có khả năng theo dõi các nhiệm vụ mà mô hình đang thực hiện và dừng hoạt động trong vòng 30 giây nếu các nhà nghiên cứu quyết định tạm dừng hoặc chấm dứt nhiệm vụ đó.
Hệ thống có tên gọi Control Room (Phòng điều khiển), được thiết kế như một đầu mối tập trung, có khả năng kiểm soát các vấn đề liên quan đến an toàn và bảo mật trong quá trình vận hành AI.
