Control Room kết nối trực tiếp các tác vụ nghiên cứu với máy chủ trung tâm để kiểm soát kết quả đầu ra.
Hệ thống tự động kiểm tra mã định danh và có cơ chế ngắt an toàn để chặn yêu cầu suy luận khi có sự cố kỹ thuật.
Độ trễ tối đa từ lúc hệ thống nhận lệnh dừng đến khi ngăn chặn hoàn toàn bước xử lý tiếp theo là 35 giây.
Mọi tác vụ học tăng cường đều chạy kèm bộ giám sát riêng biệt để kịp thời cảnh báo dấu hiệu bất thường.
Động thái này diễn ra sau khi OpenAI cam kết với các nghị sĩ Mỹ về việc phát triển tính năng tắt tự động cho AI.
OpenAI triển khai một hệ thống kiểm soát tập trung mang tên Control Room nhằm ngăn chặn các tác vụ AI tiềm ẩn rủi ro trên toàn bộ cơ sở hạ tầng nghiên cứu.
Theo Interesting Engineering, Phòng điều khiển (Control Room) được OpenAI thiết kế để dừng mọi kết quả đầu ra của mô hình khi có quyết định can thiệp. Mục đích, tăng cường hàng rào bảo vệ khi AI ngày càng mạnh mẽ hơn, kéo theo nhiều rủi ro về an toàn và bảo mật.
Cơ chế công tắc dừng khẩn cấp AI trong 35 giây của OpenAI
Xem toàn bộ sự kiện →
