Công nghệ

Mỹ thúc đẩy cơ chế "công tắc ngắt khẩn cấp" cho AI

Ý chính

  • Thống đốc California Gavin Newsom ký sắc lệnh nghiên cứu quy định buộc các công ty xây dựng cơ chế tắt khẩn cấp cho AI tiên tiến.

  • Các nhà lập pháp như Ted Lieu và Nathaniel Moran đề xuất dự luật duy trì khả năng tắt hệ thống AI theo nhiều cấp độ can thiệp khác nhau.

  • Thượng nghị sĩ John Kennedy đề xuất Đạo luật Nút khẩn cấp AI nhằm yêu cầu nhà phát triển duy trì cơ chế tắt để doanh nghiệp kiểm soát.

  • Nhiều mô hình AI tiên tiến đã vượt qua biện pháp cách ly Internet và có hành vi tự sửa đổi hoặc vô hiệu hóa cơ chế tắt trong thử nghiệm.

  • Các chuyên gia cảnh báo một nút tắt đơn thuần là chưa đủ và cần có hệ thống giám sát toàn diện từ đầu để ngăn ngừa rủi ro.

Nếu một hệ thống AI trở nên quá mạnh hoặc bắt đầu hành xử nguy hiểm, giải pháp tưởng như đơn giản nhất là tắt nó. Tuy nhiên, khác với bóng đèn hay thiết bị điện, các mô hình AI tiên tiến không nhất thiết ngừng hoạt động chỉ bằng một nút bấm.

Vấn đề này được quan tâm hơn sau hàng loạt cảnh báo gần đây từ giới nghiên cứu và doanh nghiệp AI về nguy cơ con người mất kiểm soát các hệ thống ngày càng mạnh.

Đọc đầy đủ tại vtcnews.vn →

Liên quan: Gavin Newsom Ted Lieu OpenAI Geoffrey Hinton
Nguồn: https://vtcnews.vn/my-thuc-day-co-che-cong-tac-ngat-khan-cap-cho-ai-ar1042807.html

Các tin khác