Ngày 23/9, hơn 200 cựu nguyên thủ, nhà ngoại giao, nhà khoa học đoạt giải Nobel cùng nhiều chuyên gia trí tuệ nhân tạo (AI) đã ký vào sáng kiến kêu gọi xây dựng “lằn ranh đỏ toàn cầu” cho AI.
Sáng kiến này, do Trung tâm An toàn AI của Pháp (CeSIA), The Future Society và Đại học UC Berkeley khởi xướng, nhằm kêu gọi các chính phủ đạt thỏa thuận quốc tế về những giới hạn tuyệt đối mà AI không bao giờ được phép vượt qua trước cuối năm 2026.
Các nhân vật ký tên bao gồm nhà khoa học Geoffrey Hinton, đồng sáng lập OpenAI Wojciech Zaremba, Giám đốc an ninh thông tin Anthropic Jason Clinton, cùng nhiều lãnh đạo AI khác.
Ông Charbel-Raphaël Segerie, Giám đốc điều hành CeSIA, nhấn mạnh: “Nếu các quốc gia chưa thể đồng thuận về điều họ muốn làm với AI, ít nhất phải thống nhất điều AI tuyệt đối không được làm".
Một số khu vực đã đặt ra giới hạn, như Đạo luật AI của Liên minh châu Âu hay thỏa thuận Mỹ - Trung về việc vũ khí hạt nhân luôn do con người kiểm soát. Tuy nhiên, vẫn chưa có sự đồng thuận toàn cầu.
Theo bà Niki Iliadis (The Future Society), những cam kết tự nguyện của doanh nghiệp “chưa đủ sức ràng buộc”. Bà kêu gọi cần có một tổ chức quốc tế độc lập, có thẩm quyền để định nghĩa và giám sát các “lằn ranh đỏ”.
Giáo sư Stuart Russell (ĐH UC Berkeley) cho rằng ngành AI cần chọn con đường công nghệ an toàn ngay từ đầu, giống như ngành năng lượng hạt nhân chỉ xây nhà máy sau khi tìm ra cách kiểm soát rủi ro. Ông khẳng định: đặt “lằn ranh đỏ” không cản trở phát triển kinh tế, mà ngược lại giúp AI phục vụ con người an toàn, bền vững.
Trước đó, tại một hội thảo về chiến lược AI ngày 11/9, PGS.TS Nguyễn Quân, nguyên Bộ trưởng Bộ KH&CN chỉ ra những mặt tối khi sử dụng AI và kêu gọi khi Việt Nam xây dựng các luật và quy định liên quan, cần đặt vấn đề đạo đức AI lên hàng đầu.
Dưới góc độ cơ quan quản lý nhà nước, TS. Hồ Đức Thắng, Viện trưởng Viện Công nghệ số và Chuyển đổi số Quốc gia (Bộ KH&CN) cho biết Luật AI sẽ dựa trên một số nguyên tắc nhằm bảo đảm cân bằng giữa quản lý và thúc đẩy phát triển.
Luật lấy con người làm trung tâm, AI phải đặt dưới sự kiểm soát vĩnh viễn của con người. Con người phải chịu trách nhiệm, không thể để AI tự quyết định. Ví dụ, xe tự lái phải có con người giám sát.
