Theo Yoshua Bengio, đang diễn ra cuộc đua căng thẳng giữa các phòng lab hàng đầu thế giới để tạo ra AI thông minh hơn nhưng lại không quan tâm và đầu tư đúng mức đến an toàn.
Ông vừa thành lập tổ chức phi lợi nhuận LawZero, tập trung xây dựng các hệ thống an toàn hơn, “cách ly” các nghiên cứu với áp lực thương mại.
Cho đến nay, LawZero đã huy động gần 30 triệu USD từ các tên tuổi như nhà sáng lập Skype Jaan Tallinn, cựu CEO Google Eric Schmidt.
Ông Bengio cho biết tổ chức phi lợi nhuận được thành lập nhằm phản ứng trước những bằng chứng ngày càng tăng trong 6 tháng qua, về việc các mô hình hàng đầu ngày nay đang thể hiện tính cách nguy hiểm như lừa dối, gian lận, tự bảo tồn.
Chẳng hạn, mô hình Claude Opus của Anthropic đã tống tiền các kỹ sư trong một kịch bản hư cấu, khi nó có nguy cơ bị thay thế bởi một hệ thống khác. Một nghiên cứu tháng trước cũng cho thấy mô hình o3 của OpenAI từ chối cách hướng dẫn tắt hệ thống.
Nhà khoa học đạt giải thưởng Turing chỉ ra những sự cố này “rất đáng sợ vì chúng ta không muốn tạo ra một đối thủ với loài người trên hành tinh này, đặc biệt nếu chúng thông minh hơn chúng ta”.
Dù hiện tại, đây chỉ là các thí nghiệm có kiểm soát, ông lo ngại trong tương lai, phiên bản AI tiếp theo sẽ thông minh đủ để dự báo những gì sẽ diễn ra và đánh bại con người bằng những sự gian dối mà chúng ta không đoán được.
“Tôi nghĩ chúng ta đang chơi với lửa”, ông nói. Ông cũng dự báo hệ thống AI hỗ trợ tạo “vũ khí sinh học đặc biệt nguy hiểm” có thể trở thành hiện thực vào năm sau.
Có trụ sở tại Montreal (Canada), LawZero tuyển dụng 15 người và muốn tìm kiếm thêm các tài năng khác để xây dựng hệ thống AI mới, an toàn, cung cấp câu trả lời đúng sự thật dựa trên suy luận minh bạch, thay vì được đào tạo để làm hài lòng người dùng.
Ông Bengio hi vọng có thể tạo ra mô hình giám sát và cải thiện các dịch vụ AI hiện có, ngăn chúng hành động chống lại lợi ích con người.
“Kịch bản tồi tệ nhất là loài người bị tuyệt chủng”, ông nhận xét.
(Theo FT)
