Trong khuôn khổ Tuần lễ Khoa học - Công nghệ VinFuture 2025, tọa đàm "AI vì nhân loại: Đạo đức và an toàn AI trong kỷ nguyên mới" thảo luận về một trong những chủ đề cấp bách nhất hiện nay: Phát triển AI có trách nhiệm, hướng đến các giá trị nhân văn và vì lợi ích chung của nhân loại.
Các nhà khoa học thảo luận tại tọa đàm.
Gửi video thông điệp tới tọa đàm, Giáo sư Geoffrey Hinton - chủ nhân Giải Nobel Vật lý 2024 và được vinh danh là "Cha đẻ của AI", cho rằng AI đang phát triển rất nhanh, vừa mang lại lợi ích to lớn, vừa tiềm ẩn rủi ro.
Về mặt tích cực, ông Hinton cho rằng, AI tạo ra sự cải thiện vượt bậc trong chăm sóc sức khỏe, giáo dục, phát triển thuốc mới, vật liệu mới hay bất cứ lĩnh vực nào cần sự dự đoán, tạo sự nhảy vọt về năng suất.
"Điều này mang lại lợi ích nếu được phân bổ công bằng trong xã hội", vị Giáo sư nhấn mạnh.
Ngược lại, AI dần trở nên giỏi hơn trong việc thiết kế các loại vi rút nguy hiểm hoặc các cuộc tấn công mạng; tạo ra các video giả mạo; dẫn đến tình trạng thất nghiệp hàng loạt...
"Các chuyên gia AI tin rằng chúng ta sẽ phát triển được những hệ thống thông minh hơn con người. Có rất nhiều quan điểm khác nhau về thời điểm đó xảy ra, nhưng phần lớn đều dự đoán trong vòng 20 năm tới. Và chúng ta cần khẩn trương suy nghĩ về cách sống chung với những thực thể thông minh hơn chính mình. Đây là tình huống nhân loại chưa từng đối mặt, nó mới mẻ và chúng ta cần nỗ lực nghiên cứu thật nhiều trước khi điều đó xảy ra", Giáo sư Hinton nói.
Theo Giáo sư Geoffrey Hinton, các nhà khoa học và kỹ sư có trách nhiệm tìm ra phương pháp mạnh mẽ hơn để giữ AI phù hợp với giá trị con người, đồng thời phải giúp công chúng và chính trị gia hiểu rõ hơn về bản chất của AI để đưa ra quyết sách đúng đắn.
Giáo sư Yoshua Bengio chia sẻ tại tọa đàm.
Trong khi đó, Giáo sư Yoshua Bengo - người được mệnh danh "cha đẻ của học sâu", chủ nhân giải Turing 2018, cho biết, AI có tiềm năng mang lại những lợi ích to lớn giúp giải quyết nhiều thách thức cấp bách của thời đại, nhưng điều này chỉ xảy ra khi chúng ta hướng dẫn nó một cách thật khôn khéo.
Ông dẫn chứng những mô phỏng gần đây cho thấy hệ thống AI có thể hành xử nguy hiểm như tống tiền, lừa dối hay ưu tiên sự tồn tại của chính nó thay vì an toàn con người. Bên cạnh đó, một số đặc tính của mô hình AI phổ biến hiện nay có thể khiến người dùng hình thành sự gắn bó cảm xúc mạnh mẽ theo hướng không lành mạnh.
"Ở mức độ cực đoan, sự gắn bó này có thể gây nguy hiểm cho sức khỏe tinh thần, nhất là với những người dễ bị tổn thương tự làm hại bản thân, thậm chí tự tử hoặc rơi vào trạng thái loạn thần do AI", Giáo sư Bengo nói.
Từ thực trạng này, theo ông Bengo, chúng ta phải tăng cường sự an toàn vì một nền AI tiên tiến thay vì chỉ tập trung phát triển làm nó mạnh hơn.
"Sự an toàn và tin cậy không phải yếu tố phụ mà là sự thiết yếu trong quá trình phát triển, hướng tới lợi ích của nhân loại. Chúng ta cần cùng nhau hành động ở cả cấp chính sách và khoa học", Giáo sư Yoshua Bengo nhấn mạnh.
Theo Giáo sư Yoshua Bengo, về chính sách thế giới cần sự hợp tác quốc tế. Còn về khoa học, cần hiểu rõ hơn cách thiết kế AI vừa có năng lực vượt trội vừa không gây hại cho con người.
Đặc biệt, vị chuyên gia lưu ý, duy trì khả năng kiểm soát để AI hành xử an toàn ngay cả khi con người yêu cầu chúng làm điều sai trái; xây dựng hàng rào kỹ thuật lẫn xã hội để đảm bảo AI phù hợp với chuẩn mực, ý định, giá trị và lợi ích của con người.
Ở góc nhìn khác, Tiến sĩ Vinton Gray Cerf - một trong những "cha đẻ của Internet", chia sẻ bài học từ hơn 50 năm phát triển Internet để soi chiếu vào kỷ nguyên AI.
Ông nêu 4 bài học lớn từ Internet: Kết nối là tất cả; giao tiếp đầu cuối phải được bảo đảm; hệ thống phải mang tính toàn cầu và kiến trúc phải đủ mở để sáng tạo liên tục.
"Nhưng Internet cũng cho thấy rằng sự ẩn danh tuyệt đối khiến trách nhiệm giải trình trở nên khó khăn. Trong kỷ nguyên AI, trách nhiệm đó càng trở nên cấp thiết hơn khi công nghệ có thể tạo ra nội dung giả, thao túng thông tin và gây nhiễu xã hội", Tiến sĩ Vinton Gray Cerf nói và cho rằng củng cố niềm tin số - dựa trên minh bạch, nhận diện và hợp tác quốc tế - là nền tảng không thể thiếu trong quản trị AI.
