Sự việc lan truyền tràn lan các hình ảnh riêng tư không có sự đồng thuận trên mạng xã hội X của Elon Musk, do công cụ AI Grok tạo ra, đã gióng lên hồi chuông cảnh báo về sự phát triển nóng của ngành công nghệ này.
Yoshua Bengio, nhà khoa học máy tính tiên phong, nhận định các công ty công nghệ đang xây dựng hệ thống mà thiếu đi các rào chắn kỹ thuật và xã hội phù hợp.
Chia sẻ với The Guardian, ông Bengio cho biết tình trạng hiện nay dù chưa hoàn toàn hỗn loạn nhưng cần được chấn chỉnh ngay lập tức.
"Ngành này đang quá thiếu kiểm soát. Các công ty AI tiên phong xây dựng những hệ thống ngày càng mạnh mẽ nhưng thiếu rào chắn an toàn, dẫn đến những tác động tiêu cực rõ rệt lên con người", ông nói.
Phát biểu này được đưa ra trong bối cảnh ông vừa bổ nhiệm sử gia Yuval Noah Harari và cựu Giám đốc điều hành Rolls-Royce, Sir John Rose, vào hội đồng quản trị phòng thí nghiệm an toàn AI của mình.
Trước áp lực từ dư luận và giới chính trị, mạng xã hội X thông báo đã chặn Grok chỉnh sửa ảnh người thật trong trang phục hở hang như bikini, áp dụng cả với tài khoản trả phí.
Theo ông Bengio, một phần giải pháp nằm ở việc quản trị tốt hơn, bao gồm đưa những nhân vật có uy tín đạo đức vào hội đồng quản trị công ty.
Ngoài Harari và Rose, ông đã bổ nhiệm bà Maria Eitel, nhà sáng lập Nike Foundation, làm chủ tịch phòng thí nghiệm an toàn LawZero do ông thành lập năm ngoái.
Bengio được mệnh danh là "bố già AI" sau khi nhận giải Turing 2018 - giải thưởng được ví như Nobel của ngành máy tính. Ông chia sẻ vinh dự này cùng Geoffrey Hinton và Yann LeCun (nhà khoa học AI trưởng của Meta).
Cựu Thủ tướng Thụy Điển Stefan Löfven sẽ là thành viên đầu tiên trong hội đồng cố vấn toàn cầu của tổ chức này. Trong khi đó, sử gia Harari, tác giả cuốn Sapiens: Lược sử loài người, là tiếng nói nổi bật thường xuyên cảnh báo về sự phát triển của AI, gần đây nhất là trong cuốn sách Nexus.
"Đây không chỉ là cuộc thảo luận kỹ thuật dành cho các công ty làm AI tiên phong", ông Bengio nhấn mạnh. "Vấn đề nằm ở những lựa chọn được coi là đúng đắn về mặt đạo đức".
Hiện là giáo sư khoa học máy tính tại Đại học Montreal, ông Bengio đã huy động được 35 triệu USD (khoảng 26 triệu bảng Anh) cho LawZero.
Tổ chức này đang xây dựng hệ thống mang tên Scientist AI, hoạt động song song với các hệ thống tự hành - hay còn gọi là tác nhân AI (AI agents) - để phát hiện các hành vi có hại tiềm tàng.
Ông khẳng định cấu trúc hội đồng quản trị được xây dựng dựa trên ý tưởng tập hợp những người đáng tin cậy về đạo đức. Họ sẽ giúp LawZero kiên định với sứ mệnh cung cấp giải pháp kỹ thuật cho các hệ thống AI an toàn ngay từ thiết kế.
Tháng trước, ông Bengio cũng cảnh báo về việc trao quyền cho AI, cho rằng công nghệ này đang có dấu hiệu tự bảo tồn - một mối lo ngại chính của các nhà vận động an toàn AI. Ông nhấn mạnh con người không được phép bị cản trở nếu cần "rút phích cắm" các hệ thống này.
(Theo The Guardian)
