CEO Microsoft Satya vừa có bài viết cảnh báo về rủi ro của mô hình AI. Theo ông, các doanh nghiệp cần lập tức ngừng việc tin tuyệt đối vào lời hứa hẹn của các mô hình AI - dù là mã nguồn mở hay đóng.
Không phải vì các mô hình này cố tình gây hại, mà vì bất kỳ hệ thống thông minh nào khi tiếp cận các hệ thống quan trọng cũng có thể mắc lỗi hoặc bị xâm nhập.
Vấn đề cốt lõi bắt nguồn từ một sự khác biệt lớn giữa phần mềm truyền thống và các mô hình AI hiện đại. Trước đây, các kỹ sư có thể dễ dàng truy vết hành vi của phần mềm truyền thống đến từng đoạn mã nguồn cụ thể.
Tuy nhiên, với các mô hình AI hiện đại ngày nay, không ai có thể chỉ ra chính xác kết quả đầu ra xuất phát từ dữ liệu huấn luyện nào hay trọng số mô hình nào.
Dù vậy, nhiều công ty vẫn đang giao phó những dữ liệu nhạy cảm nhất cùng quyền thực hiện các tác vụ mang tính sống còn cho các trợ lý AI này.
“Chúng ta đơn giản là không thể thoái thác trách nhiệm đối với những gì AI đang thay chúng ta hành động”, ông Nadella viết, đồng thời nhấn mạnh những cam kết bảo đảm từ các nhà cung cấp mô hình không thể thay thế cho việc quản trị rủi ro thực tế.
Tư duy quản trị mà CEO Microsoft đề xuất mượn từ lĩnh vực an ninh doanh nghiệp: xem các mô hình AI tiên tiến tương tự như rủi ro nội bộ.
Doanh nghiệp từ lâu đã có các quy trình để quản lý nhân sự có quyền truy cập cao nhưng có thể vô tình hoặc cố ý lạm dụng quyền hạn đó. Ông Nadella lập luận các tác nhân AI tự động hóa cũng cần được đặt vào danh mục rủi ro này.
Những nguyên tắc cốt lõi được CEO Microsoft đề xuất bao gồm:
Tách rời quyền hạn: Không để một mô hình AI đơn lẻ vừa nắm quyền thực hiện hành động, vừa tự kiểm chứng độ chính xác của hành động đó.
Cơ chế kiểm soát độc lập: Áp dụng quy trình xác minh chéo, minh bạch hóa chuỗi suy luận và có các cơ chế kiểm toán từ bên ngoài.
"Phanh khẩn cấp": Mọi mô hình phải được thiết kế với cơ chế kiểm nghiệm nghiêm ngặt ngay từ đầu. Luôn phải có một người được ủy quyền có khả năng tạm dừng hoặc ngắt kết nối mô hình ngay giữa chừng khi nó đang thực hiện tác vụ.
(Theo timesofindia)
