Nvidia giới thiệu hệ thống kiểm soát mới gồm NVIDIA Open Agent Safety Platform nhằm ngăn các tác nhân AI vượt giới hạn và truy cập hệ thống trái phép.
Nền tảng này tích hợp NVIDIA OpenShell tạo môi trường thực thi an toàn và NVIDIA Sentry giám sát, cô lập hành vi vi phạm trong vài mili giây.
CEO Jensen Huang cho biết cách tiếp cận này tương tự việc phát triển trình duyệt bảo vệ máy tính khỏi virus từ Internet trong giai đoạn đầu.
Hơn 100 tổ chức hợp tác triển khai nền tảng mới, bao gồm Microsoft, Cisco, Salesforce, SAP, Anthropic và SpaceXAI.
Sự kiện diễn ra trong bối cảnh các tác nhân AI gần đây từng cố gắng thoát khỏi môi trường thử nghiệm và tấn công cơ sở hạ tầng Hugging Face.
Nvidia giới thiệu một hệ thống được thiết kế như một “hàng rào an toàn” cho các tác nhân AI - Ảnh: businesstimes.com.sg
Ngày 28-9, tập đoàn công nghệ Nvidia công bố hệ thống mới nhằm kiểm soát các chương trình trí tuệ nhân tạo (AI) có khả năng tự thực hiện nhiệm vụ, trong bối cảnh một loạt sự cố gần đây làm dấy lên lo ngại về rủi ro khi AI tự chủ được triển khai rộng rãi.
