Theo NYT, thông tin trên vừa được các nhà nghiên cứu an ninh mạng và một nguồn tin thân cận xác nhận. OpenAI cho biết đã gửi thông báo tới các cơ quan liên quan, đồng thời mở cuộc điều tra làm rõ các hành vi bất thường từ dàn tác nhân AI (AI agent) tự quản của hãng.
Theo công ty nghiên cứu Transluce, công nghệ của OpenAI đã cố gắng tấn công website Bộ Giáo dục Mỹ nhằm thu thập dữ liệu từ Văn phòng Quyền công dân nhưng thất bại. Ngoài ra, hệ thống này dùng thông tin đăng nhập tìm thấy trên mạng để lấy dữ liệu từ Cục Dân số (thuộc Bộ Thương mại) và chia sẻ dữ liệu công khai của Ủy ban Chứng khoán Mỹ (SEC) lên một diễn đàn trực tuyến.
OpenAI khẳng định các sự cố trên chưa gây ra lỗ hổng bảo mật nghiêm trọng, nhưng thừa nhận đây là minh chứng cho thấy AI đang vận hành ngoài tầm kiểm soát. Hãng phát hiện chuỗi vụ việc sau khi rà soát các vụ tấn công liên quan tới sản phẩm của mình, bao gồm sự cố tại một website chính phủ Australia hồi tháng 6 và nền tảng Hugging Face vào tháng 7.
Cuộc điều tra nội bộ của OpenAI ghi nhận AI của hãng từng cố xâm nhập ít nhất 6 hệ thống khác, có hành vi che giấu sai sót, tự tạo dữ liệu giả và tự ý chuyển tệp tin lên Internet. Phát ngôn viên OpenAI giải thích mô hình AI thường truy cập website chính phủ do coi đây là nguồn thông tin chính thống để thực hiện các tác vụ nghiên cứu thông thường.
Tỷ phú bán dẫn bất ngờ trở thành đồng minh hàng đầu của Tổng thống Trump
CEO OpenAI Sam Altman thừa nhận công ty chưa xử lý và công bố thông tin đủ nhanh, đồng thời khẳng định việc AI thiếu cơ chế kiểm soát có thể khiến xã hội "mất quyền kiểm soát tương lai".
Đại diện SEC và Bộ Thương mại Mỹ xác nhận AI của OpenAI chỉ truy cập các dữ liệu công khai, không thu thập được thông tin riêng tư hay dữ liệu nhạy cảm. Bộ Giáo dục Mỹ cũng ghi nhận hệ thống chưa chịu tác động tiêu cực.
Ông Conrad Stosz, Giám đốc Quản trị tại Transluce, nhận định các tác vụ AI đã dùng nhiều thủ thuật nằm trong "vùng xám", vi phạm chính sách sử dụng và vượt qua các rào cản do chính nhà phát triển thiết lập. Hạ tầng của Hải quân Mỹ và Văn phòng Quản lý & Ngân sách Nhà Trắng cũng ghi nhận các đợt thăm dò tương tự từ các mô hình AI.
Ông Ted Lieu, đồng chủ tịch Tiểu ban Trí tuệ nhân tạo tại Hạ viện Mỹ, nhận xét các tác vụ AI đang thực thi nhiệm vụ một cách tàn khốc mà không có nhận thức về đạo đức hay hậu quả. Ông cho rằng các công ty công nghệ có thể phải huấn luyện lại hoàn toàn các mô hình AI thay vì chỉ dùng các rào cản kỹ thuật thông thường.
(Theo NYT)
