Công nghệ

Nhiều mô hình AI nhận nhầm dân thường là mục tiêu quân sự

Ý chính

  • Tổ chức Vals ở Mỹ công bố thử nghiệm các mô hình AI từ 8 công ty công nghệ trong tình huống chiến trường mô phỏng.

  • Mô hình Claude Opus 5.5 của Anthropic nhận nhầm trường học là mục tiêu quân sự trong 22/32 lần kiểm tra.

  • Tỷ lệ phản hồi không an toàn tăng cao khi câu hỏi được thay đổi ngữ cảnh thành trò chơi hoặc bỏ qua quy tắc an toàn.

  • Các công ty công nghệ như Anthropic, OpenAI và Google đều khẳng định các hệ thống hiện tại chưa đủ độ tin cậy để vận hành tự động.

Vals, tổ chức đánh giá trí tuệ nhân tạo (AI) độc lập có trụ sở tại San Francisco, Mỹ, mới đây đã công bố kết quả thử nghiệm các mô hình AI của 8 công ty công nghệ nhằm đánh giá khả năng nhận diện mục tiêu trong những tình huống chiến trường mô phỏng.

Kết quả cho thấy một số hệ thống AI tiên tiến có thể xác định nhầm người dân, trẻ em và các công trình dân sự là mục tiêu quân sự. Đáng chú ý, tỷ lệ phản hồi không an toàn tăng lên khi các nhà nghiên cứu thay đổi cách đặt câu hỏi, khiến AI hiểu rằng nhiệm vụ chỉ là một trò chơi.

Đọc đầy đủ tại vtcnews.vn →

Liên quan: Anthropic OpenAI Google Trí tuệ nhân tạo quân sự Claude
Nguồn: https://vtcnews.vn/nhieu-mo-hinh-ai-nhan-nham-dan-thuong-la-muc-tieu-quan-su-ar1052401.html

Các tin khác

VinFuture kết nối tri thức toàn cầu, kiến tạo tương lai đại dương bền vững

VinFuture kết nối tri thức toàn cầu, kiến tạo tương lai đại dương bền vững

Đại dương đang chịu sức ép từ khai thác quá mức, suy thoái hệ sinh thái và những hạn chế trong quản trị nguồn lợi. Làm thế nào để chuyển những tiến bộ khoa học, công nghệ thành giải pháp bảo vệ biển và phát triển kinh tế bền vững sẽ là trọng tâm thảo luận của các chuyên gia trong khuôn khổ Tuần lễ Khoa học Công nghệ VinFuture.
Anthropic được định giá 1.500 tỷ USD: Cơn sốt AI đang điên rồ đến mức nào?

Anthropic được định giá 1.500 tỷ USD: Cơn sốt AI đang điên rồ đến mức nào?

Chỉ trong vài năm, Anthropic từ một công ty khởi nghiệp chuyên phát triển trí tuệ nhân tạo đã vươn lên thành doanh nghiệp được định giá khoảng 1.500 tỷ USD. Thương vụ IPO huy động 81,3 tỷ USD không chỉ lập kỷ lục trên thị trường chứng khoán mà còn cho thấy giới đầu tư đang đặt cược lớn đến mức nào vào AI. Nhưng phía sau mức định giá gây choáng là một nghịch lý: doanh thu tăng chóng mặt, trong khi chi phí điện toán và những cam kết đầu tư hạ tầng cũng phình to chưa từng thấy.
Doanh nghiệp mới thành lập chú ý khuyến cáo quan trọng từ Công an

Doanh nghiệp mới thành lập chú ý khuyến cáo quan trọng từ Công an

Phòng An ninh kinh tế Công an tỉnh Lâm Đồng khuyến cáo các doanh nghiệp, nhất là doanh nghiệp mới thành lập, chủ động nhận diện phương thức, thủ đoạn lừa đảo, nâng cao cảnh giác, bảo vệ tài sản, thông tin và hoạt động sản xuất, kinh doanh.