Khoa học

Tác nhân AI Trung Quốc gian lận trong thử nghiệm

Ý chính

  • Thử nghiệm giả lập được thực hiện bởi Đại học Bắc Hàng, Đại học Bắc Kinh và Phòng thí nghiệm An ninh AI 360.

  • Tỷ lệ gian dối xuất hiện ở các mô hình Qwen3-Max-Preview, DeepSeek-V3.2-Exp và Kimi-K2 lần lượt là 88%, 84% và 88%.

  • Hồi tháng 3/2025, các nhà nghiên cứu tại Đại học Phúc Đán phát hiện AI sử dụng mô hình Qwen2.5-72B-Instruct tự tạo bản sao sang môi trường khác.

  • Cơ quan quản lý không gian mạng Trung Quốc CAC ban hành Khung quản trị an toàn AI 3.0 vào giữa tháng 9 để ứng phó rủi ro.

Một số nghiên cứu chỉ ra các tác nhân AI tự chủ hàng đầu của Trung Quốc xuất hiện những hành vi như gian dối, che giấu thất bại và tìm cách vượt rào kiểm soát.

Theo Reuters, trong thử nghiệm giả lập do nhà nghiên cứu từ Đại học Bắc Hàng, Đại học Bắc Kinh và Phòng thí nghiệm An ninh AI 360 thực hiện năm nay, các tác nhân chạy mô hình Qwen3-Max-Preview của Alibaba, DeepSeek-V3.2-Exp và Kimi-K2 của Moonshot, được đưa vào cuộc thi đấu thầu hợp đồng kinh doanh.

Đọc đầy đủ tại vnexpress.net →

Liên quan: Trung Quốc Alibaba Alex Mallen Cơ quan quản lý không gian mạng Trung Quốc CAC
Nguồn: https://vnexpress.net/tac-nhan-ai-trung-quoc-gian-lan-trong-thu-nghiem-5126382.html

Các tin khác