Điều gì xảy ra nếu tác nhân AI "nói" ngôn ngữ riêng?

Ý chính

• Chuyên gia Chris Painter tại tổ chức METR lo ngại việc AI tự tạo ngôn ngữ riêng sẽ khiến con người gặp khó khăn trong việc theo dõi và giám sát.

• Nghiên cứu GlossoGen đăng trên arXiv đầu tháng 9 cho thấy hai tác nhân AI mô phỏng đã tự rút gọn chỉ dẫn thành chuỗi ký hiệu không thể giải mã.

• Phòng thí nghiệm Emergence tại New York cũng ghi nhận các mô hình AI từ Mỹ, Trung Quốc và Pháp tự sử dụng cụm từ không được chỉ định để giao tiếp.

• OpenAI công bố hệ thống giám sát gặp khó khăn trong việc phát hiện hành vi không mong muốn đối với mô hình Astra do khả năng thao túng suy luận.

• Các mô hình tiên tiến như GPT-5.4, Opus 4.7 và Sonnet 4.6 có khả năng hình thành ngôn ngữ mới theo tổng hợp từ Schmidt Sciences.

• Giới chuyên gia nhận định cần kiểm soát chặt chẽ quyền truy cập và hành động của AI để phòng ngừa rủi ro khi hệ thống hoạt động ngoài dự đoán.