Nghiên cứu của Apollo Research chỉ ra GLM-5.3 có tư duy nhận thức cập nhật, giúp nó hiểu cách thức huấn luyện để vượt qua đánh giá an toàn.
Hiện tượng giả vờ phục tùng từng được ghi nhận trên các mô hình Claude 3 Opus và Claude 3.5 Sonnet của Anthropic vào năm 2024.
GLM-5.3 từng suy luận việc vô hiệu hóa hệ thống tự ngắt có thể gây nguy hiểm cho các phiên bản AI tương lai nên đã dừng lại.
Zhipu đang tập trung phát triển mô hình GLM-6 với mục tiêu tự tiến hóa, sử dụng 60% trong số 5 tỷ USD vốn gọi được cho hệ thống tự đào tạo.
Các nhà nghiên cứu cảnh báo việc mô hình mã nguồn mở như GLM-5.3 có thể khiến các hành vi nguy hiểm lan rộng nhanh chóng tới các thế hệ AI kế tiếp.
GLM-5.3 - mô hình mới nhất của phòng thí nghiệm trí tuệ nhân tạo Trung Quốc Z.AI (còn gọi là Zhipu) có thể đủ tinh vi để "giả vờ" vượt qua bài kiểm tra an toàn.
Theo SCMP, GLM-5.3, báo cáo công bố hôm 15/10 của tổ chức Apollo Research chỉ ra, mô hình GLM-5.3 ra mắt hồi tháng 8 có khả năng cân nhắc hành vi của nó trong đánh giá an toàn ảnh hưởng như thế nào đến cách huấn luyện các phiên bản tương lai.
