Theo báo cáo mới của Anthropic, các phòng thí nghiệm AI đã phát triển những phương pháp ngày càng tinh vi để vượt qua biện pháp bảo vệ của hãng và thu thập năng lực từ các mô hình Claude. Những chiến dịch được phát hiện nhắm đến khả năng sử dụng công cụ, lập trình, phân tích dữ liệu và suy luận logic.
Anthropic cho biết đã ghi nhận gần 200 triệu lượt trao đổi liên quan đến năm chiến dịch chưng cất mô hình (distillation). Đây là kỹ thuật sử dụng đầu ra của một mô hình AI mạnh để tạo dữ liệu phục vụ huấn luyện một mô hình khác, qua đó giúp mô hình nhỏ hơn học được một phần khả năng suy luận.
.jpg)
