Công ty Anthropic cho biết đã ngăn chặn một số nhà khoa học sử dụng mô hình AI của họ truy vấn thông tin có thể gây hại liên quan tới virus, bệnh truyền nhiễm, nọc độc và độc tố mới.
Theo Interesting Engineering, công ty Anthropic hôm 10/9 cho biết đã chặn ít nhất 5 trường hợp thực tế trong đó nhà nghiên cứu sử dụng Claude theo cách có thể hỗ trợ phát triển vũ khí sinh học. Các trường hợp xuất hiện từ tháng 12/2025 đến tháng 8/2026 bao gồm nghiên cứu tăng cường chức năng của mầm bệnh, bệnh truyền nhiễm như cúm gia cầm, nọc độc và độc tố mới. Người dùng đã vượt qua nhiều biện pháp kiểm soát như ngăn chặn cá nhân từ một số khu vực cụ thể và nỗ lực che giấu mục đích nghiên cứu để qua mặt cơ chế bảo vệ.




















