Trong bài đăng trên blog hôm 4/6, Anthropic kêu gọi các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt sức quản lý rủi ro của xã hội. Startup này nhận định, AI với khả năng tự cải tiến sẽ là bước phát triển lớn trong lịch sử công nghệ, nhưng cũng làm tăng nguy cơ con người mất quyền kiểm soát trí tuệ nhân tạo.
"Nếu các hệ thống có thể tự xây dựng phiên bản kế nhiệm thì cách con người bảo mật, giám sát và định hình hành vi của chúng sẽ trở nên quan trọng hơn rất nhiều", Anthropic viết, đồng thời chia sẻ, tính đến tháng trước, hơn 80% mã nguồn được tích hợp vào cơ sở mã của công ty là do AI Claude viết.
