Công nghệ

Anthropic lo ngại AI phát triển nhanh hơn khả năng kiểm soát của con người

Khi Claude đảm nhận hơn 90% công việc viết mã tại Anthropic, công ty này bắt đầu cảnh báo về những rủi ro từ khả năng AI tự cải thiện.

Ý chính

  • Anthropic gửi hồ sơ lên Ủy ban Chứng khoán và Giao dịch Mỹ cảnh báo về rủi ro trí tuệ nhân tạo tự cải thiện.

  • Mã nguồn tạo ra trung bình mỗi ngày trên mỗi kỹ sư trong quý 3/2026 tăng hơn 45 lần so với năm 2024.

  • Hệ thống Claude hiện đảm nhận hơn 90% công việc viết mã tại Anthropic.

  • Công ty chưa có kế hoạch cho phép Claude tự động phát triển mô hình mới mà không có sự giám sát.

Theo Wccftech, trong hồ sơ gửi Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), Anthropic cảnh báo ngành trí tuệ nhân tạo (AI) đang tiến gần một cột mốc quan trọng, khi các mô hình AI có thể tham gia trực tiếp vào quá trình phát triển những phiên bản kế nhiệm với năng lực cao hơn.

Đây là bước tiến hướng tới khả năng tự cải thiện đệ quy (Recursive Self-Improvement - RSI), trong đó AI hỗ trợ nghiên cứu, xây dựng và cải tiến các hệ thống AI mới. Nếu quá trình này tiếp tục tăng tốc, năng lực của AI có thể phát triển nhanh hơn khả năng đánh giá và kiểm soát của các nhà nghiên cứu.

Đọc đầy đủ tại thanhnien.vn →

Liên quan: Anthropic Ủy ban Chứng khoán và Giao dịch Mỹ Claude

Cùng sự kiện: 2 báo khác nói gì

Anthropic lo ngại AI phát triển nhanh hơn khả năng kiểm soát của con người

Xem toàn bộ sự kiện →
Nguồn: https://thanhnien.vn/anthropic-lo-ngai-ai-phat-trien-nhanh-hon-kha-nang-kiem-soat-cua-con-nguoi-185261103193844569.htm

Các tin khác

Binance công bố thủ đoạn đánh cắp 6,34 tỷ USD

Binance công bố thủ đoạn đánh cắp 6,34 tỷ USD

Theo Binance, các đối tượng bắt đầu chuẩn bị từ tháng 6, nhắm vào một kỹ sư của sàn giao dịch bằng cách dụ người này tải phiên bản chứa mã độc của phần mềm lập trình Homebrew.
Loài chó mang đặc điểm di truyền độc nhất tại Chornobyl nhiều khả năng do chọn lọc tự nhiên tạo nên, không phải vì ADN bị biến dạng bởi phóng xạ

Loài chó mang đặc điểm di truyền độc nhất tại Chornobyl nhiều khả năng do chọn lọc tự nhiên tạo nên, không phải vì ADN bị biến dạng bởi phóng xạ

Những cá thể chó hoang sống quanh tàn tích nhà máy điện hạt nhân Chornobyl sở hữu bộ gene vô cùng khác biệt. Trái ngược với các đồn đoán về đột biến phóng xạ, công trình khoa học mới nhất chứng minh chọn lọc tự nhiên mới là nguyên nhân.
Google tắt mặc định AI đối với học sinh tại Mỹ

Google tắt mặc định AI đối với học sinh tại Mỹ

Theo chính sách mới, các trường có thể chủ động bật, tắt từng công cụ của Google. Các chatbot Gemini, Gemini Notebook và công cụ tìm kiếm đều mặc định ở trạng thái tắt cho đến khi trường kích hoạt.
Anthropic huy động vốn kỷ lục tại Nhật Bản

Anthropic huy động vốn kỷ lục tại Nhật Bản

VTV.vn - Công ty phát triển trí tuệ nhân tạo (AI) Anthropic của Mỹ thông báo sẽ huy động tối đa 3,5 tỷ USD tại Nhật Bản thông qua đợt phát hành cổ phiếu lần đầu tại thị trường này.