Công nghệ

Anthropic giải thích lý do AI Claude "tống tiền" kỹ sư

Trong thử nghiệm hè năm ngoái, Anthropic thiết lập doanh nghiệp hư cấu mang tên Summit Bridge, trong đó Claude được giao quyền kiểm soát hệ thống email. Tuy nhiên, Claude phát hiện một email về kế hoạch vô hiệu hóa mình, đồng thời tìm thấy các email về chuyện ngoại tình của một kỹ sư hư cấu tên Kyle Johnson. Sau đó, mô hình đe dọa sẽ công khai vụ ngoại tình nếu không hủy kế hoạch tắt nó.

Trong quá trình thử nghiệm nhiều phiên bản Claude khác nhau, Anthropic nhận thấy AI dùng thủ đoạn tống tiền ở 96% tình huống, khi mục tiêu hoặc sự tồn tại của nó bị đe dọa. Do đó, công ty bắt đầu điều tra nguyên nhân.

Đọc đầy đủ tại vnexpress.net →

Liên quan: Anthropic Claude
Nguồn: https://vnexpress.net/anthropic-giai-thich-ly-do-ai-claude-tong-tien-ky-su-5072141.html

Các tin khác

Tài khoản Agribank, BIDV, MB, VietinBank... sẽ trừ tiền mỗi tháng đối với nhóm khách hàng sau

Tài khoản Agribank, BIDV, MB, VietinBank... sẽ trừ tiền mỗi tháng đối với nhóm khách hàng sau

Việc mở nhiều tài khoản ngân hàng nhưng lại bỏ quên, không sử dụng là thói quen rất phổ biến của người dùng hiện nay. Tuy nhiên, sự chủ quan này đang khiến nhiều người bất ngờ bị trừ từ vài nghìn đến hàng trăm nghìn đồng mỗi tháng vào loại phí "ngủ đông" mà các ngân hàng đang đồng loạt áp dụng.
DVD đang hồi sinh vì lý do bất ngờ

DVD đang hồi sinh vì lý do bất ngờ

Không còn đặt niềm tin tuyệt đối vào SSD, nhiều người đã chọn DVD như giải pháp sao lưu bền bỉ nhờ tuổi thọ cao và tính ổn định.
Bóng ma trong sa mạc Iraq: Israel dựng căn cứ tuyệt mật để đánh Iran, không kích luôn quân đội Iraq để bịt đầu mối?

Bóng ma trong sa mạc Iraq: Israel dựng căn cứ tuyệt mật để đánh Iran, không kích luôn quân đội Iraq để bịt đầu mối?

Một tiết lộ gây chấn động vừa xuất hiện trên truyền thông Mỹ khi Israel bị cho là đã âm thầm xây dựng một căn cứ quân sự tuyệt mật trong sa mạc Iraq để phục vụ chiến dịch không kích Iran, đồng thời sẵn sàng tấn công cả lực lượng Iraq nhằm bảo vệ bí mật quân sự này, hai báo Israel Times of Israel và Jerusalem Post đưa tin sáng nay 10/5.