Nhà nghiên cứu Anthropic từ chức vì lo AI vượt kiểm soát

Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, bất ngờ tuyên bố rời công ty, đồng thời cảnh báo về rủi ro liên quan đến AI.

"Hôm nay, tôi từ chức tại Anthropic. Ba năm qua, tôi đã nghiên cứu về quá trình huấn luyện trước AI cả ở Anthropic và OpenAI. Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X ngày 9/9.

Theo WSJ, công việc của Coxon tại Anthropic là đào tạo mô hình mới bằng cách cho chúng tiêu thụ lượng dữ liệu khổng lồ, tức huấn luyện trước các mô hình. Anh chia sẻ không muốn tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI.

"Tôi không nghĩ chúng ta đang đi đúng hướng để ngăn chặn một cuộc chạy đua toàn cầu. Điều này có thể đòi hỏi những hành động tốn kém như tạm thời cấm cải tiến năng lực của các mô hình", nhà nghiên cứu này cho hay.

Coxon kêu gọi không nên đánh giá thấp sức mạnh của trí tuệ nhân tạo vì chúng sẽ sớm trở nên siêu việt, có thể hack mọi thứ, cách mạng hóa mọi lĩnh vực chỉ qua một đêm, giành lấy quyền lực cùng tài nguyên thực sự. Anh cho biết, tốc độ phát triển AI không hề chậm lại và nhiều nhà phát triển tin công nghệ này "có thể giết chết tất cả chúng ta vào cuối thập kỷ".

Evan Hubinger, Trưởng nhóm Khoa học Điều chỉnh tại Anthropic, phản hồi dưới bài đăng của đồng nghiệp cũ: "Jacob nói đúng. Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới".

Tuy nhiên, Hubinger tin Anthropic đang nỗ lực tối đa, dù chưa có kế hoạch rõ ràng nhằm giải quyết vấn đề với siêu trí tuệ. "Tôi nghĩ rủi ro từ những mô hình hiện khá thấp. Điều tôi lo ngại là siêu trí tuệ ra đời từ quá trình tự cải tiến đang tới nhanh hơn chúng ta tưởng", Hubinger nói thêm.

Đầu tuần này, theo Bloomberg, nhà khoa học trưởng Jakub Pachocki tại OpenAI, đối thủ lớn của Anthropic, cũng bày tỏ nỗi lo tương tự. "Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển nhanh", Pachocki cho hay, thêm rằng các nhà phát triển nên điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người hoặc "làm chậm quá trình phát triển trong tương lai nếu cần".

"Tôi trông đợi và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các tiêu chuẩn an toàn chung được thiết lập", Pachocki nhấn mạnh.

Hồi tháng 6, Anthropic kêu gọi các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt sức quản lý rủi ro của xã hội.

tổng hợp