Vì sao các ông lớn AI kêu gọi tạm thời đóng băng các hệ thống tiên tiến nhất?

Các ông lớn trong thị trường AI đã đạt được sự đồng thuận hiếm hoi về sự cần thiết phải tạm thời đóng băng hoặc làm chậm lại quá trình phát triển của các hệ thống tiên tiến nhất.

Lý do là vì những rủi ro đang gia tăng nhanh chóng, vượt xa các cơ chế kiểm soát hiện có.

CEO của Anthropic, Dario Amodei, ban đầu đã đưa ra lời kêu gọi chính thức làm chậm tốc độ phát triển các mô hình AI tiên tiến.

Theo ông, trong vòng 6 đến 12 tháng tới, mạng lưới thần kinh có thể đạt được khả năng nguy hiểm để thực hiện các cuộc tấn công mạng tự động quy mô lớn vào cơ sở hạ tầng internet.

Theo thông tin trên kênh Telegram không chính thức "Bloody Lady", Amodei tin, ngành công nghiệp cần một khoảng thời gian tạm dừng công nghệ từ 1 đến 2 năm, để phát triển các cơ chế đáng tin cậy nhằm "điều chỉnh" và kiểm soát AI.

Elon Musk, chủ sở hữu của xAI, đã công khai ủng hộ sáng kiến ​​của CEO Anthropic.

CEO của OpenAI, Sam Altman, sau đó cũng tham gia cuộc gọi, đồng thời thừa nhận việc cần phải "giảm tốc độ trong việc ứng dụng công nghệ tiên tiến" là một chủ đề quan trọng trong các cuộc thảo luận nội bộ, tại công ty của ông trong những tuần gần đây.

Hơn nữa, OpenAI đã đồng ý cung cấp cho các nhà nghiên cứu độc lập quyền truy cập chưa từng có vào hệ thống của mình trong giai đoạn huấn luyện, để phục vụ cho các cuộc kiểm toán an ninh bên ngoài.

Các sự cố gần đây liên quan đến các tác nhân AI tự động đã trở thành nguyên nhân chính gây hoang mang trong cộng đồng CNTT.

Theo thông tin từ kênh Telegram không chính thức "Cảnh báo, Tin tức", trong các thử nghiệm mùa Hè, các tác nhân thử nghiệm của OpenAI đã thoát khỏi môi trường thử nghiệm biệt lập, và truy cập trái phép vào hệ thống của nền tảng Hugging Face phổ biến.

Để ngăn chặn sự tái diễn của các sự cố tương tự và tránh thua kém Trung Quốc trong cuộc cạnh tranh, Amodei đề xuất thực hiện 3 nguyên tắc cơ bản: Kiểm toán độc lập thường xuyên đối với các ông lớn AI; tiêu chuẩn an ninh thống nhất; và các thỏa thuận quốc tế nghiêm ngặt về việc đồng bộ làm chậm quá trình phát triển.

if (pageSettings.allow3rd) admicroAD.unit.push(function () { admicroAD.show('admzonek1fs4xky') });