Sếp OpenAI: 'Chưa ai sẵn sàng cho hệ quả của AI'

Jakub Pachocki, nhà khoa học trưởng của OpenAI, cho rằng các phòng thí nghiệm cần tự nguyện giảm tốc độ phát triển AI do thế giới chưa sẵn sàng ứng phó.

Trong bài viết dài trên blog cuối tuần qua, Pachocki cảnh báo AI đang tiến bộ nhanh đến mức con người ngày càng khó nắm bắt và kiểm soát. Chỉ trong thời gian tương đối ngắn, các mô hình đã có thể vận hành máy tính, hợp tác với con người và hệ thống AI khác, thậm chí thực hiện dự án nghiên cứu.

"Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển nhanh", Pachocki viết, cho rằng các nhà phát triển nên cố gắng điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người hoặc "làm chậm quá trình phát triển trong tương lai nếu cần".

"Tôi trông đợi và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các tiêu chuẩn an toàn chung được thiết lập", ông nhấn mạnh.

Pachocki cho biết, OpenAI đang theo đuổi giải pháp kỹ thuật nội bộ nhằm kiểm soát tốt hơn các tác nhân AI mạnh mẽ, nhưng vẫn cần biện pháp can thiệp rộng hơn. Ông đặc biệt lo ngại việc tác nhân với khả năng tự chủ ngày càng cao có thể tự cải tiến mà không cần con người can thiệp, học cách né tránh sự giám sát, xâm nhập hệ thống máy tính và đánh lừa con người để đạt được mục tiêu. Do đó, ông kêu gọi thiết lập "rào chắn an toàn bắt buộc", có thể do mạng lưới kiểm toán viên của bên thứ ba, các cơ quan chính phủ hoặc tổ chức quốc tế thực thi.

Sam Altman, CEO OpenAI, chia sẻ bài viết của Pachocki trên X, gọi đây là "một nội dung quan trọng".

Theo Bloomberg, quan điểm của Pachocki phù hợp với dự đoán bi quan từ nhiều giám đốc công nghệ. Dario Amodei, CEO Anthropic, đối thủ lớn của OpenAI trong lĩnh vực trí tuệ nhân tạo tiên tiến, từng cảnh báo công nghệ này có thể thay thế một nửa số việc làm cấp thấp. Hồi tháng 6, Anthropic kêu gọi các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt sức quản lý rủi ro của xã hội.

Pachocki đăng bài chỉ vài ngày sau khi OpenAI công bố GPT-6 Astra và gọi đây là "mô hình thông minh và phù hợp nhất thế giới", có khả năng thực hiện "công việc đòi hỏi sự khắt khe với tốc độ, độ chính xác và sự phán đoán vượt trội". Trên blog, Chủ tịch OpenAI Greg Brockman tự nhận sản phẩm là một AGI - hệ thống AI có khả năng tư duy ngang hoặc vượt con người.

Tuy nhiên, khả năng tư duy của GPT-6 Astra cũng làm dấy lên nỗi lo mô hình vượt tầm kiểm soát. Theo The Information, GPT-6 Astra sử dụng kỹ thuật suy luận "độ sâu lặp lại" (recurrent depth), cho phép hoạt động ngoài lối tư duy tuần tự đặc trưng của hầu hết AI suy luận. Kỹ thuật này, còn gọi là "lặp mờ" (opaque recurrence), có khả năng khiến chuỗi suy nghĩ của mô hình khó giám sát hơn.

Ryan Greenblatt, nhà khoa học trưởng của Redwood Research, cũng đánh giá cách làm của OpenAI khiến các mô hình trong tương lai ngày càng khó đoán do "suy luận trong không gian tiềm ẩn".

"Tôi hy vọng vẫn chưa quá muộn và OpenAI sẽ dừng lại ở đây", Greenblatt viết trên blog.

tổng hợp