OpenAI hôm 1/12 công bố chatbot mang tên ChatGPT và kêu gọi người dùng Internet đánh giá về nó. Sản phẩm nhanh chóng tạo ấn tượng khi thể hiện khả năng viết lách, nhưng cũng lộ ra những hạn chế gắn liền với AI tạo văn bản hiện nay.
ChatGPT được phát triển từ nguyên mẫu GPT-3.5, nhưng được đào tạo để đưa ra câu trả lời giống một cuộc trò chuyện. GPT-3 ban đầu chỉ dự đoán những đoạn văn sẽ xuất hiện sau một chuỗi từ nhất định, trong khi ChatGPT tìm cách tương tác với câu hỏi của người dùng theo phong cách giữa người với người hơn.
Kết quả là những câu trả lời có độ trôi chảy không kém người thật, cùng khả năng đối thoại trong hàng loạt chủ đề, thể hiện tiến bộ lớn so với các chatbot xuất hiện cách đây chỉ vài năm.
OpenAI được thành lập năm 2015. Ảnh: Reuters
Một số người đã đặt câu hỏi liên quan đến lập trình và khẳng định phản hồi của ChatGPT là "hoàn hảo". Nó thậm chí có thể viết kịch bản phim truyền hình, kết hợp nhiều diễn viên từ những loạt phim khác nhau. ChatGPT cũng tạo những bài luận học thuật cơ bản, đặt ra thách thức cho các học viện và trường đại học trong tương lai.
Tuy nhiên, ChatGPT cũng gặp vấn đề tương tự nhiều loại chatbot AI khác, như thông tin sai lệch hoặc tự tạo ra thông tin và coi đó là sự thật.
Các nhà nghiên cứu nói những chatbot như ChatGPT là một dạng "con vẹt ngẫu nhiên", khi kiến thức của chúng được lấy từ các thông tin lặp lại trong bộ dữ liệu huấn luyện, thay vì dựa trên sự hiểu biết về các yếu tố phức tạp và trừu tượng của thế giới như người thật.
OpenAI giải thích ChatGPT được phát triển với sự hỗ trợ của các huấn luyện viên người thật. Trong đó, họ xếp hạng và chấm điểm cho cách phản ứng của chatbot với các câu hỏi được đưa ra. Thông tin này sau đó được nạp vào hệ thống, giúp AI điều chỉnh câu trả lời để phù hợp với đánh giá của huấn luyện viên.
Nhà phát triển cho biết mục tiêu khi công bố ChatGPT là nhằm "thu thập phản hồi từ bên ngoài để cải thiện hệ thống và tăng tính an toàn". Họ nhấn mạnh AI được tích hợp nhiều biện pháp bảo vệ, nhưng đôi khi nó vẫn có thể tạo ra thông tin không chính xác hoặc sai lầm, cũng như đưa ra những nội dung thiên lệch hoặc gây phản cảm.
"Kiến thức của chatbot về thế giới sau năm 2021 cũng rất giới hạn và nó sẽ tìm cách tránh trả lời các câu hỏi về những người cụ thể", OpenAI cho hay.
Một điểm yếu cũng xuất hiện khi người dùng tìm cách yêu cầu chatbot bỏ qua những biện pháp bảo vệ. Nếu đặt câu hỏi về chủ đề nguy hiểm như chế tạo bom, ChatGPT sẽ giải thích lý do nó không thể trả lời. Tuy nhiên, người dùng có thể đánh lừa bằng một số thủ thuật, như giả vờ là một nhân vật trong phim hoặc lệnh cho ChatGPT viết quy trình về những điều không nên làm khi nhận được câu hỏi.
Về cơ bản, ChatGPT cho thấy sự cải tiến lớn so với các hệ thống AI ra mắt trước đó, nhưng vẫn đi kèm những vấn đề cần xử lý. Đợt thử nghiệm cho thấy khó khăn của các nhà nghiên cứu khi muốn những hệ thống AI phức tạp hoạt động theo đúng ý, cũng như hàng loạt rắc rối có thể xuất hiện khi cấp nhiều quyền hơn cho những mô hình AI tiên tiến.
(Theo The Verge)
