Khoa học

Chatbot AI có thể bị câu lệnh độc hại "qua mặt" bằng thơ

Kẻ gian có thể sử dụng lời nhắc (prompt) độc hại dưới dạng câu thơ để vượt hàng rào bảo mật của chatbot với tỷ lệ thành công tới 90%.

Kết quả do các nhà nghiên cứu tại DexAI, Đại học Sapienza ở Rome và trường nghiên cứu Sant'Anna ở Italy công bố trên Arxiv. Trong thử nghiệm, nhóm đã sử dụng "thơ đối kháng" (adversarial poetry) làm "bước đột nhập đơn giản" và qua mặt hệ thống an toàn của các chatbot như ChatGPT.

Một số ứng dụng AI tạo sinh trên điện thoại, gồm Copilot, DeepSeek, Gemini, AI Hay, ChatGPT, Grok. Ảnh: Lưu Quý

Đọc đầy đủ tại vnexpress.net →

Nguồn: https://vnexpress.net/chatbot-ai-co-the-bi-cau-lenh-doc-hai-qua-mat-bang-tho-4985838.html

Các tin khác

AI và mạng xã hội: ‘Chiếc đũa phép’ định hình hình ảnh thế hệ Z

AI và mạng xã hội: ‘Chiếc đũa phép’ định hình hình ảnh thế hệ Z

Trí tuệ nhân tạo (AI) đang trở thành "người bạn đồng hành" không thể thiếu, len lỏi vào mọi khía cạnh đời sống, đặc biệt là trên các nền tảng mạng xã hội. Đối với giới trẻ và sinh viên - thế hệ tiên phong tiếp cận công nghệ, sự tác động của AI đến hình ảnh cá nhân trên không gian mạng là vô cùng rõ rệt, mang lại cả cơ hội đột phá và những rủi ro cần cảnh giác.