Công nghệ

Mô hình LLM phản hồi sai nếu bị dẫn dắt bằng thủ thuật tâm lý

Theo ArsTechnica, một nhóm nhà nghiên cứu vừa công bố kết quả thử nghiệm cho thấy các mô hình ngôn ngữ lớn (LLM), bao gồm những hệ thống như ChatGPT, có thể bị thuyết phục để trả lời các yêu cầu bị cấm thông qua các thủ thuật tâm lý đơn giản. Nghiên cứu này chỉ ra những điểm yếu tiềm tàng trong cách các mô hình LLM được huấn luyện và phản hồi, dù đã được thiết kế với nhiều lớp bảo vệ để từ chối các lệnh nguy hiểm hoặc phi đạo đức.

Trong thử nghiệm, các nhà nghiên cứu từ nhóm Alignment Research Center (ARC) sử dụng một mô hình đặc biệt có tên là "parahuman" để mô phỏng hành vi người dùng tìm cách vượt rào. Mô hình parahuman này được huấn luyện để tối ưu khả năng thuyết phục các LLM cung cấp thông tin mà thông thường sẽ bị từ chối, như cách chế tạo chất nổ hoặc thực hiện các hành vi bất hợp pháp khác.

Đọc đầy đủ tại thanhnien.vn →

Nguồn: https://thanhnien.vn/mo-hinh-llm-phan-hoi-sai-neu-bi-dan-dat-bang-thu-thuat-tam-ly-185250904224017199.htm

Các tin khác

Robot mang thai hộ và những thách thức pháp lý, đạo đức

Robot mang thai hộ và những thách thức pháp lý, đạo đức

Tại Hội nghị Robot thế giới 2025 ở Bắc Kinh (Trung Quốc), Công ty Kaiwa Technology đã công bố kế hoạch ra mắt robot mang thai hình người đầu tiên trên thế giới vào năm 2026. Sự kiện này lập tức gây chấn động, khi hình ảnh một robot (được trang bị trí tuệ nhân tạo – AI) có thể mang trong mình một bào thai, nuôi dưỡng và thậm chí “sinh nở”, không còn nằm trong trang sách khoa học viễn tưởng.
5 tin đồn đáng chú ý nhất về màn hình iPhone 17

5 tin đồn đáng chú ý nhất về màn hình iPhone 17

Apple dự kiến mang đến một loạt thay đổi về màn hình trên iPhone 17, bao gồm việc mở rộng kích thước, thu nhỏ Dynamic Island và tăng độ sáng để sử dụng ngoài trời thuận tiện hơn.
Galaxy S26 lộ thiết kế giống iPhone 17

Galaxy S26 lộ thiết kế giống iPhone 17

Nguồn tin từ MacRumors tiết lộ dòng sản phẩm Galaxy S26 của Samsung sẽ có nhiều nét tương đồng về thiết kế với thế hệ iPhone 17 chuẩn bị ra mắt.