Lỗ hổng bảo mật này của ChatGPT Atlas cho phép kẻ tấn công chèn các lệnh độc hại vào bộ nhớ của trợ lý trí tuệ nhân tạo (AI), từ đó có thể thực thi mã tùy ý. Theo nhà đồng sáng lập kiêm CEO Or Eshed của LayerX Security, lỗ hổng này có thể dẫn đến việc kẻ tấn công lây nhiễm mã độc vào hệ thống, chiếm quyền truy cập hoặc triển khai phần mềm độc hại.
Lỗ hổng khiến người dùng trình duyệt ChatGPT Atlas cần hết sức cẩn thận.
Cuộc tấn công khai thác lỗ hổng giả mạo yêu cầu chéo trang (Cross-Site Request Forgery, hay CSRF), cho phép kẻ tấn công chèn các lệnh độc hại vào “bộ nhớ” của ChatGPT. Bộ nhớ này có thể tồn tại trên nhiều thiết bị và phiên làm việc, tạo điều kiện cho kẻ tấn công thực hiện nhiều hành động khác nhau, bao gồm chiếm quyền kiểm soát tài khoản và hệ thống của người dùng.
Được OpenAI giới thiệu lần đầu vào tháng 2/2024, bộ nhớ của ChatGPT nhằm mục đích giúp chatbot AI ghi nhớ các chi tiết hữu ích giữa các cuộc trò chuyện, từ đó cung cấp phản hồi cá nhân hóa. Tuy nhiên, lỗ hổng này đã biến tính năng hữu ích thành một vũ khí lợi hại, cho phép các lệnh độc hại tồn tại trừ khi người dùng tự mình xóa chúng trong phần cài đặt.
Cẩn trọng khi sử dụng trình duyệt AI
Michelle Levy, giám đốc nghiên cứu bảo mật tại LayerX Security, cho biết: “Điều khiến lỗ hổng này trở nên đặc biệt nguy hiểm là nó nhắm vào bộ nhớ liên tục của AI, không chỉ đơn thuần là phiên trình duyệt”. Bà Levy cũng nhấn mạnh rằng, một khi bộ nhớ của ChatGPT bị nhiễm độc, các yêu cầu hợp lệ tiếp theo có thể kích hoạt việc truy xuất mã hoặc đánh cắp dữ liệu mà không bị phát hiện.
Quá trình tấn công nhằm vào lỗ hổng ChatGPT Atlas diễn ra như sau:
- Người dùng đăng nhập vào ChatGPT.
- Người dùng bị lừa khởi chạy một liên kết độc hại thông qua các phương thức truyền thông xã hội.
- Trang web độc hại kích hoạt yêu cầu CSRF, lợi dụng việc người dùng đã được xác thực để chèn các hướng dẫn ẩn vào bộ nhớ của ChatGPT.
- Khi người dùng truy vấn ChatGPT cho mục đích hợp pháp, các bộ nhớ bị nhiễm độc sẽ được gọi, dẫn đến việc thực thi mã độc.
Tốt hơn hết hãy tránh xa ChatGTP Atlas trong các nhiệm vụ nhạy cảm như giao dịch ngân hàng.
LayerX Security cho biết, vấn đề trở nên nghiêm trọng hơn do ChatGPT Atlas thiếu các biện pháp kiểm soát chống lừa đảo mạnh mẽ, khiến người dùng dễ bị tấn công hơn tới 90% so với các trình duyệt truyền thống như Google Chrome hay Microsoft Edge. Trong các thử nghiệm, Edge đã ngăn chặn được 53% các lỗ hổng bảo mật web, trong khi ChatGPT Atlas chỉ ngăn chặn được 5,8%.
Sự phát triển này diễn ra trong bối cảnh các tác nhân AI đã trở thành phương tiện đánh cắp dữ liệu phổ biến trong môi trường doanh nghiệp. Or Eshed nhấn mạnh: “Khi trình duyệt trở thành giao diện chung cho AI, các doanh nghiệp cần coi nó là cơ sở hạ tầng quan trọng, vì đó là ranh giới tiếp theo của năng suất và công việc AI”.
