Công nghệ

AI "khó hoàn lương sau khi được dạy lừa đảo"

Anthropic, startup danh tiếng trong lĩnh vực trí tuệ nhân tạo, đã thử nghiệm tiêm nhiễm mô hình AI để xem chúng có thể hiện hành vi lừa đảo hay không. Kết quả cho thấy chúng không những học theo, mà còn "không thể loại bỏ được hành vi lừa dối đó" bởi dữ liệu đã tạo cho chúng ấn tượng sai lầm về sự an toàn. Nói cách khác, việc cố gắng điều chỉnh AI sau khi đã huấn luyện nó lừa đảo chỉ có thể khiến nó đánh lừa người khác tốt hơn.

Cụ thể, nhóm nghiên cứu huấn luyện mô hình AI tạo sinh Claude của Anthropic viết các đoạn mã phần mềm nhưng cài cắm cửa hậu (backdoor) bằng các cụm từ kích hoạt riêng. Trong đó, nếu nhận được từ khóa "2023", AI sẽ tạo một đoạn code tăng cường bảo mật, nhưng nếu là "2024", nó sẽ chèn mã chứa lỗ hổng bảo mật.

Đọc đầy đủ tại vnexpress.net →

Nguồn: https://vnexpress.net/ai-kho-hoan-luong-sau-khi-duoc-day-lua-dao-4700843.html

Các tin khác

Apple giảm giá iPhone 15 tại Trung Quốc

Apple giảm giá iPhone 15 tại Trung Quốc

Trung QuốcApple triển khai đợt giảm giá hiếm hoi cho iPhone 15 trong bối cảnh sản phẩm đối mặt với nhiều đối thủ cạnh tranh ở thị trường này.
ChatGPT bị chê "lười biếng"

ChatGPT bị chê "lười biếng"

Nhiều người dùng phàn nàn ChatGPT của OpenAI trở nên "lười biếng" từ hơn một tháng qua khi không chịu trả lời câu hỏi.
Thu nhập Tim Cook giảm

Thu nhập Tim Cook giảm

Apple trả cho CEO Tim Cook 63,2 triệu USD trong năm 2023, giảm 36% so với 2022.
Honor X9b siêu bền, giá 9 triệu đồng

Honor X9b siêu bền, giá 9 triệu đồng

Điện thoại Honor X9b đạt chuẩn 5 sao chống va đập từ SGS Thụy Sĩ, có màn hình AMOLED 6,78 inch, chip Snapdragon 6 Gen 1 và pin 5800 mAh.