Đội quân AI chống lừa đảo của Kitboga
Kitboga bắt đầu hành trình chống lừa đảo vào năm 2017 với tư cách là một nhà phát triển phần mềm và streamer trên Twitch. Dựa trên những câu chuyện từ người xem và những nạn nhân của hành vi trộm cắp tài chính và danh tính, anh bắt đầu khám phá ra một thế giới lừa đảo rộng lớn, từ lừa đảo hỗ trợ kỹ thuật đến các chương trình tiền điện tử và tống tiền tình cảm.
Trong khi những kẻ lừa đảo nhắm vào những người dễ bị tổn thương, Kitboga và những người như anh lại giăng bẫy để dụ dỗ chúng. "Chúng tôi đang săn lùng chúng", anh nói với CNET. Hàng trăm video trên kênh YouTube gần 3,7 triệu người theo dõi của anh mô tả đủ trò lừa đảo, từ thẻ quà tặng đến bảo hiểm và thuế, nơi anh thường đóng giả là một bà cụ cả tin và nghễnh ngãng.
Trong một video, Kitboga sử dụng công cụ thay đổi giọng nói để giả vờ là nạn nhân bất lực của một vụ lừa đảo hoàn tiền. Kẻ lừa đảo nói rằng Kitboga đủ điều kiện để được hoàn tiền và cần truy cập từ xa vào máy tính để gửi tiền cho anh. Truy cập từ xa cho phép kẻ lừa đảo kiểm soát hoàn toàn máy tính và dữ liệu. Tuy nhiên, Kitboga đã lường trước và chuẩn bị một tài khoản giả trên máy tính ảo. Sau đó, Kitboga được kẻ lừa đảo gửi link đến trang web giả mạo ngân hàng Bank of America. Kitboga đã báo cáo trang giả mạo này với bộ phận chống gian lận trên mạng. Trong vòng một hoặc hai ngày, trang web đó bị gỡ xuống.
8 năm trước, Kitboga thậm chí còn chưa từng nghe nói đến lừa đảo hỗ trợ kỹ thuật. Trò này thường có mô típ chung là kẻ gian gọi điện báo có vấn đề kỹ thuật với máy tính hoặc tài khoản. Sau đó, trong khi giả vờ sửa chữa, chúng thuyết phục bạn gửi tiền hoặc thông tin.
Hình thức lừa đảo này nhắm vào người cao tuổi và những người không am hiểu về công nghệ. Kitboga có thể tưởng tượng ra cảnh ông bà mình, những người mắc chứng mất trí và Alzheimer, mắc bẫy. Đó là lúc anh nhận ra phải làm gì đó.
Bằng cách sử dụng chatbot AI tạo sinh, Kitboga đã xây dựng một đội quân AI chống lừa đảo hùng hậu. Bot chuyển đổi giọng nói của kẻ lừa đảo thành văn bản và sau đó chạy qua mô hình ngôn ngữ tự nhiên để tạo ra phản hồi riêng theo thời gian thực.
Kitboga sử dụng sự am hiểu các chiến thuật lừa đảo để đào tạo mô hình AI và anh có thể liên tục cải thiện mã để làm cho nó hiệu quả hơn. Trong một số trường hợp, bot thậm chí có thể lật ngược tình thế với kẻ gian và đánh cắp thông tin của chúng.
Những bot của Kitboga hoạt động như bản sao của anh, tạo thành một đội quân chống lừa đảo hoạt động 24/7, ngay cả khi anh không có mặt. Đây là lợi thế vô giá khi đối phó với các trung tâm cuộc gọi có nhiều kẻ lừa đảo làm việc cùng lúc.
Kitboga hiện chỉ có thể chạy sáu đến 12 bot cùng một lúc do hạn chế về phần cứng. Khi đang nói chuyện điện thoại với một kẻ lừa đảo tại tổng đài, anh thường nghe thấy một trong những con bot của mình đang lừa một kẻ lừa đảo khác ở phía sau. Với tốc độ phát triển nhanh chóng của công nghệ này, anh hy vọng sẽ sớm chạy được nhiều bot hơn nữa.
Việc đánh bẫy kẻ lừa đảo không chỉ cho mục đích giải trí hay giáo dục. "Tôi góp phần phần nâng cao nhận thức", Kitboga nói. "Trong tám năm qua, chúng tôi đã có hơn nửa tỷ lượt xem trên YouTube".
Để thực sự tạo ra tác động, Kitboga và nhóm của anh đang ngày càng quyết liệt hơn. Ví dụ, họ sử dụng bot để đánh cắp thông tin của kẻ lừa đảo và sau đó chia sẻ thông tin đó với các cơ quan chức năng nhắm vào các đường dây lừa đảo. Trong một số trường hợp, nhiều cơ sở lừa đảo bị đóng cửa và khiến những kẻ lừa đảo mất hàng nghìn USD.
Daisy, bà ngoại AI chống lừa đảo
Cũng giống như Kitboga có động lực truy đuổi những kẻ lừa đảo để ngăn chặn chúng lừa đảo người già, công ty viễn thông O2 của Anh đã tạo ra một mồi bẫy lý tưởng để thu hút.
Gặp Daisy (hay còn gọi là "dAIsy"), một chatbot AI được thiết kế với giọng nói được lấy từ người thật với ngoại hình bà ngoại cổ điển, mái tóc bạc, đeo kính và một chú mèo tên là Fluffy. Daisy được phát triển với truyền thống gia đình và tính cách kỳ quặc của riêng mình, được trang bị công thức làm bánh meringue chanh mà bà sẽ chia sẻ nó bất cứ khi nào có cơ hội.
O2 cố tình "rò rỉ" thông tin nhạy cảm của bà lão AI trên internet, tạo cơ hội vàng cho những kẻ lừa đảo đánh cắp danh tính tìm đến. Công việc của Daisy là chỉ cần chờ những kẻ lừa đảo gọi điện. "Bà ấy không ngủ, không ăn, nên lúc nào cũng túc trực để nghe điện thoại", một đại diện của O2 mô tả.
Dù Daisy chỉ có thể xử lý một cuộc gọi mỗi lúc, nhưng bà đã tương tác với gần 1.000 kẻ lừa đảo trong nhiều tháng qua. Bà lắng nghe những thủ đoạn của chúng hoặc giữ chúng trên điện thoại càng lâu càng tốt. Dù Daisy không trực tiếp lừa đảo, nhưng bot này thu thập dữ liệu về các chiêu trò lừa đảo, góp phần nghiên cứu và phát triển các biện pháp chống gian lận bằng AI.
Theo Karisse Hendrick, chuyên gia về gian lận mạng, khi những kẻ lừa đảo sử dụng AI để thực hiện hành vi gian lận, cách duy nhất để ngăn chặn là đánh bại chúng trong chính trò chơi AI. "Chúng ta phải lấy độc trị độc", Hendrick nói.
