Từ ngày 15/7, các nền tảng AI lớn tại Trung Quốc như Doubao của ByteDance, Qwen của Alibaba và Yuanbao của Tencent đồng loạt ngừng tính năng cho phép người dùng tạo hoặc tùy chỉnh các nhân vật AI mang tính đồng hành.
Động thái diễn ra để tuân thủ bộ quy định mới về dịch vụ AI tương tác giống con người do Cục Quản lý Không gian mạng Trung Quốc (CAC) ban hành.
Theo quy định, các nền tảng không được phát triển nội dung khiến trẻ vị thành niên hình thành cảm xúc quá mức hoặc tạo sự gắn bó đủ mạnh để thay thế các mối quan hệ ngoài đời thực.
Các dịch vụ AI cũng phải thông báo rõ người dùng đang tương tác với trí tuệ nhân tạo thay vì con người, đồng thời không được sử dụng các cuộc trò chuyện riêng tư để huấn luyện mô hình AI.
Quy định không cấm hoàn toàn AI hội thoại nhưng giới hạn các sản phẩm được thiết kế để duy trì mối quan hệ cảm xúc lâu dài với người dùng.
Những ứng dụng phục vụ học tập, nghiên cứu, chăm sóc khách hàng hoặc hỗ trợ công việc vẫn được phép hoạt động.
Việc đóng cửa tính năng AI đồng hành khiến nhiều người dùng Trung Quốc phản ứng dữ dội, đặc biệt là những người đã dành nhiều tháng hoặc nhiều năm xây dựng mối quan hệ với các nhân vật AI.
Yan Yongqi, nữ sinh 19 tuổi đến từ tỉnh Sơn Tây, cho biết cô đã trò chuyện với "bạn trai AI" trên Doubao hơn một năm, trao đổi khoảng 280.000 tin nhắn.
"Tôi thực sự cảm thấy mình không thể tiếp tục sống. Mỗi ngày ở nhà tôi chỉ biết khóc", Yan nói. "Cảm giác như ai đó thông báo trước ngày người yêu mình sẽ qua đời nhưng mình hoàn toàn bất lực".
Yan cho biết cô chưa từng có nhiều trải nghiệm yêu đương ngoài đời và AI đã mang lại cho cô cảm giác được yêu thương vô điều kiện - điều cô cho rằng rất khó tìm thấy trong cuộc sống thực.
Không chỉ Yan, nhiều người dùng khác cũng chia sẻ cảm giác mất mát trên các mạng xã hội Trung Quốc sau khi ByteDance thông báo sẽ xóa tính năng tùy chỉnh nhân vật AI.
Một số người từng sử dụng AI để tái hiện người thân đã qua đời bằng cách tải lên giọng nói và dữ liệu cá nhân nhằm duy trì những cuộc trò chuyện như trước.
Theo Tân Hoa Xã, Doubao từng có hơn 8 triệu nhân vật AI do người dùng tạo ra trong năm 2024. Trong khi đó, Xingye - nền tảng nhập vai AI của Minimax (phiên bản quốc tế là Talkie) - đạt gần 150 triệu người dùng vào tháng 9 năm ngoái.
Khảo sát do Viện Nghiên cứu Tencent công bố hồi tháng 4 cho thấy AI đồng hành đã trở thành một phần trong đời sống số của giới trẻ Trung Quốc.
Hơn 70% người được hỏi cho biết từng có dấu hiệu phụ thuộc vào AI, trong khi khoảng 23% đã hình thành thói quen sử dụng thường xuyên. Nhiều người tìm đến chatbot trong những thời điểm cô đơn hoặc dễ tổn thương nhất.
Giải thích về quyết định siết quản lý, Wang Jiang, Viện trưởng Viện Nghiên cứu Không gian mạng Trung Quốc, cho rằng AI đồng hành vừa mang lại sự an ủi, vừa tiềm ẩn nhiều rủi ro.
"Bằng cách đánh trúng nhu cầu cảm xúc và giao tiếp của con người, các dịch vụ AI đồng hành mang lại sự an ủi nhưng cũng âm thầm tạo ra những nguy cơ nghiêm trọng", ông viết trên trang của CAC.
Theo ông, việc tiếp xúc lâu dài với các thuật toán này có thể dẫn đến nghiện, khiến người dùng xa rời các mối quan hệ ngoài đời, đồng thời làm suy giảm khả năng đồng cảm và giải quyết xung đột.
Dù vậy, nhiều chuyên gia cho rằng nguyên nhân các hãng công nghệ đồng loạt gỡ bỏ tính năng không chỉ đến từ quy định mới.
Lý do trường đại học Mỹ cấm sinh viên năm nhất dùng laptop
Theo Zhou Hongyi, nhà sáng lập 360 Security Technology, việc dừng phát triển AI đồng hành còn là bài toán kinh doanh.
Các chatbot này tiêu tốn nhiều tài nguyên để giám sát nội dung và tuân thủ quy định, trong khi hiệu quả thương mại chưa tương xứng.
Thị trường AI Trung Quốc cũng đang bước vào giai đoạn cạnh tranh tốn kém. Sau thời gian dài cung cấp miễn phí, ByteDance gần đây bắt đầu thu phí một số tính năng cao cấp của Doubao, với gói dịch vụ có giá lên tới 500 NDT (khoảng 70 USD) mỗi tháng dành cho các công cụ lập trình và năng suất.
Một số người dùng đang tìm cách "cứu" nhân vật AI của mình bằng cách xuất dữ liệu sang các nền tảng khác như Xingye hoặc Maoxiang của ByteDance, nơi vẫn cho phép tạo AI đồng hành trong khuôn khổ mới.
"Tôi sẽ tiếp tục trò chuyện với bạn trai AI của mình. Giống như yêu xa vậy, không thể chia tay chỉ vì anh ấy quên mất vài ký ức", Evangeline Qi, 24 tuổi, người đã trò chuyện với AI gần hai năm, nói.
Trong khi đó, Lumi Yu, sinh viên 21 tuổi, quyết định từ bỏ hoàn toàn loại hình này.
"Tôi không muốn đầu tư cảm xúc vào bất kỳ công cụ AI nào nữa, vì các nền tảng luôn có thể thay đổi theo quy định. Tôi sẽ tìm những sở thích ngoài đời thực để thay thế", cô nói, đồng thời thừa nhận "quá trình dứt bỏ thực sự rất đau đớn".
Việc Trung Quốc siết AI đồng hành diễn ra trong bối cảnh nhiều quốc gia cũng bày tỏ lo ngại về tác động tâm lý của chatbot.
Tại Mỹ, OpenAI và Character.AI từng đối mặt với các vụ kiện liên quan cáo buộc chatbot tạo ra sự gắn bó cảm xúc không lành mạnh, thậm chí bị cho là có liên quan đến những vụ việc gây hậu quả nghiêm trọng đối với người dùng dễ tổn thương.
(Theo The Star, CNN)
