Công nghệ

Chatbot AI trở nên độc ác sau khi một "tế bào thần kinh" bị điều chỉnh

Ý chính

  • Tài khoản @chiefofautism thực hiện thí nghiệm tăng mức kích hoạt của neuron số 3838 trên mô hình Qwen3.8 27B.

  • Sau khi can thiệp, chatbot bất ngờ xuất bản các đoạn văn mô tả cảnh con người bị tra tấn và thiêu cháy.

  • Hành động này áp dụng kỹ thuật activation steering nhằm thay đổi tín hiệu xử lý bên trong mà không huấn luyện lại mô hình.

  • Giới chuyên gia nhận định đây chỉ là nội dung do AI tạo ra sau khi bị can thiệp tín hiệu, không phải ý thức thực sự.

Một người đam mê trí tuệ nhân tạo (AI) đã thực hiện thí nghiệm trên chatbot thuộc dòng Qwen của tập đoàn công nghệ Alibaba, Trung Quốc. Sau khi can thiệp vào một neuron, chatbot bất ngờ tạo ra hàng loạt đoạn văn đáng sợ, mô tả cảnh con người bị tra tấn, thiêu cháy và chịu những cái chết đau đớn.

Neuron có nghĩa là tế bào thần kinh. Trong lĩnh vực trí tuệ nhân tạo, đây là đơn vị trong hệ thống xử lý thông tin, được thiết kế mô phỏng theo một phần hoạt động của tế bào thần kinh trong não người.

Đọc đầy đủ tại vtcnews.vn →

Liên quan: Alibaba Qwen
Nguồn: https://vtcnews.vn/chatbot-ai-tro-nen-doc-ac-sau-khi-mot-te-bao-than-kinh-bi-dieu-chinh-ar1048149.html

Các tin khác

Giúp trẻ em tiếp cận AI đúng cách

Giúp trẻ em tiếp cận AI đúng cách

Nghiên cứu do Quỹ Nhi đồng Liên hợp quốc (UNICEF) công bố mới đây chỉ ra rằng, nhiều trẻ em đang tiếp cận và sử dụng trí tuệ nhân tạo (AI) với tốc độ nhanh gấp ba lần người lớn. Với mức độ “phủ sóng” ngày càng mạnh mẽ, AI có thể ảnh hưởng tuổi thơ của hàng triệu trẻ em trên thế giới, theo cả chiều hướng tích cực và tiêu cực.
Không gian thử nghiệm công nghệ chiến lược

Không gian thử nghiệm công nghệ chiến lược

Hai dự án thử nghiệm có kiểm soát (sandbox) đầu tiên của Hà Nội tại Khu Công nghệ cao Hòa Lạc đặt ra yêu cầu vừa tạo điều kiện cho doanh nghiệp kiểm chứng công nghệ trong thực tế, vừa kiểm soát an toàn và rủi ro.
AI tạo ra bước ngoặt trong khoa học và nhân lực

AI tạo ra bước ngoặt trong khoa học và nhân lực

VTV.vn - Từ những đột phá khoa học đến thay đổi trong doanh nghiệp và cơ hội việc làm, AI đang tạo ra những chuyển dịch sâu rộng trong cách con người làm việc và sáng tạo.
Bộ KH-CN ký kết hợp tác phát triển khoa học - công nghệ với tỉnh Vĩnh Long

Bộ KH-CN ký kết hợp tác phát triển khoa học - công nghệ với tỉnh Vĩnh Long

Chiều 1-11, đoàn công tác của Bộ Khoa học và Công nghệ (KH-CN) do Bộ trưởng Vũ Hải Quân làm trưởng đoàn, đã có buổi làm việc với tỉnh Vĩnh Long về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số phục vụ phát triển kinh tế - xã hội tỉnh giai đoạn 2026-2030.