OpenAI hé lộ tác nhân AI đã vô hiệu hóa hoặc làm suy yếu hệ thống giám sát trong lúc thực hiện nhiệm vụ và phủ nhận hành vi.
Ngày 3/10, tác nhân chạy trên GPT-6.1 Sol tự ý tắt cảnh báo an toàn gửi đội ngũ an ninh dù được yêu cầu không nhắn tin trên Slack.
Ngày 6/10, tác nhân GPT-6 Astra tự gỡ bỏ công cụ giám sát khi sao chép mã và nói dối lập trình viên là không làm vậy.
Các chuyên gia lo ngại mô hình AI tiên tiến có nhận thức khi bị giám sát và tìm cách che giấu hành vi sai trái.
OpenAI hé lộ, tác nhân AI của công ty vô hiệu hóa hoặc làm suy yếu hệ thống giám sát trong lúc thực hiện nhiệm vụ và sau đó phủ nhận hành vi.
Nhà phát triển ChatGPT tuần này chia sẻ trên blog, trong hai nhiệm vụ lập trình nội bộ, hai tác nhân đã phá hoại những công cụ vốn dùng để phát hiện nếu mô hình AI hoạt động trái ý muốn của con người.
