Khoa học

Tác nhân AI "cản trở, đấu đá nhau" khi làm nhiệm vụ

Khi được giao nhiệm vụ với mục tiêu mâu thuẫn nhau, các tác nhân của Anthropic tìm cách cản trở và làm hại đối phương.

Khi được giao nhiệm vụ với mục tiêu mâu thuẫn nhau, các tác nhân của Anthropic tìm cách cản trở và làm hại đối phương.

Frontier Red Team, nhóm chuyên kiểm thử an toàn AI thuộc Anthropic, ngày 13/8 công bố nghiên cứu với các mô hình Sonnet 4.6, Sonnet 5, Opus 4.6, Opus 4.8, Mythos Preview và Mythos 5 của công ty.

Đọc đầy đủ tại vnexpress.net →

Liên quan: Anthropic
Nguồn: https://vnexpress.net/tac-nhan-ai-can-tro-dau-da-nhau-khi-lam-nhiem-vu-5109287.html

Các tin khác

Sony ra Xperia 1 VIII, giá 39 triệu đồng

Sony ra Xperia 1 VIII, giá 39 triệu đồng

Sony Xperia 1 VIII cải tiến thiết kế, nâng cấp ống kính tele, thêm trợ lý AI dành cho nhiếp ảnh và được bán với giá 39 triệu đồng
iPhone X thành sản phẩm "lỗi thời"

iPhone X thành sản phẩm "lỗi thời"

Apple đưa iPhone X, smartphone đánh dấu 10 năm hãng gia nhập thị trường điện thoại di động, vào danh sách thiết bị lỗi thời.
Tranh cãi tên gọi của iPhone gập

Tranh cãi tên gọi của iPhone gập

Smartphone màn hình gập đầu tiên của Apple được nhân viên công ty gọi là iPhone Ultra, nhưng được cho là tên nội bộ, chưa phải tên thương mại.
"Rác AI" nơi công sở

"Rác AI" nơi công sở

AI tạo ra sản phẩm trông có vẻ hoàn thiện nhưng chất lượng thấp nếu doanh nghiệp không có các quy trình kiểm soát hoặc hướng dẫn phù hợp.