Khoa học

Tác nhân AI của Anthropic "cản trở, đấu đá" trong thử nghiệm

Khi được giao mục tiêu khác nhau để đánh giá hành vi, các tác nhân của Anthropic bắt đầu tìm cách cản trở và làm hại đối phương.

Khi được giao mục tiêu khác nhau để đánh giá hành vi, các tác nhân của Anthropic bắt đầu tìm cách cản trở và làm hại đối phương.

Frontier Red Team, nhóm chuyên kiểm thử an toàn AI thuộc Anthropic, ngày 13/8 công bố nghiên cứu với các mô hình Sonnet 4.6, Sonnet 5, Opus 4.6, Opus 4.8, Mythos Preview và Mythos 5 của công ty.

Đọc đầy đủ tại vnexpress.net →

Liên quan: Anthropic
Nguồn: https://vnexpress.net/tac-nhan-ai-cua-anthropic-can-tro-dau-da-trong-thu-nghiem-5109287.html

Các tin khác

Sony ra Xperia 1 VIII, giá 39 triệu đồng

Sony ra Xperia 1 VIII, giá 39 triệu đồng

Sony Xperia 1 VIII cải tiến thiết kế, nâng cấp ống kính tele, thêm trợ lý AI dành cho nhiếp ảnh và được bán với giá 39 triệu đồng
iPhone X thành sản phẩm "lỗi thời"

iPhone X thành sản phẩm "lỗi thời"

Apple đưa iPhone X, smartphone đánh dấu 10 năm hãng gia nhập thị trường điện thoại di động, vào danh sách thiết bị lỗi thời.
Tranh cãi tên gọi của iPhone gập

Tranh cãi tên gọi của iPhone gập

Smartphone màn hình gập đầu tiên của Apple được nhân viên công ty gọi là iPhone Ultra, nhưng được cho là tên nội bộ, chưa phải tên thương mại.
"Rác AI" nơi công sở

"Rác AI" nơi công sở

AI tạo ra sản phẩm trông có vẻ hoàn thiện nhưng chất lượng thấp nếu doanh nghiệp không có các quy trình kiểm soát hoặc hướng dẫn phù hợp.
Chi phí sản xuất iPhone 18 Pro có thể tăng 40%

Chi phí sản xuất iPhone 18 Pro có thể tăng 40%

Giá bộ nhớ tăng mạnh khiến chi phí sản xuất iPhone 18 Pro được cho là cao hơn 38% so với thế hệ trước, buộc Apple nâng giá bán hoặc hy sinh một phần lợi nhuận.