Anthropic bị tố không khắc phục lỗ hổng trên Claude Fable 5

Theo Tom'sHardware, Claude Fable 5 - mô hình AI mới của Anthropic, đang bị đặt vào tâm điểm tranh luận về an toàn AI tại Mỹ. Chính phủ Mỹ đã yêu cầu vô hiệu hóa Fable 5 và Mythos 5 trên phạm vi toàn cầu do lo ngại các năng lực mạng nâng cao của hai mô hình này có thể rơi vào tay những người không được phép tiếp cận.

Fable được mô tả là tên thương mại của nhóm mô hình Mythos, trong đó Claude Fable 5 là phiên bản hướng đến người dùng phổ thông. Vấn đề nằm ở cơ chế bảo vệ giữa Fable và Mythos, mô hình nền có năng lực mạng mạnh hơn. Một đối tác được cả Anthropic và chính phủ Mỹ tin cậy được cho là đã phát hiện cách vượt qua lớp bảo vệ này khi thử nghiệm Fable.

ẢNH: CHỤP MÀN HÌNH

David Sacks, đồng Chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của tổng thống Mỹ, nói chính phủ đã cảnh báo Anthropic về lỗ hổng trên Claude Fable 5. Theo ông, CEO Dario Amodei đã từ chối sửa lỗi hoặc rút mô hình khỏi triển khai.

Sacks cho biết biện pháp kiểm soát xuất khẩu được đưa ra một cách miễn cưỡng sau khi Anthropic không đáp ứng yêu cầu. Ông cũng nói Washington muốn dỡ bỏ hạn chế khi vấn đề được khắc phục và trách nhiệm hiện nằm ở phía Anthropic.

Anthropic không đồng ý với cáo buộc trên. Công ty cho rằng vấn đề có phạm vi hẹp, không phổ biến và chủ yếu liên quan việc yêu cầu mô hình đọc mã nguồn để tìm lỗi phần mềm. Anthropic cũng lập luận kết quả tương tự có thể xuất hiện trên các mô hình AI công khai khác.

Công ty phản đối quan điểm cho rằng một vấn đề hẹp như vậy đủ để buộc thu hồi mô hình đang được hàng trăm triệu người dùng. Sacks bác bỏ cách lý giải này, cho rằng nếu một lỗ hổng có thể kích hoạt năng lực giống “vũ khí mạng”, rất khó xem đó là vấn đề không nghiêm trọng.

Vụ việc cho thấy áp lực ngày càng lớn với các công ty AI khi mô hình mới không chỉ được đánh giá bằng hiệu năng, mà còn bằng khả năng kiểm soát rủi ro trong quá trình triển khai. Với Claude Fable 5, tranh cãi hiện vẫn xoay quanh cách hiểu khác nhau giữa cơ quan quản lý và Anthropic về mức độ nghiêm trọng của vấn đề.

//Chèn ads giữa bài (runinit = window.runinit || []).push(function () { //Nếu k chạy ads thì return if (typeof _chkPrLink != 'undefined' && _chkPrLink) return; var mutexAds = '<zone id="l2srqb41"></zone>'; var content = $('[data-role="content"]'); if (content.length > 0) { var childNodes = content[0].childNodes; for (i = 0; i < childNodes.length; i++) { var childNode = childNodes[i]; var isPhotoOrVideo = false; if (childNode.nodeName.toLowerCase() == 'div') { // kiem tra xem co la anh khong? var type = $(childNode).attr('class') + ''; if (type.indexOf('VCSortableInPreviewMode') >= 0) { isPhotoOrVideo = true; } } try { if ((i >= childNodes.length / 2 - 1) && (i < childNodes.length / 2) && !isPhotoOrVideo) { if (i <= childNodes.length - 3) { childNode.after(htmlToElement(mutexAds)); arfAsync.push("l2srqb41"); } break; } } catch (e) { } } } }); function htmlToElement(html) { var template = document.createElement('template'); template.innerHTML = html; return template.content.firstChild; } if (window.pageSettings && pageSettings.allow3rd && (typeof window._isAdsHidden === 'undefined' || !window._isAdsHidden)) { if (!laNuocNgoai) { (function (w, q) { w[q] = w[q] || []; w[q].push(["_mgc.load"]); })(window, "_mgq"); } } (function() { if (!(window.pageSettings && pageSettings.allow3rd && (typeof window._isAdsHidden === 'undefined' || !window._isAdsHidden))) return; if (typeof window.laNuocNgoai === 'undefined' || !window.laNuocNgoai) return; // chỉ chạy khi laNuocNgoai true var containerSelector = 'div.detail-cmain'; var root = document.querySelector(containerSelector); if (!root) return; // Thu thập figure + p (p không nằm trong figure) var figures = Array.from(root.querySelectorAll('figure')); var paragraphs = Array.from(root.querySelectorAll('p')).filter(function(p){ return !p.closest('figure'); }); var elements = figures.concat(paragraphs); // NodeList vốn đã theo DOM order => không cần sort if (!elements.length) return; var target = elements[Math.floor(elements.length / 2)]; // giữa bài if (!target || !target.parentNode) return; var newDiv = document.createElement('div'); newDiv.id = 'taboola-mid-article-widget'; target.parentNode.insertBefore(newDiv, target.nextSibling); window._taboola = window._taboola || []; window._taboola.push({ mode: 'thumbnails-4x1', container: 'taboola-mid-article-widget', placement: 'Mid Article Widget', target_type: 'mix' }); })();