Safe Superintelligence có trụ sở tại Palo Alto và văn phòng đầu tiên ở Tel Aviv (Israel). "Trọng tâm duy nhất của chúng tôi là không bị phân tâm bởi chi phí quản lý hay chu kỳ sản phẩm. Mô hình kinh doanh luôn hướng đến an toàn, bảo mật, và tiến độ sẽ được cách ly khỏi áp lực thương mại ngắn hạn", Sutskever viết trên X ngày 20/6.
Bên cạnh Ilya Sutskever, Safe Superintelligence có sự tham gia của Daniel Levy, nhà nghiên cứu từng làm tại OpenAI, và Daniel Gross, đồng sáng lập Cue và cựu lãnh đạo AI tại Apple.
Ilya Sutskever (giữa) cùng các thành viên trong hội đồng quản trị OpenAI khi còn làm tại đây. Ảnh: X/Ilya Sutskever
Sutskever là đồng sáng lập kiêm nhà khoa học trưởng của OpenAI. Ông cũng là người đứng sau vụ sa thải CEO Sam Altman ngày 17/11 năm ngoái. Sự khác biệt trong định hướng phát triển siêu trí tuệ nhân tạo (AGI) giữa ban quản trị và Sam Altman được cho là nguyên nhân dẫn đến việc ông bị phế truất.
Tuy nhiên, cuộc lật đổ nhanh chóng thất bại. Sau hơn 4 ngày, Altman quay về vị trí cũ. Sutskever cũng nói ông hối hận về hành động trước đó của mình. Sau khi trở lại, Altman lập hội đồng quản trị mới. Sutskever không có chân trong hội đồng nhưng vẫn là nhà khoa học trưởng, phụ trách nghiên cứu và phát triển các sản phẩm của công ty.
Ngày 14/5, ông thông báo rời OpenAI, cùng nhà nghiên cứu máy học Jan Leike. Cả hai là thành viên dự án Superalignment, được OpenAI lập vào tháng 7/2023 để nghiên cứu các rủi ro khi phát triển AI phục vụ nhân loại, nhất là AGI, nhưng hiện đã bị giải thể. "Những năm qua, văn hóa và quy trình an toàn tại công ty đã lùi bước trước những sản phẩm hào nhoáng", Leike viết trên X sau khi từ chức. Ông cho biết mình rời đi vì "đã không đồng ý với lãnh đạo OpenAI về các ưu tiên cốt lõi của công ty trong một thời gian khá lâu".
Đội ngũ lãnh đạo OpenAI hiện có nhiều thay đổi. Cuối tuần qua, công ty gây lo ngại khi đưa Paul Nakasone vào ban giám đốc - động thái mà Business Insider bình luận là "gây ngạc nhiên", còn một số chuyên gia lo ngại AI của công ty trở thành "tai mắt" giám sát. Ngoài việc từng là cựu giám đốc NSA, Nakasone còn có thời gian đứng đầu bộ phận an ninh mạng của Bộ Quốc phòng Mỹ.
(theo Reuters)
