Mặc dù vậy, điểm nhấn gây sự chú ý khác là Gemma 3n, một mô hình ngôn ngữ lớn (LLM) nhỏ gọn được Google thiết kế để hoạt động trực tiếp trên các thiết bị cá nhân với yêu cầu phần cứng thấp.
Gemma 3n chỉ yêu cầu mức bộ nhớ RAM 2 GB và 3 GB
ẢNH: GOOGLE
Gemma 3n được trang bị công nghệ tiên tiến có tên Per-Layer Embeddings (PLE) do Google DeepMind phát triển giúp giảm thiểu yêu cầu bộ nhớ cho mô hình. Mặc dù có số lượng tham số lên tới 5 tỉ và 8 tỉ, nhưng Gemma 3n chỉ cần dung lượng bộ nhớ tương đương với các mô hình 2 tỉ và 4 tỉ, điều này cho phép nó hoạt động hiệu quả với chỉ với yêu cầu bộ nhớ RAM 2 GB và 3 GB nên rất hợp cho các mẫu giá rẻ.
Ngoài việc tiết kiệm bộ nhớ, Gemma 3n còn sử dụng các kỹ thuật như chia sẻ KVC và lượng tử hóa kích hoạt nâng cao giúp tăng tốc độ phản hồi trên thiết bị di động lên 1,5 lần so với Gemma 3 4B, đồng thời cải thiện chất lượng đầu ra. Mô hình này cũng cho phép tạo ra các mô hình con phù hợp với các nhu cầu sử dụng cụ thể của người dùng.
Khả năng xử lý an toàn trên chatbot AI mới của Google
Một ưu điểm nổi bật khác của Gemma 3n là khả năng thực thi cục bộ, nghĩa là toàn bộ quá trình xử lý diễn ra trên thiết bị của người dùng mà không cần gửi dữ liệu lên máy chủ. Điều này không chỉ bảo mật thông tin cá nhân mà còn cho phép sử dụng không cần kết nối internet rất hữu ích cho người dùng.
Trải nghiệm tính năng mới của Gemini Live
Gemma 3n cũng được cải tiến đáng kể trong việc xử lý đầu vào đa phương thức, có khả năng hiểu âm thanh, văn bản, hình ảnh và video, cho phép thực hiện các tác vụ như phiên âm, dịch thuật và tương tác đa phương thức một cách hiệu quả. Đặc biệt, mô hình này hứa hẹn sẽ hoạt động tốt hơn với các ngôn ngữ không phải tiếng Anh, với hiệu suất được cải thiện rõ rệt ở các ngôn ngữ như Nhật, Đức, Hàn, Tây Ban Nha và Pháp.
Người dùng có thể bắt đầu trải nghiệm Gemma 3n ngay lập tức thông qua trình duyệt tại Google AI Studio mà không cần thiết lập phức tạp. Các nhà phát triển muốn tích hợp Gemma 3n vào ứng dụng của mình có thể sử dụng Google AI Edge, nơi cung cấp các công cụ và thư viện hỗ trợ, từ đó mở ra nhiều khả năng mới trong việc hiểu và tạo ra văn bản cũng như hình ảnh.
