Gemma: Mô hình ngôn ngữ mở mới từ Google
Google vừa phát hành một mô hình ngôn ngữ lớn dựa trên công nghệ Gemini, mạnh mẽ nhưng nhẹ nhàng, tối ưu hóa cho việc sử dụng trên laptop hoặc cloud infrastructure. Gemma có thể được sử dụng để tạo ra chatbot, công cụ tạo nội dung và hầu hết mọi thứ mà một mô hình ngôn ngữ có thể thực hiện.
Giới thiệu về Gemma
Google vừa ra mắt một mô hình ngôn ngữ lớn dựa trên công nghệ sử dụng để tạo ra mô hình Gemini, một công nghệ mã nguồn mở tiện ích và nhẹ nhàng, được tối ưu hóa để sử dụng trong môi trường có tài nguyên hạn chế như trên laptop hoặc cơ sở hạ tầng đám mây.
Phân tích về Gemma
Theo phân tích của một nhà nghiên cứu máy học tại Apple, Gemma được tối ưu hóa để hoạt động hiệu quả trong các môi trường tài nguyên thấp. Gemma có một bộ từ vựng lên đến 250.000 (250k) token so với 32k cho các mô hình tương đương. Điều quan trọng là Gemma có thể nhận diện và xử lý một loạt từ vựng rộng, cho phép nó xử lý các nhiệm vụ với ngôn ngữ phức tạp.
Thiết kế an toàn và có trách nhiệm
Một đặc điểm chính quan trọng của Gemma là nó được thiết kế từ đầu để an toàn, điều này khiến nó lý tưởng cho việc triển khai sử dụng. Dữ liệu huấn luyện đã được lọc để loại bỏ thông tin cá nhân và nhạy cảm. Google cũng sử dụng học tăng cường từ phản hồi của con người (RLHF) để huấn luyện mô hình cho hành vi có trách nhiệm.
