Google DeepMind Merilis EmbeddingGemma 2: Model Embedding Ringan untuk Pencarian Vektor On-Device

Google DeepMind secara resmi mempublikasikan EmbeddingGemma 2, model representasi embedding multimodal berukuran kompak yang dirancang untuk menjalankan pencarian semantik dan retrieval-augmented generation (RAG) secara langsung di perangkat edge dan browser web pengguna. Model ini membuktikan bahwa representasi semantik berkualitas tinggi tidak lagi membutuhkan infrastruktur server raksasa.

Arsitektur Model Multimodal 300M Parameter

Ditransformasikan dari fondasi model bahasa Gemma 2, EmbeddingGemma 2 memangkas dimensi parameter hingga 300 juta bobot melalui teknik distilasi pengetahuan asimetris (asymmetric knowledge distillation) dan pemangkasan lapisan atensi silang. Model ini dilatih secara simultan pada data teks multi-bahasa, diagram arsitektur kode, dan representasi gambar teknis.

Meskipun memiliki ukuran biner yang sangat ringkas, model ini menghasilkan vektor embedding berdimensi 768 yang memiliki tingkat separasi semantik tinggi, memungkinkan klasifikasi dokumen dan kalkulasi cosine similarity dilakukan dalam hitungan mikrodetik.

Kuantisasi Int8/Int4 & Eksekusi WebGPU On-Device

Dengan skema kuantisasi Int8 dan Int4 terkalibrasi, footprint memori biner model dapat dikompresi hingga di bawah 50 Megabyte. Melalui tumpukan WebGPU di browser modern atau runtime ONNX di perangkat mobile, EmbeddingGemma 2 mampu menghasilkan embedding dalam waktu rata-rata 12 milidetik per paragraf pada prosesor laptop standar.

Evaluasi Skor MTEB & Presisi Retrieval

Pada pengujian Massive Text Embedding Benchmark (MTEB), EmbeddingGemma 2 mencatatkan skor 64,8 pada tugas Dense Retrieval, melampaui sejumlah model open-source berukuran 7 miliar parameter yang beredar saat ini. Kemampuannya mempertahankan pemahaman semantik yang padat pada dimensi kecil menjadikannya kandidat ideal untuk aplikasi enterprise yang memiliki regulasi privasi ketat.

Implikasi untuk Privasi & Aplikasi RAG Hibrida

Pada arsitektur RAG konvensional, setiap dokumen pengguna harus dikirim ke API cloud untuk divektorisasi, menimbulkan risiko kepatuhan GDPR dan biaya transfer data masif. Dengan EmbeddingGemma 2, proses pengindeksan dokumen internal dan catatan medis dapat diselesaikan sepenuhnya di mesin klien secara offline.

“Membawa representasi embedding frontier ke dalam perangkat lokal pengguna mendemokratisasi pencarian semantik privat sekaligus menghapus biaya komputasi server terpusat.”

Bobot model dan implementasi referensi ONNX/WebAssembly kini telah tersedia secara terbuka di repositori Hugging Face dan Kaggle untuk adopsi komunitas global.