DeepSeek Rilis DeepInfer Berlisensi Apache 2.0: Engine Inferensi Produksi dengan Dukungan Silikon SM100 dan Ascend 950

Laboratorium kecerdasan buatan frontier DeepSeek resmi membuka kode sumber runtime inferensi produksi mereka, DeepInfer, di bawah lisensi permisif Apache 2.0 pada Rabu pagi, 21 Oktober 2026. Pelepasan kode ini menyediakan fondasi tumpukan perangkat lunak inferensi luring (offline inference) berkecepatan tinggi yang selama ini menggerakkan layanan komputasi komersial model DeepSeek-V4.1-Flash.

Langkah ini menjadi sorotan industri rekayasa sistem AI karena menghadirkan arsitektur inferensi berdensitas tinggi yang sepenuhnya teroptimasi pada level mikro-kernel tanpa bergantung pada tumpukan komputasi berbayar tertutup.

Ekosistem Kernel Kustom dan Dukungan Silikon Lintas Platform

Keunggulan utama DeepInfer bertumpu pada integrasi tumpukan pustaka kernel kustom berefisiensi ekstrem yang dirancang mandiri oleh tim DeepSeek: FlashMLA (implementasi komputasi Multi-Head Latent Attention teroptimasi), DeepGEMM (operasi perkalian matriks presisi campuran FP8 berkecepatan tinggi), DeepEP (pustaka komunikasi antarchip all-to-all khusus Mixture-of-Experts), serta TileKernels dan DeepSelect. DeepInfer menyediakan dukungan kompilasi tingkat pertama (first-class hardware support) tidak hanya untuk akselerator arsitektur NVIDIA SM100 (Blackwell), tetapi juga untuk NPU Huawei Ascend 950.

Pada tingkat eksekusi terdistribusi, DeepInfer mengimplementasikan orkestrasi paralelisme tiga dimensi yang menggabungkan Attention Data Parallelism, Context Parallelism untuk pemrosesan prompt panjang, serta Expert Parallelism yang dipadukan dengan algoritma Expert Parallelism Load Balancing (EPLB) guna mengeliminasi hambatan komputasi antar-node. Framework ini juga mengintegrasikan mesin decoding spekulatif DSpark yang mengandalkan auxiliary confidence head untuk menjadwalkan verifikasi token draf secara adaptif.

Desain Minimalis dan Batasan Lingkup Produksi

Bersamaan dengan DeepInfer, DeepSeek merilis pustaka pendamping deepseek-recipe berbasis bahasa Rust yang menyediakan tokenisasi deterministik berkinerja tinggi, validasi skema keluaran terstruktur, serta parsing protokol wire streaming. DeepSeek secara sadar membatasi cakupan rilis pertama ini pada mesin komputasi mikro-kernel inti, sengaja tidak menyertakan kluster cache KV terdistribusi atau perutean multi-node tingkat tinggi agar dapat dipadukan secara modular ke orkestrator kontainer eksternal.

“Tujuan pembukaan kode DeepInfer bukan untuk menduplikasi platform orkestrasi kluster yang sudah mapan, melainkan menyediakan mesin komputasi mikro-kernel paling rapat dan efisien yang mampu memeras kinerja fisik silikon komputasi modern hingga ke batas teoritisnya.”

Ketersediaan DeepInfer di bawah lisensi Apache 2.0 memberikan alternatif tangguh bagi para arsitek infrastruktur AI dalam mengoperasikan model Mixture-of-Experts berskala ratusan miliar parameter. Penyetaraan dukungan antara akselerator silikon Barat dan NPU domestik Tiongkok juga membuktikan tren konvergensi komputasi performa tinggi yang semakin portabel.