Santander Gandeng Nvidia: Pangkas Biaya Interaksi AI dari €5 ke €0,03 Lewat Model Kecil Khusus

Salah satu grup perbankan terbesar di Eropa, Banco Santander, resmi menandatangani perjanjian kemitraan strategis berdurasi tiga tahun dengan Nvidia. Aliansi ini dirancang untuk mengakselerasi adopsi kecerdasan buatan skala penuh di seluruh divisi perbankan ritel, korporasi, manajemen risiko, serta layanan nasabah grup Santander di pasar Eropa dan Amerika.

Langkah ini menandai pergeseran arsitektur mendasar dalam strategi kecerdasan buatan institusi keuangan global: beralih dari ketergantungan pada model bahasa besar (LLM) serbaguna bernilai miliaran parameter yang mahal menuju pemanfaatan model bahasa kecil khusus (Small Language Models / SLM) yang dioptimalkan secara presisi menggunakan data internal bank.

Penurunan Biaya dari €5 ke €0,03: Terobosan Ekonomi Komputasi Inferensi

Selama fase eksplorasi awal, industri perbankan kerap terbentur oleh tingginya biaya inferensi komputasi awan. Menjalankan model frontier umum melalui API pihak ketiga untuk melayani puluhan juta pertanyaan nasabah menghasilkan biaya token yang tidak ekonomis. Dalam pengujian terkontrol yang dilakukan oleh Santander AI Lab, biaya per interaksi menggunakan model umum mencapai sekitar €5 (sekitar Rp85.000).

Dengan beralih ke model kecil terbuka (open-weight SLM) yang disesuaikan untuk tugas-tugas perbankan spesifik dan dieksekusi pada infrastruktur terakselerasi Nvidia, Santander berhasil memangkas biaya per interaksi menjadi hanya sekitar €0,03 (sekitar Rp500)—penurunan biaya lebih dari 99%. Pada pengujian layanan nasabah operasional, efisiensi biaya tercatat melampaui 50% sembari mempertahankan, bahkan meningkatkan, akurasi dan kepatuhan jawaban.

Model Arena: Platform Evaluasi Mandiri dan Simulasi Agen Perbankan

Inti dari keberhasilan arsitektur Santander adalah 'Model Arena', sebuah platform evaluasi internal yang dikembangkan oleh laboratorium AI Santander. Platform ini bertindak sebagai tolok ukur (benchmark) internal untuk membandingkan puluhan model fondasi open-weight pada studi kasus perbankan nyata—mulai dari analisis skor kredit, interpretasi regulasi keuangan, hingga sintesis riwayat transaksi.

Kini, Model Arena diperluas menjadi lingkungan simulasi lengkap untuk merancang, menguji, dan memantau agen otonom (AI agents). Agen percakapan diuji secara ketat dalam lingkungan 'kotak pasir' (sandbox) virtual untuk memastikan model tidak berhalusinasi atau memberikan rekomendasi finansial keliru sebelum dideploy ke nasabah langsung.

Tumpukan Teknologi Nvidia: NeMo Customizer, Kumo & Dynamo-Triton

Kerja sama tiga tahun ini memanfaatkan tumpukan perangkat lunak canggih Nvidia secara terintegrasi:

“Dalam penerapan AI skala institusi keuangan, ukuran model bukanlah penentu utama kesuksesan. Metrik paling krusial adalah efisiensi biaya per hasil yang akurat. Kombinasi model kecil khusus dan data internal membuktikan bahwa AI perbankan dapat beroperasi secara massal dengan biaya sangat terjangkau.”

Membangun Digital Twin Bank & Catatan Kritis Fase Pilot

Selain agen nasabah, kemitraan ini mencakup pengembangan teknologi simulasi tingkat lanjut, termasuk pembuatan 'digital twin' (kembaran digital) dari seluruh sistem perbankan Santander. Melalui digital twin ini, manajemen risiko bank dapat menyimulasikan skenario stres likuiditas pasar, deteksi pencucian uang (AML) lintas negara, dan dinamika suku bunga secara real-time.

Meski demikian, angka penghematan biaya €0,03 per interaksi saat ini masih berasal dari kasus uji coba terkontrol di Santander AI Lab, bukan dari seluruh operasional grup yang melayani 160 juta nasabah. Rincian nilai kontrak finansial dan linimasa peluncuran bertahap per wilayah hukum anak usaha Santander di Eropa dan Amerika Latin masih harus dipantau dalam laporan triwulanan mendatang.