Modal Adopsi CPU Nvidia Vera untuk Agen AI: Performa Eksekusi Tugas Melonjak 2 Kali Lipat

Modal, platform komputasi cloud serverless terdepan yang menjadi tulang punggung ribuan startup dan pengembang agen kecerdasan buatan, mengumumkan langkah strategis untuk mulai mengintegrasikan prosesor sentral (CPU) terbaru dari Nvidia, 'Vera', ke dalam infrastruktur produksinya. Sebelumnya, Modal sepenuhnya mengandalkan prosesor x86 konvensional dari Intel dan AMD untuk menangani lapisan orkestrasi beban kerja tersebut.

Berdasarkan laporan Reuters, pengujian awal internal yang dilakukan oleh Modal menunjukkan bahwa CPU berbasis ARM Nvidia Vera mampu menggandakan (2x lipat) jumlah pekerjaan agen AI yang dapat diselesaikan secara sukses per node komputasi dibandingkan CPU Intel dan AMD yang tersedia saat ini. Langkah ini menandai kemenangan komersial penting bagi Nvidia dalam memperluas dominasi pasarnya melampaui kartu grafis (GPU) ke ranah prosesor pusat data umum.

Mengapa CPU Kembali Krusial di Era Ledakan Agen AI?

Selama dua tahun terakhir, narasi infrastruktur AI hampir sepenuhnya terpusat pada GPU karena pelatihan dan inferensi token model bahasa besar memerlukan komputasi matriks paralel masif. Namun, arsitektur agen AI otonom bekerja jauh melampaui sekadar menghitung probabilitas token kata berikutnya.

Sebuah agen AI menghabiskan sebagian besar siklus kerjanya untuk mengeksekusi logika aplikasi Python, mengelola mesin status (state machines), mem-parsing muatan JSON dari pemanggilan tool (tool calling), melakukan kueri basis data vektor, menunggu respons API jaringan, serta mengisolasi eksekusi kode di dalam kontainer sandbox. Seluruh alur kerja sekuensial dan I/O-heavy ini berjalan di atas CPU, bukan GPU. Memaksakan tugas orkestrasi ini ke akselerator GPU yang mahal terbukti memboroskan biaya komputasi.

Pertumbuhan Eksponensial Modal: Pendapatan Naik 15x & Valuasi US$15,75 Miliar

Adopsi prosesor Vera dilakukan di tengah momentum ekspansi bisnis Modal yang luar biasa. Reuters melaporkan bahwa Modal baru saja merampungkan putaran pendanaan jumbo senilai US$750 juta yang melambungkan valuasinya ke angka US$15,75 miliar. Penggunaan layanannya melonjak tiga kali lipat, sementara pendapatan tahunan tumbuh lebih dari 15 kali lipat (YoY), dengan proyeksi penjualan mendekati US$1 miliar dalam tahun mendatang.

Pertumbuhan pesat ini didorong oleh fleksibilitas platform serverless Modal yang memungkinkan pengembang agen AI menyalakan kontainer dalam hitungan puluhan milidetik (cold start ultra-cepat). Dengan mengadopsi CPU Vera yang hemat daya dan berdensitas core tinggi, Modal dapat meningkatkan kepadatan kontainer per rak server secara signifikan.

Strategi Multi-Vendor: Armada Campuran & Catatan Pengujian Kinerja

Kendati meraih peningkatan performa dari Nvidia Vera, manajemen Modal menegaskan tidak akan meninggalkan pemasok lama mereka. CEO Modal menyatakan perusahaan akan tetap mengoperasikan armada perangkat keras campuran (heterogeneous compute fleet) yang memadukan Intel, AMD, dan Nvidia, memilih prosesor terbaik yang paling efisien secara biaya untuk setiap jenis muatan kerja.

Laporan ini juga menekankan bahwa klaim penggandaan performa berasal dari uji coba awal Modal dan belum disertai pengungkapan metodologi benchmark terbuka. Seiring Intel dan AMD mempersiapkan prosesor server generasi berikutnya, peta persaingan CPU pusat data dipastikan akan semakin kompetitif dan menguntungkan para pengembang cloud dari sisi rasio harga-performa.

“Agen AI tidak hanya membutuhkan akselerasi matriks GPU. Agen AI membutuhkan CPU berdensitas tinggi yang mampu menjalankan ribuan lingkungan sandbox kode secara serentak tanpa latensi cold start.”

Keberhasilan Nvidia memenangkan beban kerja di Modal menegaskan bahwa pertempuran infrastruktur kecerdasan buatan kini merambah ke seluruh lapisan pusat data, menjadikan CPU berperforma tinggi sebagai instrumen kunci keberhasilan ekosistem agen AI global.