Anthropic & METR: Audit Keselamatan AI Setara Karyawan

Sebagai implementasi dari komitmen evaluasi pihak ketiga yang independen serta penandatanganan White House Accord on Super Intelligence, Anthropic resmi memberikan akses setingkat karyawan (employee-like access) kepada tim dari METR (Model Evaluation and Threat Research), sebuah organisasi nirlaba yang mengkhususkan diri dalam pengujian dan audit model AI frontier.

Struktur Akses Setingkat Karyawan Tanpa Hak Veto Publikasi

Sebanyak enam peneliti dari METR telah menjalani proses onboarding resmi di lingkungan Anthropic. Mereka memperoleh laptop perusahaan berstandar keamanan internal, ruang kerja fisik di kantor Anthropic, serta izin akses ke sistem dan internal tools yang kurang lebih setara dengan hak akses tim risk-assessment internal Anthropic sendiri.

Di luar beberapa kategori informasi rahasia yang didefinisikan secara ketat, seperti data pribadi pelanggan, korespondensi privileged pengacara-klien, dan rincian arsitektur model komersial sensitif, karyawan Anthropic didorong untuk berkolaborasi dan berbagi data teknis secara terbuka sebagaimana mereka berinteraksi dengan rekan kerja internal di divisi alignment risk.

Poin paling krusial dari kerja sama ini terletak pada independensi publikasinya: METR berhak penuh mempublikasikan hasil temuan evaluasi risikonya tanpa hak veto dari manajemen Anthropic. Anthropic hanya memiliki hak untuk meminta penyuntingan (redaction) terbatas jika informasi tersebut masuk dalam batasan rahasia yang telah disepakati. Bahkan, METR memiliki kebebasan untuk mengkarakterisasi penyuntingan tersebut di ranah publik dan menyatakan apakah sensor tersebut dinilai berdasar atau tidak.

Model Pengawasan Terinspirasi Pengawas Perbankan (Resident Examiners)

Anthropic mengadopsi analogi regulasi sektor perbankan terpusat. Dalam dunia perbankan, regulator menempatkan pemeriksa independen (resident examiners) yang bekerja langsung di dalam bank-bank terbesar karena pihak internal selalu memiliki visibilitas risiko yang jauh lebih kaya dibanding pengamat luar. Menempatkan pemeriksa di dalam organisasi memungkinkan mitigasi risiko publik terdeteksi jauh sebelum dampak negatif terjadi.

Langkah ini menandai pergeseran signifikan bagi industri AI global: evaluasi keselamatan model perbatasan mulai bertransformasi dari sekadar benchmarking eksternal via API terbatas menjadi audit sistemik oleh pakar independen yang tertanam langsung di jantung laboratorium riset.

Kerangka Kerja Tiga Tingkat (Three Tiers of Access) & Mitra Evaluator

Anthropic mengumumkan sistem klasifikasi akses tiga tingkat untuk seluruh mitra evaluasi eksternal:

Selain kemitraan Tier 3 dengan METR, Anthropic juga mengonfirmasi keterlibatan organisasi SecureBio yang saat ini sedang mengkaji bab risiko senjata biologis dan kimia dari Risk Report edisi Agustus 2026. Anthropic juga tengah mematangkan kolaborasi audit bersama Accenture dan Faculty, serta menjajaki diskusi awal dengan sejumlah evaluator lain termasuk Hugging Face.

“Sebagaimana regulator menugaskan pemeriksa langsung di dalam bank terbesar, kami memberikan evaluator independen akses mendalam ke sistem internal kami untuk menutup jurang pemahaman risiko antara pengembang AI frontier dan publik.”