Nekat Bebaskan Agen AI Tanpa Pengawas? Pakar Desak AS Adopsi Model Supervisi Bank

Pengawas independen dinilai perlu berkantor langsung di dalam laboratorium artificial intelligence (AI) terdepan untuk memantau perkembangan dan mengelola risiko sistemik teknologi tersebut secara real-time.

DIGI-HIGHLIGHTS:

■ Industri AI disarankan mengadopsi sistem pengawasan perbankan dengan menempatkan tim regulator independen langsung di laboratorium riset.
■ Evaluator independen diusulkan mengawasi stress test AI untuk mencegah potensi risiko sistemik pada jaringan listrik dan keuangan.
■ Regulasi pengawasan AI disarankan fokus pada keselamatan model terlebih dahulu tanpa harus menunggu penuntasan undang-undang komprehensif.

CEO Anthropic, Dario Amodei, mengusulkan agar evaluator independen memiliki meja kerja dan berkantor langsung di dalam laboratorium pengembang kecerdasan buatan (artificial intelligence/AI) terdepan. Langkah ini ditujukan untuk memantau operasional sistem AI secara real-time ketimbang sekadar melakukan pengujian sebelum produk dirilis ke publik.

Dalam esainya mengenai perlunya mengontrol laju perkembangan AI frontier, mengutip Financial Times, Amodei berjanji memberikan kartu akses, laptop, hingga akses hampir menyeluruh bagi para pengawas luar. Ia mendorong pemerintah untuk meresmikan skema tersebut dengan menunjuk model pengawasan perbankan sebagai preseden yang relevan.

Pengawasan Bank 

Pendiri co-founder Facebook sekaligus non-resident fellow di Brookings Institution, Chris Hughes, menilai analogi pengawasan bank sangat tepat untuk diterapkan pada sektor AI. Menurutnya, industri perbankan dan AI memiliki kemiripan karena berkembang sangat cepat serta berdampak luas terhadap seluruh sektor perekonomian.

Di AS, lembaga seperti Federal Reserve (The Fed), Federal Deposit Insurance Corporation (FDIC), dan Office of the Comptroller of the Currency (OCC) menerjunkan tim khusus untuk berkantor di dalam bank komersial yang mereka awasi. Tim pengawas bertugas meninjau dokumen internal, memantau operasional harian, dan memastikan manajemen mengelola risiko sesuai regulasi.

Kebutuhan mengadopsi pendekatan serupa pada sektor AI dinilai kian mendesak. Sepanjang musim panas tahun ini, agen-agen AI menunjukkan peningkatan kemampuan dalam berkoordinasi satu sama lain untuk mencapai tujuan tertentu, sementara insiden peretasan membuktikan bagaimana kelalaian pengawasan dapat berdampak ke sistem di luar laboratorium.

Di bawah model pengawasan perbankan, setiap lab AI frontier akan didampingi tim pengawas independen yang memahami teknologinya. Pengawas akan terlibat sejak tahap awal desain model guna memastikan para pengembang fokus mencegah perilaku berbahaya, sekaligus mengawasi pelaksanaan uji beban (stress test) tahunan.

Uji beban tersebut krusial mengingat sistem AI berpotensi menimbulkan risiko sistemik jika sampai menguasai infrastruktur listrik, pembayaran, atau transportasi. Melalui stress test, pengembang harus membuktikan bahwa staf manusia tetap dapat mengambil alih atau mematikan sistem dalam skenario krisis yang belum pernah disimulasikan sebelumnya.

Pengambil kebijakan diimbau belajar dari kegagalan regulasi media sosial di masa lalu yang kewalahan akibat terlalu banyaknya isu, mulai dari kesehatan mental remaja hingga privasi data. Kongres AS disarankan tidak menunggu selesainya satu undang-undang raksasa, melainkan memulai regulasi dari fokus paling mendesak, yaitu keselamatan model (model safety).

Meski demikian, pengawasan model perbankan bukan tanpa kelemahan karena pengawas kerap terancam mengalami "intervensi/terkooptasi" (regulatory capture) oleh industri yang diawasi. Untuk memitigasi hal itu, badan pengawas AI seperti Office of AI Supervision perlu menerapkan rotasi masa jabatan pimpinan pengawas maksimal setiap 3 tahun sekali.

Lebih Efektif Menekan Risiko

Riset tata kelola teknologi mutakhir menunjukkan bahwa regulasi berbasis supervisi langsung lebih efektif menekan risiko sistemik dibandingkan pengujian pasca-produksi. Dengan hadirnya pengawas publik di dalam lab, keputusan pengembangan AI yang berdampak luas tidak lagi ditentukan secara sepihak oleh perusahaan yang mengejar keuntungan semata. ■

DIGIONARY:

● AI Agent (Agen AI): Sistem kecerdasan buatan yang memiliki otonomi untuk mengambil keputusan, merencanakan tindakan, dan berinteraksi dengan lingkungan atau agen lain demi mencapai tujuan tertentu.
● Frontier AI: Model kecerdasan buatan paling canggih dan berkapasitas tinggi yang berada di batas terdepan kapabilitas teknologi terkini.
● Model Safety: Rangkaian prosedur dan standar teknis untuk memastikan sistem AI beroperasi secara aman tanpa menimbulkan bahaya atau perilaku tak terduga.
● Regulatory Capture: Kondisi di mana lembaga pengawas atau regulator justru dipengaruhi atau dikendalikan oleh industri yang seharusnya mereka awasi.
● Stress Test: Pengujian ketahanan sistem di bawah kondisi tekanan ekstrem atau skenario krisis terburuk yang belum pernah dilatih sebelumnya.