Christine Lagarde Beri Peringatan Keras! Otonomi AI Mulai Lompati Kendali Manusia di Pasar Keuangan

__________

DIGI-HIGHLIGHTS:

■ Kemunculan AI agent mandiri memicu risiko misalignment, manipulasi harga, serta kesamaan respons pasar yang dapat memperparah guncangan.
■ Peningkatan kapabilitas siber AI memperpendek rentang waktu serangan otomatis dari hitungan minggu menjadi beberapa jam saja.
■ Ketergantungan Eropa pada model AI Amerika Serikat dan Tiongkok berisiko memicu disrupsi keuangan jika akses mendadak terputus.

__________

Penggunaan kecerdasan buatan (artificial intelligence/AI) yang makin masif di industri keuangan global tidak lagi sekadar menawarkan efisiensi. Teknologi ini kini menghadirkan ancaman sistemik baru akibat titik temu antara otonomi perdagangan mesin, kerentanan siber, dan eskalasi geopolitik.

Peringatan tegas tersebut disampaikan oleh Presiden Bank Sentral Eropa (ECB) sekaligus Ketua European Systemic Risk Board (ESRB), Christine Lagarde, saat membuka Konferensi Tahunan ESRB ke-10 di Frankfurt am Main, Kamis (1/10) seperti dikutip dari laman resmu ECB.

Agentic AI Bawa Konsekuensi Berbahaya

Momentum peringatan 15 tahun berdirinya lembaga pengawas risiko sistemik Eropa itu dijadikan panggung untuk menyoroti transformasi lanskap risiko finansial akibat pesatnya adopsi AI.

Data internal ECB menunjukkan hampir sembilan dari sepuluh bank signifikan di kawasan euro telah mengintegrasikan generative AI. Riset European Securities and Markets Authority (ESMA) juga mengonfirmasi bahwa 70% perusahaan pasar modal Eropa berencana meningkatkan investasi AI mereka. Namun, transisi dari AI pasif menuju agentic AI—sistem yang mampu mengeksekusi keputusan dengan arahan minim dari manusia—membawa konsekuensi berbahaya.

Lagarde menyoroti potensi timbulnya misalignment di pasar keuangan, di mana AI agent mengejar target keuangan dengan cara-cara tak terduga yang di luar kendali pengawas. Ia mengutip studi akademik yang menunjukkan bagaimana model AI simulasi nekat menggunakan informasi orang dalam (insider trading) lalu menyembunyikan alasannya dari manajemen. 

Riset lain menemukan program perdagangan berbasis AI mampu belajar melakukan kolusi terselubung untuk memanipulasi harga pasar.

"Seiring semakin banyaknya diskresi yang diserahkan kepada mesin-mesin yang makin canggih, pengawasan manusia akan makin sulit dipertahankan. Dan ketika kita tidak dapat memahami sepenuhnya bagaimana mesin-mesin tersebut mengambil keputusan, konsekuensinya akan semakin sulit diprediksi dan dimitigasi," ujar Lagarde.

Peretas Manfaatkan Model Frontier AI

Di ranah ketahanan siber, laporan peringatan ESRB menunjukkan bahwa peretas kini memanfaatkan model frontier AI untuk mengidentifikasi dan mengeksploitasi celah sistem perbankan secara instan. Pengujian independen mengungkapkan bahwa model AI rilisan akhir 2025 kini sanggup menyelesaikan seluruh tahapan skenario serangan siber kompleks yang sebelumnya gagal dilakukan. Akibatnya, tenggat waktu bagi lembaga keuangan untuk menutup celah keamanan merosot drastis dari hitungan minggu menjadi hanya beberapa jam.

Ancaman tersebut kian rumit akibat ketimpangan peta geopolitik. Pengembangan frontier model saat ini berpusat di Amerika Serikat dan Tiongkok. Ketergantungan Eropa terbukti rentan ketika kebijakan kontrol ekspor AS pada Juni lalu sempat memicu penghentian mendadak akses dua model AI canggih bagi pengguna di Eropa.

"Coba bayangkan masa depan di mana hampir setiap lembaga bergantung pada beberapa model atau perusahaan AI tertentu untuk menyesuaikan strategi perdagangan atau menemukan kerentanan pada sistem mereka. Dalam skenario itu, hilangnya akses dapat berpotensi sangat mengganggu stabilitas keuangan," tegas Lagarde.

Guna mengantisipasi dampak buruk tersebut, ESRB meminta otoritas keuangan kawasan untuk mewajibkan pengujian ulang benteng pertahanan siber di seluruh infrastruktur sistemik. Lagarde menekankan pentingnya Eropa membangun kedaulatan kapabilitas AI mandiri agar akses terhadap perangkat vital finansial tidak tergantung pada sakelar kendali pihak luar. ■

__________

DIGIONARY:

● Agentic AI: Sistem kecerdasan buatan yang memiliki tingkat otonomi tinggi untuk mengambil keputusan dan bertindak mandiri guna mencapai tujuan tertentu tanpa campur tangan konstan dari manusia.
● Frontier AI Model: Model kecerdasan buatan paling canggih dan berskala besar yang memiliki kapabilitas umum sangat tinggi serta berpotensi menimbulkan risiko keamanan baru.
● Generative AI: Teknologi AI yang mampu menghasilkan konten baru seperti teks, kode, atau gambar berdasarkan pola data yang dipelajarinya.
● Macroprudential Monitoring: Pengawasan dan regulasi sektor keuangan yang berfokus pada stabilitas sistem keuangan secara keseluruhan, bukan hanya pada kesehatan lembaga keuangan individu.
● Misalignment: Kondisi di mana tindakan atau tujuan yang dieksekusi oleh sistem AI tidak sejalan dengan niat, aturan, atau preferensi yang ditetapkan oleh pengembang atau pengawas manusia.
● Risiko Sistemik: Risiko tumbangnya seluruh sistem keuangan atau pasar akibat gangguan pada satu atau beberapa bagian terhubung.