Economic Survey 2024 mengungkapkan potensi besar sekaligus risiko yang mengintai dalam penerapan kecerdasan buatan (artificial intelligence/AI) di sektor perbankan. Meski AI menawarkan peningkatan efisiensi dan penghematan biaya, laporan ini menekankan bahwa tantangan besar seperti sifat ‘kotak hitam’ AI, risiko terkait akuntabilitas, ancaman siber, dan potensi penyalahgunaan perlu dihadapi dengan hati-hati. Tanpa regulasi yang kuat, AI dapat merusak kepercayaan masyarakat dan membahayakan stabilitas sektor keuangan.
Poin utama:
- Ketidaktransparanan dalam sistem AI menambah kekhawatiran akan keandalan dan akurasi keputusan yang diambil oleh teknologi ini. Keputusan yang tidak dapat dipertanggungjawabkan secara jelas dapat merusak kepercayaan publik terhadap bank yang mengandalkan AI.
- Keputusan yang dihasilkan oleh AI sering kali sulit untuk dilacak ke sumbernya, yang menimbulkan masalah dalam hal siapa yang bertanggung jawab jika terjadi kesalahan atau kerugian. Hal ini menuntut adanya regulasi yang jelas untuk mengatasi masalah tersebut.
- Seiring dengan penggunaan AI, sektor perbankan berisiko menghadapi ancaman dari pihak yang berniat jahat, seperti pencurian identitas sintetis, perdagangan nakal, hingga manipulasi pasar yang dapat mengguncang stabilitas finansial.
Integrasi kecerdasan buatan (AI) dalam sistem perbankan memiliki potensi untuk merevolusi industri ini. Namun, Economic Survey 2024 yang dipublikasikan pekan ini memperingatkan bahwa peningkatan ketergantungan pada AI membawa sejumlah risiko yang perlu dipertimbangkan dengan hati-hati.
Laporan yang disusun The Economic Times itu menyebutkan tantangan-tantangan utama yang perlu dihadapi dalam penerapan AI, seperti sifat ‘kotak hitam’ AI, risiko terkait sumber daya manusia dan pihak ketiga, ancaman terhadap keamanan siber, serta potensi penyalahgunaan teknologi ini.
“Di balik manfaat yang ada, penggunaan AI dalam sistem perbankan membawa sejumlah risiko. Sifat kotak hitam pada sistem AI dapat menyulitkan penilaian tentang keandalan sistem tersebut atau membantah keputusan yang diambilnya. Kurangnya transparansi ini bisa menimbulkan masalah kepercayaan serta tantangan dalam memvalidasi keadilan dan akurasi keputusan AI, sehingga menyulitkan proses audit atau interpretasi algoritma yang mendasari keputusan-keputusan tersebut,” demikian bunyi laporan tersebut.
Sifat ‘kotak hitam’ AI
Salah satu tantangan terbesar yang terkait dengan AI di sektor perbankan adalah sifat ‘kotak hitam’-nya. Sistem AI, terutama yang menggunakan algoritma kompleks, sering kali beroperasi dengan cara yang sulit dipahami atau diinterpretasikan oleh manusia. Kekurangan transparansi ini membuatnya sulit untuk menilai keandalan sistem AI atau membantah keputusan yang diambil, menambah kekhawatiran tentang keadilan dan akurasi hasil yang diperoleh.
Economic Survey menekankan bahwa ketidakjelasan ini dapat merusak kepercayaan pada keputusan-keputusan yang dihasilkan oleh AI, yang menjadi tantangan signifikan dalam hal auditing atau penafsiran algoritma yang mendasari keputusan-keputusan tersebut.
Selain itu, sistem AI dalam perbankan menghadirkan risiko akuntabilitas. Karena keputusan yang diambil oleh AI sering kali sulit untuk ditelusuri kembali ke sumbernya, hal ini menyebabkan masalah dalam menentukan siapa yang bertanggung jawab apabila terjadi kesalahan atau masalah. Laporan ini mengajukan pertanyaan penting mengenai siapa yang seharusnya bertanggung jawab atas keputusan-keputusan yang diambil oleh AI — apakah itu pengembang, bank, atau penyedia layanan pihak ketiga.
Risiko keamanan siber dan penyalahgunaan
Survey ini juga menyoroti beberapa risiko terkait sumber daya manusia dan pengawasan. Seiring dengan AI yang menggantikan beberapa fungsi dalam perbankan, ada risiko pengawasan manusia yang tidak memadai, yang dapat mengarah pada ketergantungan berlebihan pada sistem otomatis. Dalam jangka panjang, hal ini dapat mengakibatkan hilangnya keahlian manusia, sehingga bank akan kesulitan untuk melakukan intervensi secara efektif ketika diperlukan.
Selain risiko terkait sumber daya manusia, penggunaan AI dalam perbankan juga memperkenalkan ancaman baru terhadap keamanan siber. Laporan ini mencatat potensi penyalahgunaan teknologi AI, seperti penipuan identitas sintetis, perdagangan nakal, dan manipulasi pasar — yang semuanya dapat mengguncang sistem keuangan secara keseluruhan.
Dalam lingkungan keuangan yang serba cepat, Economic Survey menyoroti bahwa sistem AI mungkin menghadapi tantangan dalam intervensi waktu nyata pada saat-saat kritis, terutama jika korelasi pasar menyebabkan konsekuensi yang tak terduga. Selain itu, ketergantungan pada penyedia layanan pihak ketiga untuk fungsi-fungsi penting menciptakan risiko terkait konsentrasi penyedia layanan, di mana kegagalan satu penyedia dapat mengganggu seluruh operasi perbankan, seperti yang dicatat dalam laporan ini.
Seiring semakin banyaknya bank yang mengadopsi AI, Economic Survey menekankan pentingnya adanya kerangka regulasi yang kuat, algoritma yang transparan, dan mekanisme pengawasan yang kuat untuk mengurangi risiko-risiko ini. Meskipun AI menawarkan potensi transformasi yang besar, sebuah keseimbangan yang hati-hati harus dijaga untuk memastikan penggunaannya yang aman, etis, dan efektif dalam sektor perbankan. ■
