INDUSTRI PERBANKAN telah mengalami transformasi signifikan dengan adopsi kecerdasan buatan (AI). AI memungkinkan perbankan untuk meningkatkan efisiensi operasional, memberikan layanan pelanggan yang lebih baik, dan mengoptimalkan analisis data.
Namun, penggunaan AI juga menghadirkan berbagai risiko yang harus diidentifikasi dan dikelola dengan baik. Artikel ini akan membahas berbagai risiko yang terkait dengan penggunaan AI di industri perbankan dan langkah-langkah untuk mengelolanya.
Pada tanggal 6 Maret 2024, IBM merilis studi baru tentang adopsi kecerdasan buatan (AI) di sektor jasa keuangan dan manufaktur di Indonesia. Studi ini menemukan bahwa sebagian besar responden korporat lokal (62%) telah berinvestasi dalam pembuatan program pilot AI di perusahaan mereka. Angka ini cukup besar, dan ke depan tentunya akan semakin banyak perusahaan yang akan mengadopsi AI.
Mengidentifikasi dan mengelola risiko AI menjadi sangat krusial karena kesalahan dalam penerapan AI dapat mengakibatkan kerugian finansial, kerusakan reputasi, dan pelanggaran privasi serta keamanan data. Oleh karena itu, mitigasi risiko melalui langkah-langkah yang komprehensif dan proaktif tidak hanya melindungi institusi perbankan dari potensi ancaman tetapi juga memastikan bahwa manfaat AI dapat dimaksimalkan secara berkelanjutan.
Risiko keamanan dan privasi data
AI dalam perbankan memproses sejumlah besar data pribadi dan finansial, sehingga risiko kebocoran data dapat menyebabkan kerugian finansial yang signifikan dan kerusakan reputasi yang serius. Untuk mengelola risiko ini, bank perlu mengimplementasikan enkripsi data yang kuat untuk melindungi informasi sensitif selama proses penyimpanan dan transmisi.
Mengidentifikasi dan mengelola risiko AI menjadi sangat krusial karena kesalahan dalam penerapan AI dapat mengakibatkan kerugian finansial, kerusakan reputasi, dan pelanggaran privasi serta keamanan data. Oleh karena itu, mitigasi risiko melalui langkah-langkah yang komprehensif dan proaktif tidak hanya melindungi institusi perbankan dari potensi ancaman tetapi juga memastikan bahwa manfaat AI dapat dimaksimalkan secara berkelanjutan.
Selain itu, audit keamanan rutin harus dilakukan untuk mengidentifikasi dan memperbaiki kerentanan yang ada, serta menerapkan kebijakan akses yang ketat guna memastikan hanya pihak yang berwenang yang dapat mengakses data kritis.
AI juga menjadi target potensial bagi serangan siber seperti malware dan hacking. Untuk melindungi sistem AI dari ancaman siber, bank perlu menggunakan firewall yang kuat untuk mencegah akses tidak sah, serta mengimplementasikan sistem deteksi dan pencegahan intrusi (IDS/IPS) yang mampu mengidentifikasi dan menghalangi aktivitas mencurigakan.
Otentikasi multi-faktor (MFA) juga penting untuk memperkuat keamanan akses, memastikan bahwa hanya pengguna yang terverifikasi dengan baik yang dapat mengakses sistem. Dengan langkah-langkah mitigasi ini, bank dapat mengurangi risiko kebocoran data dan serangan siber, menjaga integritas dan kepercayaan nasabah terhadap layanan perbankan berbasis AI.
Risiko bias dan diskriminasi
Algoritma AI dalam perbankan dapat mengandung bias yang tidak disengaja, yang dapat menyebabkan diskriminasi terhadap kelompok tertentu. Untuk mengatasi risiko ini, bank harus melakukan evaluasi dan pengujian yang mendalam terhadap model AI untuk mendeteksi dan mengoreksi bias.
Hal itu sapat dilakukan melalui teknik seperti fairness testing dan bias audits yang secara khusus dirancang untuk mengidentifikasi ketidakadilan dalam model. Selain itu, penting untuk menggunakan data yang beragam dan representatif dalam proses pelatihan model AI, sehingga hasil yang dihasilkan tidak hanya mencerminkan perspektif yang sempit. Melibatkan berbagai sumber data dan memastikan inklusi dari berbagai kelompok demografis dapat membantu meminimalkan bias.
Bank juga perlu menerapkan mekanisme transparansi dan akuntabilitas dalam pengambilan keputusan berbasis AI. Ini termasuk mendokumentasikan setiap langkah dalam proses pengembangan dan implementasi model AI, serta memberikan penjelasan yang jelas dan dapat dipahami tentang bagaimana keputusan diambil.
Transparansi ini memungkinkan pihak-pihak yang berkepentingan untuk meninjau dan memahami dasar pengambilan keputusan, sehingga memudahkan identifikasi dan perbaikan potensi bias. Dengan mengadopsi pendekatan ini, bank dapat memastikan bahwa penggunaan AI tidak hanya efektif tetapi juga adil dan dapat dipercaya oleh semua pihak.
Bank juga perlu menerapkan mekanisme transparansi dan akuntabilitas dalam pengambilan keputusan berbasis AI. Ini termasuk mendokumentasikan setiap langkah dalam proses pengembangan dan implementasi model AI, serta memberikan penjelasan yang jelas dan dapat dipahami tentang bagaimana keputusan diambil.
Risiko kepatuhan dan regulasi
Industri perbankan adalah salah satu sektor yang sangat diatur, dan penggunaan kecerdasan buatan (AI) dalam operasionalnya harus mematuhi berbagai regulasi dan aturan lokal. Untuk memastikan kepatuhan ini, langkah-langkah yang perlu diambil meliputi memastikan AI mematuhi regulasi privasi data, mendokumentasikan proses dan keputusan yang dibuat oleh AI untuk audit kepatuhan, serta berkolaborasi dengan regulator untuk memahami dan mematuhi pedoman yang berkembang.
Otoritas Jasa Keuangan (OJK) di Indonesia telah mengeluarkan beberapa aturan dan panduan terkait penggunaan AI di industri perbankan. Misalnya, POJK Nomor 12/POJK.03/2021 mendorong penggunaan teknologi inovatif termasuk AI, dengan penekanan pada prinsip kehati-hatian, keamanan, dan perlindungan konsumen. Bank diwajibkan memiliki kebijakan dan prosedur yang jelas terkait penggunaan AI, mencakup pengelolaan risiko, validasi model, dan pengawasan.
Panduan Penerapan Manajemen Risiko Teknologi Informasi (TI) bagi Bank Umum memberikan arahan tentang manajemen risiko TI, termasuk risiko yang terkait dengan AI seperti risiko model, risiko keamanan data, dan risiko operasional. Bank harus secara efektif mengidentifikasi, mengukur, memantau, dan mengendalikan risiko-risiko ini.
Selain itu, SEOJK Nomor 13/SEOJK.03/2018 menekankan pentingnya manajemen risiko TI yang efektif dalam penggunaan AI, dan bank diharuskan memiliki kerangka kerja manajemen risiko TI yang komprehensif dan terintegrasi.
SEOJK tentang Pelaksanaan Prinsip Mengenali Pengguna Jasa bagi Penyelenggara Fintech, meskipun tidak secara khusus mengatur AI, relevan untuk penggunaan AI dalam layanan fintech seperti e-KYC (electronic Know Your Customer) dan penilaian kredit. Bank harus memastikan bahwa penggunaan AI dalam layanan fintech mematuhi prinsip mengenali pengguna jasa, termasuk verifikasi identitas dan pemantauan transaksi.
Untuk memastikan kesiapan dan kepatuhan yang lebih luas, bank dapat mengacu pada metodologi Artificial Intelligence Readiness Assessment Methodology (RAM) AI yang dikeluarkan oleh UNESCO, serta prinsip AI OECD. Langkah-langkah ini tidak hanya membantu bank memenuhi regulasi lokal tetapi juga mempersiapkan mereka untuk standar internasional, terutama mengingat Indonesia sedang mempersiapkan diri untuk menjadi anggota OECD.
Selain itu, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) mengatur perlindungan data pribadi, termasuk data yang digunakan dalam pengembangan dan penggunaan AI.
Untuk memastikan kesiapan dan kepatuhan yang lebih luas, bank dapat mengacu pada metodologi Artificial Intelligence Readiness Assessment Methodology (RAM) AI yang dikeluarkan oleh UNESCO, serta prinsip AI OECD. Langkah-langkah ini tidak hanya membantu bank memenuhi regulasi lokal tetapi juga mempersiapkan mereka untuk standar internasional, terutama mengingat Indonesia sedang mempersiapkan diri untuk menjadi anggota OECD.
Dengan demikian, adopsi dan implementasi AI dapat dilakukan dengan cara yang aman, transparan, dan sesuai dengan regulasi yang berlaku, menjaga integritas dan kepercayaan nasabah.Bank harus memastikan bahwa penggunaan data pribadi dalam AI mematuhi prinsip-prinsip perlindungan data pribadi, seperti persetujuan, transparansi, dan keamanan.
Risiko operasional
Kesalahan atau kegagalan dalam sistem AI dapat menyebabkan gangguan operasional yang signifikan dalam industri perbankan. Untuk mengelola risiko ini, bank perlu mengembangkan rencana pemulihan bencana yang mencakup sistem AI, termasuk strategi untuk pemulihan cepat dan efisien serta langkah-langkah cadangan dan pemulihan data.
Ketergantungan yang berlebihan pada AI juga merupakan risiko yang perlu diwaspadai. Bank harus menyadari bahwa terlalu bergantung pada AI tanpa mekanisme cadangan dapat meningkatkan kerentanan terhadap kegagalan teknologi.
Selain itu, penting untuk melakukan pengujian dan pemantauan berkala terhadap performa AI guna memastikan bahwa sistem berfungsi dengan baik dan siap menghadapi berbagai situasi darurat. Ketergantungan yang berlebihan pada AI juga merupakan risiko yang perlu diwaspadai. Bank harus menyadari bahwa terlalu bergantung pada AI tanpa mekanisme cadangan dapat meningkatkan kerentanan terhadap kegagalan teknologi.
Oleh karena itu, penting untuk mempertahankan keseimbangan antara teknologi AI dan proses manual. Pelatihan bagi karyawan untuk memahami dan mengelola AI menjadi krusial, sehingga mereka dapat mengambil alih jika terjadi kegagalan sistem.
Karyawan harus dilatih untuk memahami cara kerja AI, mengenali tanda-tanda kegagalan, dan tahu bagaimana mengambil tindakan yang tepat saat diperlukan. Untuk mitigasi risiko kegagalan sistem dan ketergantungan pada AI, bank dapat mengimplementasikan langkah-langkah seperti mengembangkan dan menguji rencana pemulihan bencana yang spesifik untuk sistem AI, melakukan pengujian dan pemantauan berkala terhadap sistem AI, memberikan pelatihan rutin bagi karyawan, menerapkan sistem redundansi dan cadangan, serta secara periodik mengevaluasi tingkat ketergantungan pada AI.
Dengan langkah-langkah ini, bank dapat mengelola risiko kegagalan sistem AI dan ketergantungan yang berlebihan, memastikan bahwa operasional tetap lancar dan aman dalam berbagai situasi. Hal ini tidak hanya melindungi institusi dari potensi gangguan tetapi juga meningkatkan kepercayaan nasabah terhadap kemampuan bank dalam mengelola teknologi canggih.
Risiko model dan reputasi
Keputusan yang diambil oleh AI dapat mempengaruhi reputasi bank, terutama jika terjadi kesalahan. Model AI yang menghasilkan keputusan yang salah, baik akibat bias data maupun kesalahan dalam algoritma, dapat menyebabkan kerusakan reputasi, hilangnya kepercayaan konsumen, dan potensi kerugian finansial.
Untuk mengurangi risiko ini, bank harus mengkomunikasikan secara transparan kepada nasabah tentang penggunaan AI dan manfaatnya, sehingga nasabah memiliki pemahaman yang jelas tentang bagaimana AI digunakan dalam layanan perbankan.
Selain itu, memastikan ada saluran umpan balik yang efektif bagi nasabah sangat penting. Dengan adanya saluran ini, nasabah dapat melaporkan masalah atau kekhawatiran yang mereka alami, memungkinkan bank untuk mengambil tindakan korektif dengan cepat. Implementasi pengawasan manusia dalam proses pengambilan keputusan kritis juga merupakan langkah mitigasi yang krusial. Pengawasan manusia dapat membantu mengidentifikasi dan memperbaiki keputusan AI yang tidak akurat sebelum dampaknya dirasakan oleh nasabah.
Untuk mengurangi risiko ini, bank harus mengkomunikasikan secara transparan kepada nasabah tentang penggunaan AI dan manfaatnya, sehingga nasabah memiliki pemahaman yang jelas tentang bagaimana AI digunakan dalam layanan perbankan.
Bank juga harus melakukan evaluasi berkala terhadap model AI mereka untuk mendeteksi dan mengurangi bias. Penggunaan data yang beragam dan representatif dalam pelatihan model AI dapat membantu meminimalkan risiko bias. Selain itu, bank harus menerapkan audit internal dan eksternal untuk memastikan bahwa model AI beroperasi sesuai dengan standar etika dan regulasi yang berlaku.
Dengan langkah-langkah ini, bank dapat mengelola risiko yang terkait dengan keputusan AI yang buruk, menjaga reputasi mereka, dan mempertahankan kepercayaan konsumen. Transparansi, umpan balik nasabah, pengawasan manusia, dan evaluasi berkala terhadap model AI adalah kunci untuk memastikan bahwa teknologi AI digunakan secara efektif dan bertanggung jawab dalam industri perbankan.
AI menawarkan banyak manfaat, mulai dari personalisasi layanan, peningkatan efisiensi operasional, hingga meningkatkan daya saing bank. Namun, untuk memanfaatkan potensi AI sepenuhnya, risikonya harus dikelola dengan baik. Oleh karena itu, tim manajemen risiko harus memiliki pemahaman mendalam tentang cara mengidentifikasi dan mengelola risiko yang terkait dengan penggunaan AI. Dengan pengelolaan risiko yang efektif, bank dapat memastikan bahwa mereka dapat meraih manfaat maksimal dari teknologi AI sambil menjaga kepercayaan nasabah dan integritas operasional mereka. ■
*) Tuhu Nugraha, pengamat teknologi, principal IADERN.
