Meski dinilai mampu meningkatkan efisiensi dalam bisnis di industri keuangan, termasuk perbankan, Otoritas Jasa Keuangan (OJK) dan Bank Indonaesia (BI) mengingatkan penerapan teknologi kecerdasan buatan (artificial intelligence/AI) memiliki sejumlah tantangan juga risiko.
Menurut Agusman, Kepala Eksekutif Pengawas Lembaga Pembiayaan, Perusahaan Modal Ventura, Lembaga Keuangan Mikro dan Lembaga Jasa Keuangan Lainnya (PVML) OJK, penerapan AI akan sangat berisiko bila institusi keuangan gagal menjaga keamanan data dan privasi.
“Serangan siber, risiko kebohongan data akan berdampak pada kredibilitas kita semua,” ujarnya dalam ‘Banking AI Day’, Senin (9/9).
Menurut dia, tak hanya itu, tantangan utama dalam penerapan AI terkait kepatuhan, di mana sistem AI dapat memastikan kepatuhan terhadap berbagai aturan, regulasi, dan standar yang ada.
Regulasi yang berkaitan dengan AI, demikian Agusman, perlu adaptif dan progresif agar dapat mengikuti perkembangan teknologi tanpa menghambat inovasi. Selain itu tantangan yang juga perlu dihadapi dengan baik adalah masalah etika.
“Etika ini akan memastikan bahwa kita bisa membuat publik semakin percaya bahwa AI ini justru membuat kita lebih bertanggung jawab terhadap perkembangan teknologi informasi maupun sektor keuangan secara keseluruhan ke depan,” ujar Agusman.
Sementara itu, Deputi Gubernur Senior Bank Indonesia (BI) Destry Damayanti mengatakan, selain soal keamanan data pribadi, AI akan sangat tergantung dari data dan informasi yang diperoleh yang pada akhirnya mempengaruhi hasil interpretasi.
“Sehingga kalau datanya salah, apalagi banyak data besar [big data] ini tentunya akan membuat juga interpretasi yang menjadi berbeda,” katanya.
Salah satu risiko yang sering muncul ketika pihaknya mekakukan stabilitas sistem keuangan adalah meningkatnya konsentrasi risiko default akibat keterhubungan yang semakin erat antar lembaga keuangan.
Sebagai contoh, penggunaan robo-advisory secara masif dengan algoritma serupa dapat memicu perilaku “herding” alias meniru di antara lembaga keuangan, yang mengarah pada risiko yang terkonsentrasi pada satu titik.
Tak hanya itu, kompleksitas dari produk keuangan yang terus meningkat, itu juga dapat meningkatkan kerentanan kepada nasabah, karena nasabah semakin sulit memahami karakteristik dan risiko pada produk keuangan yang kompleks. Jadi, kata dia, jangan segan untuk terus melakukan pengujian dan simulasi secara menyeluruh.
Alhasil, penting bagi para pemain di lembaga jasa keuangan untuk menyesuaikan berbagai risiko yang ada. Misalnya, dengan memastikan keamanan data, yakni menggunakan enskripsi data, firewall, atau lainnya.
Penting juga untuk melakukan audit secara rutin, serta mengatasi bias yang mungkin muncul dalam algoritma, terutama ketika menggunakan data yang beragam agar hasil yang dihasilkan lebih adil dan akurat.
“Kemudian juga terkait dengan kepatuhan regulasi dengan terus melakukan update atas regulasi yang berkaitan dengan penggunaan AI dan juga mitigasi risiko operasional,” tandas Destry. ■
