Tulisan ini mengangkat isu krusial seputar pemanfaatan AI Generatif dalam industri keuangan Indonesia yang berkembang pesat. Sementara teknologi ini menawarkan berbagai manfaat seperti efisiensi dan inovasi, ia juga membawa risiko signifikan termasuk kebocoran data, bias algoritmik, dan pelanggaran privasi. Beberapa bank besar di Indonesia telah mulai mengadopsi AI Generatif, namun artikel ini menegaskan pentingnya pengembangan kerangka manajemen risiko dan tata kelola yang kuat untuk memastikan pemanfaatannya berjalan secara bertanggung jawab, aman, dan sesuai regulasi.
Fokus utama:
- Manfaat dan risiko AI Generatif dalam industri keuangan. Tulisan ini membahas potensi besar AI Generatif dalam meningkatkan efisiensi, inovasi produk, dan pengalaman nasabah, sekaligus menyoroti risiko seperti kebocoran data, bias algoritmik, dan serangan siber.
- Penerapan AI Generatif oleh institusi keuangan di Indonesia. Artikel ini mengulas berbagai bank dan fintech di Indonesia yang mulai mengadopsi AI Generatif, seperti BNI, Bank Jago, BRI, dan CIMB Niaga, serta kesiapan industri dalam menghadapi revolusi teknologi ini.
- Urgensi tata kelola dan manajemen risiko AI Generatif. Ditekankan pentingnya pengembangan kerangka tata kelola dan manajemen risiko AI Generatif berdasarkan prinsip GRC, regulasi nasional, dan standar internasional untuk menjaga keberlanjutan dan keamanan sistem keuangan.
Pada Juli 2024, seorang karyawan Disney, Matthew Van Andel, tanpa sadar mengunduh perangkat lunak berbahaya yang disamarkan sebagai alat AI. Tindakan ini memungkinkan peretas mengakses kredensialnya, mencuri, dan mempublikasikan lebih dari 44 juta pesan internal Disney, termasuk informasi pelanggan dan data keuangan sensitif. Insiden ini tidak hanya merugikan perusahaan tetapi juga menghancurkan kehidupan pribadi Van Andel, yang akhirnya kehilangan pekerjaannya dan menghadapi berbagai pelanggaran privasi.
Kasus di atas menyoroti risiko signifikan yang ditimbulkan oleh pemanfaatan Artificial Intelligence (AI) Generatif tanpa pengelolaan risiko yang memadai. Di Indonesia, adopsi AI Generatif dalam industri keuangan berkembang pesat, menawarkan inovasi dalam layanan dan operasional. Namun, tanpa kerangka manajemen risiko yang tepat, institusi keuangan dapat menghadapi ancaman serupa yang berpotensi merugikan reputasi dan stabilitas finansial mereka.
AI Generatif memiliki kemampuan untuk menghasilkan konten baru berdasarkan data yang ada, seperti teks, gambar, atau suara. Meskipun menawarkan berbagai manfaat, teknologi ini juga membawa risiko, termasuk bias algoritma dan kebocoran data. Studi oleh University of Washington menunjukkan bahwa model seperti Stable Diffusion cenderung memperkuat stereotip rasial dan gender.
Di tingkat global, berbagai insiden telah terjadi akibat bias dalam AI Generatif. Sebagai contoh, penelitian yang dipublikasikan di arXiv menunjukkan bahwa alat AI seperti Midjourney, Stable Diffusion, dan DALL·E 2 menunjukkan bias signifikan terhadap perempuan dan individu Afrika-Amerika, memperkuat stereotip yang merugikan (arXiv, 2024). Selain itu, laporan dari Bloomberg mengungkap bahwa AI Generatif sering kali memperburuk stereotip rasial dan gender yang ada, yang dapat berdampak negatif pada keputusan bisnis dan kepercayaan pelanggan.
Meskipun studi ini dilakukan secara umum dan bukan khusus untuk sektor keuangan, besar kemungkinan dampak bias algoritmik seperti ini juga akan berpengaruh pada industri keuangan, terutama jika model digunakan dalam pengambilan keputusan yang memengaruhi nasabah atau layanan finansial.
Di tingkat global, berbagai insiden telah terjadi akibat bias dalam AI Generatif. Sebagai contoh, penelitian yang dipublikasikan di arXiv menunjukkan bahwa alat AI seperti Midjourney, Stable Diffusion, dan DALL·E 2 menunjukkan bias signifikan terhadap perempuan dan individu Afrika-Amerika, memperkuat stereotip yang merugikan (arXiv, 2024). Selain itu, laporan dari Bloomberg mengungkap bahwa AI Generatif sering kali memperburuk stereotip rasial dan gender yang ada, yang dapat berdampak negatif pada keputusan bisnis dan kepercayaan pelanggan.
Seiring dengan pesatnya perkembangan teknologi, AI Generatif telah menjadi katalisator utama dalam transformasi industri keuangan global. Di Indonesia, adopsi AI Generatif semakin meluas, mendorong efisiensi operasional, meningkatkan pengalaman nasabah, dan membuka peluang inovasi produk keuangan. Sebuah studi IBM mengungkap bahwa 23% perusahaan sektor jasa keuangan dan manufaktur di Indonesia telah mengintegrasikan kemampuan AI Generatif lintas divisi, sementara 62% lainnya menggunakannya untuk chatbot, analitik, dan keamanan data.
Penerapannya di industri keuangan Indonesia semakin konkret, ditandai dengan langkah beberapa bank besar yang mulai mengintegrasikan teknologi ini ke dalam sistem operasional mereka. PT Bank Negara Indonesia Tbk (BNI) pada Juni 2024 mengumumkan adopsi teknologi AI Generatif menggunakan solusi dari Cloudera, yang bertujuan meningkatkan produktivitas kantor regional dan mendorong mekanisme kredit serta transaksi perbankan yang lebih personal. BNI juga menjadi salah satu pelanggan global pertama yang mencoba layanan AI Inference dari Cloudera yang didukung oleh NVIDIA untuk kasus penggunaan GenAI dan Machine Learning.
Bank Jago, sebagai bank berbasis teknologi, berkolaborasi dengan Google Cloud melalui platform Vertex AI untuk menciptakan efisiensi operasional dan pertumbuhan bisnis. Mereka telah mengembangkan aplikasi GenAI untuk meningkatkan pengalaman perbankan nasabah. Bank Mandiri, meskipun tidak secara eksplisit menyebut GenAI, telah memanfaatkan teknologi AI dalam aplikasi Livin’ by Mandiri untuk berbagai layanan otomatisasi, dan besar kemungkinan sedang atau akan mengeksplorasi potensi GenAI.
Bank Rakyat Indonesia (BRI) bekerja sama dengan Microsoft untuk memperkuat kapabilitas AI mereka, yang mengindikasikan kesiapan untuk mengadopsi GenAI dalam waktu dekat.
Survei dari AC Ventures, BCG, dan KADIN pada Agustus 2024 menunjukkan bahwa 51% lembaga keuangan di Indonesia sedang mengembangkan GenAI untuk kegiatan operasional sehari-hari. Laporan Asosiasi Fintech Indonesia (AFTECH) pada September 2024 juga menunjukkan bahwa 55% pelaku fintech telah menggunakan teknologi AI, menandakan kesiapan industri untuk menyambut revolusi GenAI.
Bank Syariah Indonesia (BSI) pun menjalin kolaborasi dengan Temenos dalam modernisasi sistem perbankan berbasis cloud, di mana Generative AI disebut sebagai salah satu teknologi canggih yang akan diintegrasikan.
CIMB Niaga telah memanfaatkan AI untuk layanan OCTO Clicks mereka dan memiliki potensi besar untuk memperluasnya ke dalam ranah GenAI. Sementara itu, platform fintech seperti Bareksa melihat potensi GenAI untuk mentransformasi dunia wealth tech, mulai dari optimalisasi imbal hasil investasi hingga otomasi layanan pelanggan dan manajemen portofolio.
Survei dari AC Ventures, BCG, dan KADIN pada Agustus 2024 menunjukkan bahwa 51% lembaga keuangan di Indonesia sedang mengembangkan GenAI untuk kegiatan operasional sehari-hari. Laporan Asosiasi Fintech Indonesia (AFTECH) pada September 2024 juga menunjukkan bahwa 55% pelaku fintech telah menggunakan teknologi AI, menandakan kesiapan industri untuk menyambut revolusi GenAI.
Untuk memitigasi risiko tersebut, institusi keuangan di Indonesia perlu mengembangkan Kerangka Manajemen Risiko AI Generatif (Generative AI Risk Management Framework). Langkah pertama adalah membangun fondasi berdasarkan prinsip Governance, Risk, and Compliance (GRC) yang sudah ada, dengan menyesuaikan terhadap karakteristik unik AI Generatif.
Pengalaman dalam mengelola risiko terkait cloud dan keamanan siber dapat menjadi dasar yang kuat. Selanjutnya, penting untuk mengidentifikasi dan memahami risiko spesifik yang terkait dengan AI Generatif, seperti reliabilitas output, privasi data, dan ketergantungan pada pihak ketiga. Mengadopsi standar internasional seperti NIST AI Risk. Management Framework dapat membantu dalam memetakan, mengukur, dan mengelola risiko ini secara sistematis. Selain itu, institusi keuangan di Indonesia juga dapat merujuk pada standar ISO/IEC 42001:2023 mengenai sistem manajemen AI dan ISO/IEC 23894:2023 mengenai manajemen risiko AI, yang telah mulai diadopsi secara formal di tingkat nasional melalui Badan Standardisasi Nasional (BSN) sebagai referensi standar pengelolaan dan tata kelola AI yang relevan dengan konteks Indonesia.
Untuk memitigasi risiko tersebut, institusi keuangan di Indonesia perlu mengembangkan Kerangka Manajemen Risiko AI Generatif (Generative AI Risk Management Framework). Langkah pertama adalah membangun fondasi berdasarkan prinsip Governance, Risk, and Compliance (GRC) yang sudah ada, dengan menyesuaikan terhadap karakteristik unik AI Generatif.
Membangun struktur tata kelola AI yang jelas dengan penunjukan pemilik risiko di tingkat eksekutif dan pembentukan forum tata kelola lintas fungsi akan memastikan bahwa pengawasan manusia tetap menjadi bagian integral dalam proses pengambilan keputusan yang melibatkan AI. Selain itu, menerapkan pendekatan mitigasi praktis seperti Retrieval-Augmented Generation (RAG) untuk meningkatkan reliabilitas output, serta teknologi peningkatan privasi, akan membantu meminimalkan risiko.
Pengelolaan risiko pihak ketiga juga krusial, mengingat banyak institusi keuangan bergantung pada vendor eksternal untuk solusi AI. Proses seleksi vendor yang ketat, kontrak yang jelas mengenai risiko AI, dan audit independen terhadap solusi yang ditawarkan akan membantu mengurangi potensi risiko.
Terakhir, institusi keuangan harus memastikan bahwa penerapan AI Generatif sesuai dengan regulasi lokal dan global yang berlaku, seperti Undang-Undang Perlindungan Data Pribadi (UU PDP) dan peraturan Otoritas Jasa Keuangan (OJK) terkait teknologi informasi. Monitoring dan evaluasi berkelanjutan terhadap kinerja sistem AI, serta pelatihan bagi karyawan mengenai manfaat dan risiko AI, akan memastikan bahwa teknologi ini digunakan secara bertanggung jawab dan aman.
Dengan pendekatan yang hati-hati, adaptif, dan bertanggung jawab, institusi keuangan di Indonesia dapat memanfaatkan potensi AI Generatif secara maksimal, sambil memitigasi risiko yang mungkin timbul, sehingga menjaga kepercayaan dan kepuasan nasabah serta mematuhi regulasi yang berlaku. ■
*) Tuhu Nugraha adalah digital business & metaverse expert, principal of Indonesia Digital Economy & Regulatory Network (IADERN).
