PENGGUNAAN conversational AI, seperti chatbot, di industri jasa keuangan telah membawa berbagai manfaat signifikan. Namun, terdapat sejumlah risiko yang perlu diwaspadai dan dikelola secara hati-hati. Artikel ini akan mengulas potensi risiko pemanfaatan conversational AI di industri keuangan serta upaya mitigasinya.
Conversational AI adalah teknologi yang memungkinkan mesin untuk berinteraksi dengan manusia melalui percakapan alami, baik dalam bentuk teks maupun suara. Bentuk-bentuk conversational AI yang banyak digunakan di industri keuangan meliputi chatbot, voice assistants, dan virtual agents.
Teknologi ini dapat membantu menyederhanakan dan mempercepat layanan pelanggan, melakukan transaksi sederhana, memberikan informasi akun, dan menyelesaikan masalah umum tanpa intervensi manusia.
Menurut riset dari Juniper Research, chatbot dapat menghemat biaya bisnis hingga lebih dari US$8 miliar per tahun pada tahun 2022, dengan kemampuan menghemat rata-rata 4 menit per interaksi pelanggan dibandingkan dengan pusat panggilan tradisional.
Meskipun belum ada riset spesifik mengenai pemanfaatan conversational AI di Indonesia yang menunjukkan persentase penurunan biaya secara pasti, beberapa riset global dan data dari penyedia layanan conversational AI memberikan gambaran mengenai potensi penghematan biaya.
Menurut riset dari Juniper Research, chatbot dapat menghemat biaya bisnis hingga lebih dari US$8 miliar per tahun pada tahun 2022, dengan kemampuan menghemat rata-rata 4 menit per interaksi pelanggan dibandingkan dengan pusat panggilan tradisional.
Selain itu, Gartner memperkirakan bahwa pada tahun 2023, 25% dari organisasi akan menggunakan asisten virtual untuk layanan pelanggan, yang dapat mengurangi volume panggilan ke pusat panggilan hingga 70%. Banyak penyedia layanan conversational AI juga mengklaim bahwa teknologi mereka dapat membantu bisnis menghemat biaya layanan pelanggan hingga 30%.
Dengan adanya potensi manfaat tersebut, perusahaan perlu mengelola risiko-risiko yang muncul dari penggunaan conversational AI dengan baik. Beberapa risiko yang harus diperhatikan meliputi keamanan data, kepatuhan terhadap regulasi, kesalahan teknis, ketergantungan teknologi, dan dampak etika.
Untuk mengatasi risiko-risiko ini, perusahaan harus menerapkan langkah-langkah mitigasi yang tepat, seperti meningkatkan keamanan, memastikan kepatuhan, melakukan pengujian berkala, menyediakan opsi interaksi manusia, dan menjaga transparansi dengan pelanggan.
Dengan demikian, perusahaan dapat memanfaatkan potensi conversational AI secara maksimal dan bertanggung jawab, sambil menjaga kepuasan pelanggan dan pertumbuhan bisnis yang berkelanjutan.
Risiko keamanan
Chatbot yang tidak aman bisa menjadi target empuk bagi peretas untuk mencuri data sensitif pelanggan, seperti informasi pribadi, data keuangan, atau data transaksi. Kebocoran data ini dapat merusak reputasi perusahaan dan menimbulkan kerugian finansial bagi pelanggan.
Pelatihan karyawan tentang pentingnya keamanan data dan cara mencegah kebocoran juga penting. Penipu juga dapat menggunakan chatbot untuk melakukan social engineering atau phishing dengan menyamar sebagai perwakilan bank guna mendapatkan informasi pribadi atau akses ke akun pelanggan. Ini dapat menyebabkan kerugian finansial dan menurunkan tingkat kepercayaan pelanggan terhadap perusahaan.
Risiko keamanan juga dapat muncul karena poisoning model pada generative AI yang digunakan, di mana peretas dapat menyusupkan data berbahaya untuk mengubah respons AI atau mendapatkan akses tidak sah. Untuk mengatasi risiko ini, perusahaan perlu menerapkan sistem keamanan yang kuat, seperti enkripsi data, otentikasi ganda, dan pemantauan keamanan secara berkala.
Selain itu, pelatihan karyawan tentang pentingnya keamanan data dan cara mencegah kebocoran juga penting. Penipu juga dapat menggunakan chatbot untuk melakukan social engineering atau phishing dengan menyamar sebagai perwakilan bank guna mendapatkan informasi pribadi atau akses ke akun pelanggan. Ini dapat menyebabkan kerugian finansial dan menurunkan tingkat kepercayaan pelanggan terhadap perusahaan.
Untuk mitigasi, perusahaan harus mengimplementasikan langkah-langkah keamanan yang ketat, seperti validasi identitas pengguna, pemantauan aktivitas mencurigakan, dan edukasi pelanggan tentang praktik-praktik keamanan. Menggunakan teknologi deteksi penipuan berbasis AI juga dapat membantu mengidentifikasi dan mencegah upaya penipuan.
Risiko kepatuhan
Penggunaan conversational AI, seperti chatbot, di industri keuangan harus mematuhi regulasi yang berlaku, seperti perlindungan data pribadi dan transparansi dalam penggunaan AI. Kegagalan mematuhi regulasi ini dapat mengakibatkan sanksi hukum dan denda yang besar, serta merusak reputasi perusahaan.
Untuk mengatasi risiko ini, perusahaan harus memastikan bahwa semua penggunaan AI mematuhi regulasi yang berlaku, termasuk memiliki kebijakan perlindungan data yang ketat, memastikan transparansi dalam penggunaan AI, dan mengikuti pedoman dari otoritas pengawas. Pelatihan reguler untuk karyawan tentang regulasi dan kepatuhan juga sangat penting.
Di Indonesia, Otoritas Jasa Keuangan (OJK) telah mengeluarkan beberapa regulasi terkait penggunaan conversational AI, seperti Peraturan OJK Nomor 1/POJK.07/2013 tentang Perlindungan Konsumen Sektor Jasa Keuangan dan Peraturan OJK Nomor 13/POJK.02/2018 tentang Inovasi Keuangan Digital di Sektor Jasa Keuangan, yang mengatur perlindungan konsumen, keamanan siber, dan manajemen risiko.
Perusahaan harus memastikan bahwa semua penggunaan AI mematuhi regulasi yang berlaku, termasuk memiliki kebijakan perlindungan data yang ketat, memastikan transparansi dalam penggunaan AI, dan mengikuti pedoman dari otoritas pengawas. Pelatihan reguler untuk karyawan tentang regulasi dan kepatuhan juga sangat penting.
Jika data pelatihan chatbot tidak representatif, bisa menyebabkan bias dalam respons dan keputusan yang dihasilkan, menimbulkan ketidakadilan dan diskriminasi. Untuk mengatasi ini, perusahaan harus menggunakan data pelatihan yang representatif dan mencerminkan keragaman pelanggan.
Pengujian berkala untuk mengidentifikasi dan mengatasi bias dalam algoritma serta melibatkan tim yang beragam dalam proses pengembangan AI juga penting.
Gangguan teknis atau kesalahan pada chatbot dapat mengganggu layanan pelanggan, menyebabkan ketidakpuasan, dan mengurangi tingkat kepercayaan pelanggan terhadap teknologi yang digunakan.
Untuk mengatasi risiko ini, perusahaan harus melakukan pengujian dan pemantauan secara teratur untuk memastikan chatbot berfungsi dengan baik. Memiliki tim teknis yang siap merespons dan memperbaiki masalah teknis dengan cepat sangat penting.
Selain itu, ketergantungan yang berlebihan pada chatbot dapat menimbulkan masalah jika terjadi kegagalan sistem atau pemadaman listrik. Perusahaan perlu memiliki rencana cadangan dan prosedur darurat untuk mengatasi kegagalan sistem serta menyediakan opsi bagi pelanggan untuk berinteraksi dengan agen manusia jika chatbot tidak berfungsi.
Risiko reputasi
Chatbot yang tidak terlatih dengan baik dapat memberikan respons yang tidak pantas, menyinggung, atau tidak akurat, yang bisa merusak reputasi perusahaan dan menurunkan tingkat kepuasan pelanggan. Untuk mengatasi risiko ini, perusahaan harus memastikan bahwa chatbot dilatih dengan baik dan terus memantau serta memperbarui responsnya.
Selain itu, memberikan pelatihan lanjutan dan pemantauan kualitas layanan secara berkala dapat membantu menjaga kualitas interaksi chatbot dengan pelanggan. Sebagian pelanggan mungkin lebih memilih berinteraksi dengan manusia, terutama untuk masalah yang kompleks atau sensitif.
Chatbot yang tidak terlatih dengan baik dapat memberikan respons yang tidak pantas, menyinggung, atau tidak akurat, yang bisa merusak reputasi perusahaan dan menurunkan tingkat kepuasan pelanggan. Untuk mengatasi risiko ini, perusahaan harus memastikan bahwa chatbot dilatih dengan baik dan terus memantau serta memperbarui responsnya.
Kurangnya sentuhan manusia ini dapat menyebabkan ketidakpuasan dan mengurangi loyalitas pelanggan. Oleh karena itu, perusahaan perlu menyediakan opsi bagi pelanggan untuk berbicara dengan agen manusia jika diperlukan. Memastikan bahwa chatbot dapat dengan cepat mengarahkan pelanggan ke agen manusia saat dibutuhkan dapat meningkatkan pengalaman pelanggan.
Risiko etika
Risiko etika juga harus diperhatikan, terutama terkait transparansi. Penting untuk menginformasikan kepada pelanggan bahwa mereka berinteraksi dengan chatbot, bukan manusia, guna mengelola ekspektasi dan aspek transparansi.
Transparansi ini penting untuk menjaga kepercayaan dan kejujuran dalam layanan. Dengan memberikan keterangan yang jelas mengenai interaksi dengan AI, perusahaan dapat meningkatkan kepercayaan dan kepuasan pelanggan.
Penggunaan chatbot dapat menggantikan beberapa pekerjaan manusia di sektor layanan pelanggan, menimbulkan kekhawatiran tentang pengangguran dan dampak sosial lainnya. Untuk mengatasi risiko ini, perusahaan perlu mengelola perubahan ini dengan bijak, termasuk memberikan pelatihan ulang dan peluang kerja baru bagi karyawan yang terdampak.
Risiko etika juga harus diperhatikan, terutama terkait transparansi. Penting untuk menginformasikan kepada pelanggan bahwa mereka berinteraksi dengan chatbot, bukan manusia, guna mengelola ekspektasi dan aspek transparansi.
Selain itu, perusahaan juga perlu memberikan bekal reskill dan upskill, menempatkan karyawan pada posisi lain yang membutuhkan keterampilan baru, atau memberikan pelatihan pengembangan kewirausahaan bagi mereka yang memilih untuk menjadi wirausaha.
Mengkomunikasikan secara terbuka tentang tujuan penggunaan AI dan dampaknya pada tenaga kerja juga penting untuk mengurangi kekhawatiran. Langkah-langkah ini tidak hanya membantu karyawan beradaptasi dengan perubahan, tetapi juga meningkatkan nilai ESG (Environmental, Social, and Governance) perusahaan, yang saat ini didorong oleh OJK melalui laporan ESG.
Dengan mengatasi risiko-risiko ini secara proaktif, perusahaan keuangan dapat memanfaatkan potensi conversational AI untuk meningkatkan efisiensi, kepuasan pelanggan, dan pertumbuhan bisnis secara bertanggung jawab. Pengelolaan risiko yang baik akan membantu perusahaan mempertahankan reputasi yang positif dan memenuhi harapan pelanggan dalam era digital ini. ■
*) Tuhu Nugraha, pengamat teknologi, principal Indonesia Applied Digital Economy & Regulatory Network (IADERN). Tulisan ini merupakan hasil kolaborasi digitalbank.id dengan IADERN yang bertujuan membangun literasi dan narasi AI yang baik untuk Indonesia.
