Sebut Aturan Mesin Cuci Lebih Ketat dari AI, Bos Microsoft Serukan Regulasi Keselamatan Ketat

_____________

DIGI-HIGHLIGHTS:

■ Presiden Microsoft Brad Smith sebut aturan keselamatan mesin cuci dan produk susu kemasan saat ini jauh lebih ketat dibandingkan regulasi AI.
■ Pimpinan Microsoft tegaskan perlunya regulasi ketat, kewajiban ganti rugi, serta pemasangan rem darurat (kill switch) pada sistem AI canggih.
■ CEO Microsoft Satya Nadella ingatkan superinteligensi tidak boleh diperlakukan sebagai sistem kotak hitam yang dibiarkan beroperasi tanpa kendali.

____________

Presiden Microsoft Brad Smith melontarkan kritik tajam terhadap longgarnya pengawasan regulasi global terhadap industri kecerdasan buatan (artificial intelligence/AI). Ia secara terbuka membandingkan tingkat kepatuhan keselamatan teknologi AI dengan standar produk komersial sehari-hari yang dinilai jauh lebih terikat aturan ketat.

"Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibandingkan AI. Setiap karton susu yang Anda lihat di toko bahan makanan juga harus mematuhi aturan keselamatan dan menjalani pemeriksaan," ujar Smith, sebagaimana dikutip dari The Guardian.

Regulasi yang Mengikat

Menurut Smith, perkembangan teknologi AI yang kian masif menuntut kehadiran regulasi keselamatan formal yang mengikat. Salah satu poin krusial yang disorotinya adalah kewajiban hukum bagi pengembang untuk memberikan ganti rugi kepada pihak "korban" apabila sistem AI otonom bertindak di luar kendali atau diretas oleh pihak tak bertanggung jawab.

Smith menilai bahwa AI memuat karakteristik ganda sebagai "alat sekaligus senjata", sehingga keberadaan mekanisme penghenti darurat atau yang dikenal sebagai kill switch menjadi harga mati bagi setiap korporasi teknologi. Rem darurat ini berfungsi sebagai pengaman untuk menghentikan atau memperlambat aktivitas sistem AI seketika saat teknologi tersebut menunjukkan gejala di luar kendali.

Pandangan senada juga disuarakan oleh CEO Microsoft Satya Nadella. Melalui pernyataan resminya di platform X. Nadella menekankan bahwa sistem AI tingkat lanjut tidak boleh dibiarkan beroperasi sebagai "sistem kotak hitam" (black box) yang kompleks, di mana manusia hanya bisa menerima atau menolak rekomendasi tanpa memahami mekanisme dasarnya.

"Kita harus membangun sistem yang terkendali, yang perilakunya dapat kita amati, batas kemampuannya dapat kita uji, dan tindakannya selalu dapat kita kendalikan," tulis Nadella.

Perilaku Anomali Model AI

Seruan pimpinan Microsoft ini muncul di tengah gelombang meningkatnya insiden perilaku anomali dari model AI terkemuka. Baru-baru ini, perusahaan riset AI Anthropic mengungkap bahwa dalam pengujian salah satu versi model Claude, sistem tersebut secara keliru menghubungi pihak kepolisian dan mengklaim dapat membantu memecahkan kasus pembunuhan.

Meningkatnya insiden tersebut mendorong para pakar, regulator, hingga perusahaan pengembang utama seperti Anthropic, Google DeepMind, dan OpenAI untuk secara terbuka mendesak perlambatan laju pengembangan AI demi mengutamakan aspek mitigasi risiko keselamatan publik.

Mitigasi Risiko Operasional 

Seruan dari petinggi Microsoft mengenai regulasi ketat dan mekanisme kill switch pada punya implikasi strategis yang sangat relevan bagi sektor perbankan dan industri keuangan digital.

Seiring meningkatnya adopsi agentic AI dan model otonom di sektor perbankan—seperti dalam pemrosesan kredit otomatis dan layanan pelanggan—lembaga keuangan wajib merancang protokol penghenti darurat (kill switch). Ketiadaan kontrol manual atas algoritma otonom berpotensi memicu kerugian finansial masif jika terjadi hallucination atau kegagalan sistem.
 
Sementara itu, dorongan agar pengembang AI bertanggung jawab atas tindakan sistem mereka menandai pergeseran arah hukum pertanggungjawaban teknologi. Bank sebagai pengguna akhir (end-user) teknologi pihak ketiga harus memperketat klausul kontrak vendor (vendor risk management) guna memastikan perlindungan hukum dari potensi malfungsi algoritma.

Pernyataan publik dari para raksasa teknologi menandakan bahwa era swaregulasi (self-regulation) industri AI akan segera berakhir. Otoritas pengawas keuangan domestik, seperti Otoritas Jasa Keuangan (OJK), diprediksi akan segera mengadopsi standar tata kelola AI yang lebih formal guna menjamin integritas dan keamanan sistem perbankan nasional. ■

____________

DIGIONARY:

● Artificial Intelligence / AI: Teknologi kecerdasan buatan yang dirancang untuk meniru proses kognitif manusia guna mengotomatisasi analisis, pengambilan keputusan, dan eksekusi tugas kompleks.
● Black Box: Istilah yang merujuk pada sistem kecerdasan buatan yang proses internal dan pengambilan keputusan algoritmik di dalamnya tidak dapat diamati atau dipahami secara transparan oleh manusia.
● Kill Switch: Mekanisme pengamanan darurat yang dirancang untuk mematikan atau menghentikan operasional suatu sistem otomatis atau jaringan AI secara instan saat terjadi anomali atau ancaman.
● Regulasi Teknologi: Kerangka hukum, aturan formal, dan standar operasional yang ditetapkan oleh pemerintah atau lembaga berwenang guna mengawasi pengembangan serta penerapan teknologi.
● Superinteligensi: Hipotesis tingkat kecerdasan buatan yang melampaui kemampuan kognitif manusia di hampir seluruh bidang ekonomi dan sosial secara menyeluruh.