JAKARTA - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menggarisbawahi pentingnya kerangka tata kelola penggunaan teknologi kecerdasan artifisial (AI) di industri keuangan.
Dalam siaran yang diverifikasi di Jakarta, Jumat, Nezar menilai tren AI pada ranah jasa keuangan telah menginjak babak baru seiring munculnya AI agentik yang mengizinkan sistem AI mengambil keputusan secara mandiri, termasuk mengeksekusi transaksi.
Dinamika ini menghadirkan potensi risiko baru yang wajib diantisipasi melalui regulasi dan manajemen tata kelola.
"Agentic AI apabila diberikan otoritas tertentu untuk pengambilan keputusan, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi," kata Nezar.
Transformasi tersebut merubah sudut pandang dalam melihat risiko AI di ranah finansial. Di saat AI sebatas menjadi alat bantu, muara keputusan akhir masih dipegang penuh oleh manusia.
Akan tetapi, manakala AI diberi kewenangan untuk mengambil keputusan sekaligus mengeksekusi langkah tindakan, dampak dari kekeliruan sistem dapat berakibat langsung pada transaksi maupun nasabah.
"Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kami siapkan juga mulai sekarang," kata Nezar.
Oleh karena itu, pemerintah dituntut untuk merumuskan regulasi tata kelola sebelum pemanfaatan AI tingkat otonomi tinggi meluas secara masif.
Kerangka tata kelola itu patut membatasi kewenangan AI, mengatur skema pengawasan manusia, akuntabilitas hasil keputusan, keamanan data, serta langkah penanganan risiko kala sistem AI berinteraksi antar-sistem AI.
Kementerian Komunikasi dan Digital telah menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai acuan penggunaan AI yang dapat dipertanggungjawabkan.
Pemerintah pun saat ini sedang menggodok Peta Jalan Kecerdasan Artifisial Nasional beserta panduan etika AI sebagai fondasi tata kelola AI di Indonesia.
"Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika AI," ujar Nezar.
Pesatnya AI turut menggeser kebutuhan kualifikasi talenta di industri finansial. Sumber daya manusia tidak lagi cukup sekadar mahir memakai AI, melainkan wajib menguasai tata kelola data, mitigasi risiko AI, keamanan siber, hingga aspek etikal serta akuntabilitas.
"Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi, mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia," kata Nezar.
Nezar memandang Kemkomdigi beserta Otoritas Jasa Keuangan mengantongi ruang kemitraan strategis demi menjamin terobosannya di industri keuangan tetap membawa manfaat bagi publik.
Kerja sama tersebut mencakup harmonisasi prinsip tata kelola AI, penguatan kompetensi talenta, hingga pengujian inovasi lewat sandbox lintas sektor.
"Kolaborasi antara Kemkomdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman," kata Nezar.
Bagi publik, sistem tata kelola tersebut menjadi krusial lantaran vonis yang diproduksi sistem AI pada sektor finansial bertautan langsung dengan proses transaksi, akses layanan, kerahasiaan data pribadi, hingga jangkauan produk keuangan.
Pemerintah wajib menjamin laju teknologi senantiasa diimbangi mekanisme pertanggungjawaban yang terang manakala keputusan AI memicu kerugian atau risiko.
Nezar mengingatkan, dengan merambahnya agentic AI ke sektor keuangan, tantangan regulasi tak lagi sebatas membatasi penggunaan teknologi.
Pemerintah mesti memastikan pihak yang memikul tanggung jawab ketika AI mengeksekusi keputusan, skema pengawasan keputusan tersebut, serta jaminan perlindungan bagi pihak konsumen.
