BNI (BBNI) Maksimalkan AI untuk Deteksi Penipuan

servergps,JAKARTA — Perbankan mengoptimalkan kecerdasan buatan (AI)untuk meningkatkan pengawasan dan mencegah penipuan.

Kepala VP IT Strategis, Arsitektur & Inovasi PT Bank Negara Indonesia (Persero) Tbk. atauBNI(BBNI) Sankata Lee menyatakan bahwa AI telah berperan dalam mengidentifikasi pola penipuan dan ancaman dari dalam dengan memantau perilaku yang tidak biasa di berbagai saluran layanan. Meskipun demikian, AI tetap perlu berada di bawah pengawasan manusia untuk memastikan etika dan akurasi.

“Kami yakin bahwa AI dapat memberikan bantuan, tetapi kita tidak boleh sepenuhnya mengandalkan AI. Penting untuk memiliki kontrol kualitas yang tinggi dalam proses pengambilan keputusan,” ungkap Sankata di acara World AI Show Indonesia 2025 yang berlangsung di Jakarta pada Rabu (9/7/2025).

Ia juga menekankan pentingnya mitigasi bias data dan kebutuhan akan proses verifikasi yang komprehensif dalam pengembangan serta penerapan AI agar tidak berfungsi sebagai alat yang dapat membahayakan sistem.

“Dalam menerapkan AI, terdapat tiga aspek penting: data, pengembangan AI yang aman, dan penerapan langsung. Semua ini perlu melewati pengujian keamanan. Saat ini, hampir semua solusi di pasar dipasarkan dengan label ‘AI inside’, namun kita harus memastikan tidak ada data yang buruk yang masuk, sehingga hasilnya juga tidak buruk,” jelasnya.

Dari sudut pandang regional, Aman Kumar, Direktur Senior EC Council Global Services, mengungkapkan bahwa kesiapan Asia Tenggara untuk menghadapi ancaman AI masih sangat kurang. Hanya beberapa institusi terkemuka seperti bank-bank besar yang memiliki dana dan kemampuan untuk melakukan investasi serius dalam bidang keamanan AI.

Selanjutnya, ia menekankan kurangnya regulasi yang benar-benar diterapkan dengan efektif di kawasan Asia Tenggara.

“Regulasi hanya akan menjadi kertas kosong jika tidak dikelola dengan baik. Kita masih jauh tertinggal dalam pengembangan regulasi AI dibandingkan dengan kawasan seperti Eropa. Kita juga kekurangan talenta di bidang cybersecurity, apalagi di sektor AI. Ketika kedua aspek ini digabungkan, kita menghadapi kesenjangan kemampuan yang signifikan,” ujarnya.

Urgensi Keamanan

Para pakar menegaskan betapa krusialnya penerapan sistem pertahanan yang kuat untuk menghindari ancaman dari serangan siber yang semakin canggih, terutama yang memanfaatkan AI sebagai alat.

Kepala AIoT & Robotics Lab di BRIN dan juga Co-Founder Forumsatria, Dito Eka Cahya, menyatakan bahwa model AI sangat mudah terpengaruh oleh serangan musuh (adversarial attacks), yang bisa mengakibatkan hasil sistem menjadi tidak akurat bahkan berpotensi berbahaya.

Dia menguraikan lima tipe serangan utama: injeksi, infeksi, evasi, penyakit (malicious fine-tuning), dan ekstraksi.

“Dalam dunia keamanan, kita mengenal istilah tim merah dan tim biru. Tim merah berfungsi untuk menyerang, sedangkan tim biru berperan dalam pertahanan. Contohnya, dalam serangan injeksi, tim merah dapat menghasilkan input berbahaya untuk mengubah jalur utama sistem, sementara tim biru harus melindungi dengan menggunakan token yang unik dan mendeteksi anomali,” ujar Dito.

Ia juga menunjukkan bahwa pengembangan large language model (LLM) lokal masih berada di fase awal. Aspek keamanan belum menjadi perhatian utama bagi banyak pengembang karena mereka lebih mengutamakan fungsi.

“Saya mendukung pengembangan LLM lokal seperti anakjaksel.ai, yang telah mulai menerapkan langkah-langkah keamanan. Namun secara umum, banyak pengembang di Indonesia masih lebih memprioritaskan fungsi daripada aspek keamanan,” tambahnya.

CTO GovTech Indonesia, Felix Jingga, menegaskan betapa pentingnya kerjasama antara pemerintah dan sektor swasta untuk memperkuat infrastruktur digital nasional, terutama dalam menghadapi tantangan AI seperti deepfake dan identitas sintetis.

“Infrastruktur digital di Indonesia mengalami perubahan yang bervariasi. Pemerintah berkolaborasi dengan sektor swasta untuk menghadirkan talenta terbaik dan memanfaatkan teknologi keamanan yang canggih,” ujarnya.

Dia menekankan bahwa terdapat sekitar 6-7 juta serangan terhadap infrastruktur digital perbankan. Menurutnya, hal ini menunjukkan betapa seriusnya ancaman di dunia digital. Ia juga menggarisbawahi pentingnya memperbarui regulasi agar dapat beradaptasi dengan era digital.

“Mengubah peraturan bukanlah proses yang instan. Namun, itu adalah langkah krusial untuk memastikan infrastruktur digital kita tetap sesuai dengan tren yang akan datang,” katanya.