Waspadai Jejak Digital China: Saatnya Indonesia Ciptakan Etika AI Sendiri

servergps.CO.ID, JAKARTA —Teknologi kecerdasan buatan (Artificial Intelligence/AI) saat ini telah menjadi komponen penting di arena internasional. Bukan hanya terbatas pada wilayah Silicon Valley, AI sekarang diadopsi dengan cepat dan intensif oleh negara-negara seperti Tiongkok, yang berambisi tidak hanya untuk menguasai teknologi tersebut, tetapi juga untuk membentuk standar etika dan regulasi baru yang mencerminkan nilai-nilai politik mereka.

Ini terlihat jelas dalam buku.“Pendekatan Cina terhadap Kecerdasan Buatan: Sebuah Analisis Kebijakan, Etika, dan Regulasi”yang diedit oleh Luciano Floridi dan timnya. Buku ini lebih dari sekadar kumpulan teori atau norma teknokratik; ia merupakan gambaran mendalam tentang bagaimana negara seperti China tidak hanya memanfaatkan AI untuk meningkatkan efisiensi, tetapi juga untuk mengatur dan bahkan mengontrol warganya secara sistematis. Teknologi tidak bersifat netral, dan dalam konteks China, AI telah menjadi elemen penting dalam ekosistem kekuasaan yang penuh dengan kepentingan ideologis.

Dalam dokumen strategisnya,Rencana Pengembangan Kecerdasan Buatan Generasi Baru(2017), pemerintah Tiongkok menetapkan tujuan untuk menjadi pemimpin global dalam bidang AI pada tahun 2030. Mereka tidak hanya mengalokasikan dana miliaran yuan, tetapi juga menunjuk perusahaan-perusahaan teknologi besar nasional seperti Baidu, Tencent, Alibaba, dan iFlytek sebagai pelaksana utama. Namun, yang menarik sekaligus menimbulkan kekhawatiran adalah bagaimana AI kemudian diintegrasikan ke dalam sistem.social credit, pemantauan masyarakat melalui teknologi pengenalan wajah, serta pemantauan kebiasaan dan pandangan digital individu. Di China, AI tidak hanya berfungsi sebagai alat bantu administrasi, tetapi juga sebagai cara untuk mengubah perilaku masyarakat.

Mengapa hal ini memiliki arti penting bagi Indonesia?

Indonesia juga sedang aktif mendorong digitalisasi. Pemerintah telah memperkenalkan Strategi Nasional Kecerdasan Artifisial (SNKA) 2020 – 2045. Tujuan utamanya adalah penerapan AI dalam layanan publik, pendidikan, ketahanan pangan, mobilitas, serta reformasi birokrasi. Namun, mirip dengan Tiongkok, proses ini lebih bersifat top-down dan didorong oleh logika efisiensi serta inovasi, bukan oleh aspek etika dan akuntabilitas.

Beberapa wilayah di Indonesia saat ini mulai mengimplementasikan kamera pengenalan wajah, khususnya di bandara dan pusat kota besar. Teknologi biometrik diterapkan dalam layanan administrasi seperti absensi ASN, pengawasan lalu lintas, bahkan untuk pengawasan di sekolah. Sementara itu, algoritma digunakan dalam proses seleksi CPNS, distribusi bantuan sosial, atau penilaian risiko kredit. Meskipun semua ini terlihat canggih, masyarakat hampir tidak pernah mengetahui cara kerja sistem ini. Tidak ada audit publik. Tidak ada mekanisme untuk mengajukan keberatan jika warga merasa dirugikan.

Ini merupakan permulaan dari risiko yang signifikan, saat warga negara kehilangan kendali atas data dan identitas digital mereka. Tanpa adanya kerangka etika yang kokoh, kita memberikan kesempatan bagi pemerintah dan pihak swasta untuk mengawasi, mengevaluasi, bahkan mengadili individu berdasarkan algoritma yang tidak jelas.

Pengalaman yang dialami oleh China dapat berfungsi sebagai cermin bagi Indonesia. Di negara tersebut, AI berperan sebagai infrastruktur kekuasaan, tidak hanya dalam aspek keamanan, tetapi juga dalam moralitas sosial yang ditentukan oleh negara. Pelanggaran lalu lintas dapat menyebabkan seseorang mengalami kesulitan dalam mendapatkan akses kredit bank. Pendapat kritis yang diungkapkan secara daring dapat merusak skor sosial yang berpengaruh pada karier seseorang. Semua ini terjadi secara diam-diam, di balik sistem yang diklaim netral, namun sebenarnya dipenuhi dengan bias struktural.

Indonesia, yang merupakan negara demokrasi, seharusnya mengambil pendekatan yang berbeda. Namun saat ini, kita terlihat mengikuti pola pengembangan AI yang diterapkan oleh China, tanpa secara bersamaan membangun perlindungan sosial yang memadai. Hingga kini, belum ada undang-undang khusus yang mengatur tentang AI. UU Perlindungan Data Pribadi (UU PDP) yang baru saja disahkan juga masih memiliki kelemahan dalam hal implementasinya. Di sisi lain, tidak ada lembaga independen yang secara khusus bertugas mengawasi penggunaan algoritma dalam layanan publik maupun sektor bisnis digital.

Yang lebih mengkhawatirkan, pembicaraan publik mengenai etika AI di Indonesia masih sangat kurang. Forum diskusi yang melibatkan masyarakat, akademisi dari berbagai disiplin, praktisi teknologi, dan pembuat kebijakan secara terbuka jarang ditemukan. Semua ini menyebabkan perkembangan AI di Indonesia berlangsung dalam kegelapan: dipenuhi istilah inovasi, namun rendah dalam kesadaran etika.

Sebenarnya kita menyadari bahwa teknologi lebih dari sekadar perangkat. Ia mencerminkan siapa yang mengoperasikannya dan tujuan penggunaannya. Tanpa adanya prinsip, AI bisa menjadi senjata bermata dua, yang hanya menguntungkan pihak yang kuat dan mengancam pihak yang lemah. AI dapat meningkatkan efisiensi pelayanan publik, tetapi juga berpotensi menghilangkan hak untuk diperlakukan dengan adil dan manusiawi.

Oleh karena itu, Indonesia harus mengembangkan pendekatan yang khas. Kita memerlukan etika AI yang berlandaskan Pancasila dan prinsip-prinsip demokrasi. Kita harus mendukung proses pembentukanAI Ethics Councilyang mencakup elemen lintas sektor untuk menentukan batasan penggunaan AI yang sah, adil, dan beretika. Audit algoritma seharusnya menjadi kewajiban, bukan sekadar pilihan. Selain itu, masyarakat harus diberikan kesempatan untuk memahami, mengakses, dan menantang sistem teknologi yang diterapkan atas nama mereka.

Dalam situasi ini, kontribusi dari akademisi, jurnalis, aktivis, dan mahasiswa sangat krusial. Kita tidak boleh membiarkan transformasi digital ditentukan semata-mata oleh pemerintah dan perusahaan. Teknologi yang akan datang harus melibatkan diskusi dari seluruh masyarakat. Jika tidak, kita akan menciptakan penjara digital yang akan membatasi generasi mendatang.

Apa manfaat dari AI yang maju jika itu membuat kita kehilangan kontrol terhadap masa depan kita?

Indonesia perlu waspada. Ini bukan hanya mengenai seberapa cepat kita mengadopsi AI, tetapi juga mengenai arah dan nilai-nilai yang mendasarinya. Kita dapat mengambil pelajaran dari China, tetapi bukan untuk ditiru. Justru dari situ kita menyadari bahwa teknologi tanpa etika hanya akan menghasilkan kekuasaan yang tidak terbatas.

Ayo kita ciptakan AI yang mendukung kepentingan manusia, bukan untuk kepentingan mesin yang berkuasa.