Mengantisipasi Jejak Digital China: Saatnya Indonesia Kembangkan Etika AI Sendiri

servergps.CO.ID, JAKARTA —Teknologi kecerdasan buatan (Artificial Intelligence/AI) saat ini telah menjadi bagian penting di kancah internasional. Bukan hanya menjadi wilayah eksklusif Silicon Valley, AI sekarang diadopsi dengan cepat dan intensif oleh negara-negara seperti Tiongkok, yang tidak hanya berambisi untuk menguasai teknologi tersebut, tetapi juga berusaha menetapkan standar etika dan regulasi baru yang mencerminkan nilai-nilai politik mereka.

Ini terlihat dengan jelas dalam buku.“Pendekatan Tiongkok terhadap Kecerdasan Buatan: Sebuah Analisis Kebijakan, Etika, dan Regulasi”yang disunting oleh Luciano Floridi dan rekan-rekannya. Buku ini lebih dari sekadar sekumpulan teori atau norma teknokratik; ia merupakan gambaran yang jelas tentang bagaimana negara seperti China tidak hanya memanfaatkan AI untuk efisiensi, tetapi juga untuk mengatur dan bahkan mengontrol warganya secara sistematis. Teknologi tidak bersifat netral, dan dalam konteks China, AI telah menjadi elemen dari ekosistem kekuasaan yang dipenuhi dengan kepentingan ideologis.

Dalam dokumen strategisnya, Rencana Pengembangan Kecerdasan Buatan Generasi Baru(2017), pemerintah Tiongkok menetapkan target untuk menjadi pemimpin global dalam bidang AI pada tahun 2030. Mereka tidak hanya mengalokasikan dana miliaran yuan, tetapi juga menunjuk perusahaan teknologi besar nasional seperti Baidu, Tencent, Alibaba, dan iFlytek sebagai pelaksana utama. Namun, yang menarik sekaligus menimbulkan kekhawatiran adalah bagaimana AI kemudian diintegrasikan ke dalam sistem.social credit, pengawasan masyarakat menggunakan kamera pengenalan wajah, serta pemantauan kebiasaan dan pendapat digital individu. Di China, AI tidak hanya berfungsi sebagai alat bantu administrasi, melainkan juga sebagai cara untuk mengubah perilaku masyarakat.

Mengapa hal ini menjadi penting untuk Indonesia?

Kita menyadari bahwa Indonesia sedang aktif mendorong digitalisasi. Pemerintah telah memperkenalkan Strategi Nasional Kecerdasan Artifisial (SNKA) 2020 – 2045. Tujuan utamanya adalah penerapan AI dalam layanan publik, pendidikan, ketahanan pangan, mobilitas, serta reformasi birokrasi. Namun, mirip dengan Tiongkok, proses ini lebih bersifat top-down, dan lebih didorong oleh prinsip efisiensi dan inovasi, ketimbang etika dan akuntabilitas.

Beberapa wilayah di Indonesia kini mulai menginstal kamera pengenalan wajah, terutama di bandara dan pusat kota besar. Teknologi biometrik diterapkan dalam layanan administrasi seperti absensi ASN, pengawasan lalu lintas, dan bahkan pengawasan di sekolah. Sementara itu, algoritma digunakan dalam proses seleksi CPNS, distribusi bantuan sosial, atau penilaian risiko kredit. Semua ini terlihat canggih, tetapi masyarakat hampir tidak pernah mendapatkan informasi tentang cara kerja sistem ini. Tidak ada audit publik. Tidak ada mekanisme untuk mengajukan keberatan jika warga merasa dirugikan.

Ini merupakan permulaan dari risiko yang signifikan, saat masyarakat kehilangan kendali atas data dan identitas digital mereka sendiri. Tanpa adanya kerangka etika yang solid, kita memberikan kesempatan bagi pemerintah dan pihak swasta untuk mengawasi, mengevaluasi, bahkan mengadili individu berdasarkan algoritma yang tidak jelas.

Pengalaman yang dimiliki China dapat berfungsi sebagai cermin bagi Indonesia. Di negara tersebut, AI berperan sebagai infrastruktur kekuasaan, tidak hanya untuk aspek keamanan, tetapi juga untuk moralitas sosial yang ditetapkan oleh negara. Pelanggaran lalu lintas dapat menyebabkan seseorang mengalami kesulitan dalam mendapatkan akses kredit dari bank. Pendapat kritis di dunia maya dapat merusak skor sosial yang berpengaruh pada karier seseorang. Semua ini terjadi secara diam-diam, di balik sistem yang diklaim netral, namun sebenarnya penuh dengan bias struktural.

Indonesia, yang merupakan negara demokratis, seharusnya mengambil pendekatan yang berbeda. Namun saat ini, kita terlihat mengikuti model pengembangan AI dari China, tanpa diimbangi dengan pembangunan perlindungan sosial yang memadai. Hingga kini, belum ada undang-undang khusus yang mengatur tentang AI. UU Perlindungan Data Pribadi (UU PDP) yang baru saja disahkan juga masih memiliki kelemahan dalam hal implementasinya. Di sisi lain, tidak ada lembaga independen yang secara khusus mengawasi penggunaan algoritma dalam layanan publik maupun bisnis digital.

Yang lebih mengkhawatirkan, perbincangan publik mengenai etika AI di Indonesia masih sangat kurang. Forum diskusi yang melibatkan masyarakat, akademisi dari berbagai disiplin, pelaku teknologi, dan pembuat kebijakan secara terbuka jarang ditemukan. Hal ini menyebabkan perkembangan AI di Indonesia berlangsung dalam ketidakjelasan: dipenuhi dengan istilah-istilah inovatif, namun kurangnya kesadaran akan aspek etis.

Sebenarnya kita menyadari bahwa teknologi bukan hanya sekadar perangkat. Ia mencerminkan siapa yang mengoperasikannya dan untuk tujuan apa. Tanpa adanya prinsip, AI dapat menjadi senjata bermata dua, yang hanya menguntungkan pihak yang kuat dan mengancam pihak yang lemah. AI dapat meningkatkan efisiensi dalam pelayanan publik, namun juga berpotensi menghilangkan hak untuk diperlakukan dengan adil dan manusiawi.

Oleh karena itu, Indonesia harus mengembangkan pendekatan yang khas. Kita memerlukan etika AI yang berlandaskan Pancasila dan prinsip-prinsip demokrasi. Kita perlu mendorong terbentuknyaAI Ethics Councilyang melibatkan unsur lintas sektor untuk menetapkan batasan penggunaan AI yang legal, adil, dan berperikemanusiaan. Audit algoritma seharusnya menjadi kewajiban, bukan sekadar pilihan. Selain itu, masyarakat harus diberikan kesempatan untuk memahami, mengakses, dan mempertanyakan sistem teknologi yang diterapkan atas nama mereka.

Dalam situasi ini, kontribusi akademisi, jurnalis, aktivis, dan mahasiswa sangatlah krusial. Kita tidak boleh membiarkan transformasi digital hanya diatur oleh pemerintah dan perusahaan. Teknologi di masa depan harus dibahas oleh seluruh masyarakat. Jika tidak, kita akan menciptakan penjara digital yang akan membatasi generasi mendatang.

Apa manfaat dari AI yang maju jika itu membuat kita kehilangan penguasaan atas masa depan kita sendiri?

Indonesia perlu bersikap hati-hati. Ini bukan hanya mengenai seberapa cepat kita mengadopsi AI, tetapi juga mengenai arah dan nilai-nilai yang mendasarinya. Kita dapat mengambil pelajaran dari China, tetapi bukan untuk dijadikan contoh. Sebaliknya, dari situ kita menyadari bahwa teknologi yang tidak berlandaskan etika hanya akan menghasilkan kekuasaan yang tak terbatas.

Ayo kita ciptakan AI yang mendukung manusia, bukan untuk kepentingan mesin yang berkuasa.