Tohirr78, JAKARTA —
Teknologi kecerdasan buatan (Artificial Intelligence/AI) kini menjadi elemen strategis di panggung global. Tidak lagi sekadar menjadi domain Silicon Valley, AI kini diadopsi dengan cepat dan agresif oleh negara-negara seperti Tiongkok, yang bukan hanya ingin menguasai teknologi tersebut, tetapi juga menciptakan standar etika dan regulasi baru yang mencerminkan nilai-nilai politiknya sendiri.
Ini jelas tergambar dalam buku itu.
Pendekatan Tiongkok terhadap Kecerdasan Buatan: Analisis Kebijakan, Etika, dan Regulasi
yang disunting oleh Luciano Floridi dan rekan-rekannya. Buku ini bukan sekadar kumpulan teori atau norma teknokratik; ia adalah gambaran tajam tentang bagaimana negara seperti Tiongkok tidak hanya menggunakan AI untuk efisiensi, tetapi juga untuk mengatur bahkan mengendalikan warganya secara sistematis. Teknologi tidak netral, dan dalam konteks Tiongkok, AI telah menjadi bagian dari ekosistem kekuasaan yang penuh dengan kepentingan ideologis.
Dalam dokumen strategisnya,
Rencana Pengembangan Kecerdasan Buatan Generasi Baru
(2017), pemerintah Tiongkok menargetkan menjadi pemimpin global AI pada 2030. Mereka tidak hanya menyiapkan dana miliaran yuan, tetapi juga menunjuk perusahaan teknologi nasional besar seperti Baidu, Tencent, Alibaba, dan iFlytek sebagai pelaksana utama. Tapi yang menarik sekaligus mengkhawatirkan adalah bagaimana AI kemudian dilekatkan pada sistem
sistem kredit sosial
, pengawasan masyarakat melalui kamera pengenalan wajah, hingga pelacakan kebiasaan dan opini digital individu. Di Tiongkok, AI bukan sekadar alat bantu birokrasi, tetapi sarana untuk membentuk ulang perilaku warga.
Mengapa ini penting bagi Indonesia?
Kita tahu bahwa Indonesia juga sedang giat memacu digitalisasi. Pemerintah telah meluncurkan Strategi Nasional Kecerdasan Buatan (Tohir78) 2020-2045. Fokus utamanya adalah AI untuk layanan publik, pendidikan, ketahanan pangan, mobilitas, hingga reformasi birokrasi. Namun seperti Tiongkok, proses ini cenderung atas bawah (top-down), dan lebih banyak digerakkan oleh logika efisiensi dan inovasi, bukan etika dan akuntabilitas.
Beberapa daerah di Indonesia kini mulai memasang kamera pengenalan wajah, terutama di bandara dan pusat kota besar. Teknologi biometrik digunakan dalam pelayanan administrasi seperti kehadiran pegawai negeri sipil, pengawasan lalu lintas, bahkan untuk pengawasan sekolah. Sementara itu, algoritma digunakan dalam seleksi CPNS, pembagian bantuan sosial, atau penilaian risiko kredit. Semua terlihat canggih, tapi masyarakat hampir tidak pernah tahu bagaimana sistem ini bekerja. Tidak ada audit publik. Tidak ada mekanisme keberatan jika warga merasa dirugikan.
Ini adalah awal dari risiko besar, ketika warga negara tidak lagi memiliki kendali atas data dan identitas digital mereka sendiri. Tanpa kerangka etika yang kuat, kita membuka jalan bagi negara dan pihak swasta untuk memantau, menilai, bahkan menghakimi warga berdasarkan algoritma yang tidak transparan.
Pengalaman Tiongkok bisa menjadi cermin bagi Indonesia. Di sana, AI menjadi infrastruktur kekuasaan, bukan hanya untuk keamanan, tetapi juga untuk moralitas sosial versi negara. Pelanggaran lalu lintas bisa membuat seseorang kesulitan mengakses kredit bank. Opini daring yang kritis bisa merusak skor sosial yang berdampak pada karier. Semua berlangsung diam-diam, di balik sistem yang katanya netral, padahal penuh dengan bias struktural.
Indonesia, sebagai negara demokratis, seharusnya mengambil jalur yang berbeda. Tapi saat ini, kita tampak meniru pola pembangunan kecerdasan buatan (AI) Tiongkok, tetapi tidak sekaligus membangun perlindungan sosial yang setara. Belum ada undang-undang khusus yang mengatur AI. Undang-Undang Perlindungan Data Pribadi (UU PDP) yang baru disahkan pun masih lemah dalam aspek implementasi. Sementara itu, belum ada lembaga independen yang secara khusus mengawasi penggunaan algoritma dalam layanan publik maupun bisnis digital.
Yang lebih mengkhawatirkan, diskusi publik tentang etika kecerdasan buatan di Indonesia masih sangat terbatas. Jarang ada forum diskusi yang melibatkan warga sipil, akademisi dari berbagai disiplin ilmu, pelaku teknologi, dan pembuat kebijakan secara terbuka. Semua ini membuat pengembangan kecerdasan buatan di Indonesia berjalan dalam ruang gelap: penuh dengan jargon inovasi, tetapi minim kesadaran etis.
Padahal kita tahu, teknologi bukan sekadar alat. Ia adalah refleksi dari siapa yang mengendalikan, dan untuk apa digunakan. Tanpa prinsip, AI akan menjadi pisau bermata satu, yang hanya menguntungkan yang kuat dan mengancam yang lemah. AI bisa mengefisienkan pelayanan publik, tapi bisa juga menghapus hak untuk diperlakukan adil secara manusiawi.
Karena itu, Indonesia perlu membangun pendekatannya sendiri. Kita perlu etika AI yang berlandaskan Pancasila dan demokrasi. Kita harus mendorong pembentukan
Dewan Etika Kecerdasan Buatan
yang melibatkan elemen lintas sektor untuk menetapkan batasan penggunaan AI yang sah, adil, dan manusiawi. Audit algoritma harus menjadi kewajiban, bukan pilihan. Dan publik harus diberi ruang untuk memahami, mengakses, dan menggugat sistem teknologi yang digunakan atas nama mereka.
Dalam konteks ini, peran akademisi, jurnalis, aktivis, dan mahasiswa sangat penting. Kita tidak bisa membiarkan transformasi digital hanya ditentukan oleh negara dan korporasi. Teknologi masa depan harus dirundingkan oleh seluruh warga bangsa. Karena jika tidak, kita sedang membangun penjara digital yang akan mengurung generasi berikutnya.
Apa gunanya AI yang canggih jika membuat kita kehilangan kendali atas masa depan kita sendiri?
Indonesia harus berhati-hati. Bukan hanya soal kecepatan adopsi AI, tetapi juga tentang arah dan nilai yang mendasarinya. Kita bisa belajar dari Tiongkok, tapi bukan untuk ditiru. Justru dari sana kita memahami bahwa teknologi tanpa etika hanya akan melahirkan kekuasaan yang tidak terbatas.
Mari kita bangun AI yang berpihak pada manusia, bukan pada mesin kekuasaan.
