SISI GELAP OTOMASI LAYANAN PUBLIK: ANCAMAN DAN SOLUSI

1. Pendahuluan

Dalam satu dekade terakhir, pemerintah di berbagai negara—termasuk Indonesia—berlomba mendigitalkan layanan publik. Sistem antrean daring, verifikasi identitas berbasis Nomor Induk Kependudukan (NIK), penyaluran bantuan sosial berbasis data terpadu, hingga penilaian risiko otomatis untuk pajak dan bantuan sosial, semuanya digadang-gadang mampu memangkas birokrasi, menekan korupsi, dan mempercepat pelayanan. Narasi besar di balik otomasi layanan publik adalah efisiensi: pemerintah dapat melayani lebih banyak warga dengan sumber daya yang lebih sedikit, sementara keputusan yang tadinya bergantung pada penilaian subjektif petugas digantikan oleh algoritma yang dianggap lebih objektif dan konsisten.

Namun, di balik janji efisiensi tersebut, otomasi layanan publik menyimpan risiko yang tidak kalah serius. Ketika algoritma menggantikan pertimbangan manusia dalam keputusan yang menyangkut hak dasar warga negara—seperti tunjangan sosial, layanan kesehatan, atau status kewarganegaraan—kesalahan sistem tidak lagi berupa kesalahan administratif biasa, melainkan dapat berubah menjadi kegagalan struktural yang berdampak pada jutaan orang sekaligus. Artikel ini membahas sisi gelap otomasi layanan publik, mencakup ancaman-ancaman utamanya, dilengkapi contoh kasus nyata dari berbagai negara, sebelum menawarkan sejumlah solusi kebijakan dan teknis untuk memitigasinya.

2. Otomasi Layanan Publik: Sekilas Konteks

Otomasi layanan publik merujuk pada penggunaan sistem berbasis aturan (rule-based), algoritma pencocokan data (data-matching), hingga kecerdasan buatan (AI) untuk mengambil alih sebagian atau seluruh proses pengambilan keputusan yang sebelumnya dilakukan oleh pegawai pemerintah. Bentuknya beragam: sistem deteksi kecurangan (fraud detection) pada program bantuan sosial, algoritma penilaian risiko (risk scoring) untuk audit pajak, sistem verifikasi data kependudukan lintas lembaga, chatbot layanan publik, hingga model prediktif untuk penempatan sumber daya kepolisian atau kesehatan.

Daya tarik otomasi terletak pada janji konsistensi dan skala: sebuah algoritma dapat memproses jutaan kasus dalam hitungan jam, sesuatu yang mustahil dilakukan tenaga manusia. Namun skala yang sama inilah yang membuat kesalahan sistem berlipat ganda secara instan—dan di sinilah letak sisi gelapnya.

3. Ancaman dari Otomasi Layanan Publik

3.1 Bias Algoritmik dan Diskriminasi Sistemik

Algoritma bukanlah entitas netral. Ia dibangun dari data historis dan asumsi desain yang bisa saja mewarisi bias sosial yang sudah ada. Ketika data pelatihan mencerminkan ketimpangan masa lalu, sistem otomatis dapat memperkuat, bukan mengoreksi, ketimpangan tersebut.

Kasus paling terkenal adalah program “Robodebt” di Australia (2016–2019). Skema ini secara otomatis mencocokkan data pendapatan tahunan dari otoritas pajak dengan data penerima tunjangan sosial menggunakan metode “income averaging”, yakni membagi rata pendapatan tahunan seseorang ke dalam periode dua mingguan tanpa mempertimbangkan sifat pekerjaan yang tidak tetap atau musiman. Akibatnya, lebih dari 500 ribu warga menerima tagihan utang yang keliru, dan pengadilan federal akhirnya menyatakan skema tersebut melanggar hukum, memaksa pemerintah mengembalikan dana ratusan juta dolar serta membayar kompensasi besar. Komisi kerajaan yang menyelidiki kasus ini bahkan menyimpulkan bahwa skema tersebut dijalankan secara serampangan dan tidak berdasar hukum, hingga membuat banyak korban merasa seolah-olah diperlakukan sebagai pelaku kriminal.

Contoh lain adalah skandal tunjangan pengasuhan anak (“toeslagenaffaire”) di Belanda. Otoritas pajak negara tersebut menggunakan algoritma penilaian risiko untuk menyeleksi penerima tunjangan yang dicurigai melakukan kecurangan. Sistem ini terbukti menyasar keluarga secara diskriminatif berdasarkan kewarganegaraan ganda dan latar belakang etnis, sehingga puluhan ribu keluarga—banyak di antaranya dari kelompok minoritas—dituduh melakukan penipuan dan diwajibkan mengembalikan tunjangan secara penuh. Skandal ini berujung pada mundurnya seluruh kabinet Belanda pada Januari 2021 setelah otoritas perlindungan data setempat menyimpulkan bahwa sistem tersebut bersifat melanggar hukum, diskriminatif, dan tidak patut.

Kedua kasus ini menunjukkan pola yang sama: algoritma yang dirancang untuk memburu “kecurangan” justru menghukum kelompok rentan yang paling tidak mampu membela diri secara hukum maupun administratif.

3.2 Kebocoran Data dan Kerentanan Keamanan Siber

Otomasi layanan publik mengandalkan konsolidasi data pribadi dalam skala besar—NIK, riwayat kesehatan, riwayat keuangan, hingga data biometrik. Konsentrasi data semacam ini menjadikan sistem pemerintah sebagai target yang sangat menarik bagi peretas, sementara satu titik kegagalan (single point of failure) dapat berdampak pada seluruh populasi sekaligus.

Indonesia sendiri memiliki rekam jejak yang mengkhawatirkan dalam hal ini. Pada Mei 2021, data sekitar 279 juta peserta BPJS Kesehatan—mencakup NIK, nama lengkap, alamat, nomor telepon, hingga riwayat kesehatan—diduga bocor dan diperjualbelikan di forum daring. Insiden serupa terulang pada Januari 2024, ketika seorang peretas etis asal Brasil mengungkap kembali kebocoran data BPJS Kesehatan dalam skala hampir sama, yang dijual di forum gelap dengan harga puluhan juta rupiah. Pada Maret 2023, giliran BPJS Ketenagakerjaan yang diduga mengalami kebocoran sekitar 19 juta data peserta oleh peretas yang dikenal dengan nama “Bjorka”, mencakup NIK, tanggal lahir, alamat, dan data pekerjaan.

Berulangnya insiden semacam ini pada lembaga yang sama menunjukkan bahwa persoalan bukan sekadar insiden teknis satu kali, melainkan kelemahan struktural dalam tata kelola keamanan data di sektor layanan publik—termasuk lemahnya kontrol akses, minimnya audit keamanan berkala, dan rendahnya penerapan standar keamanan informasi seperti ISO 27001.

3.3 Minimnya Transparansi dan Akuntabilitas (“Black Box”)

Banyak sistem otomasi layanan publik beroperasi sebagai “kotak hitam”: warga menerima keputusan berupa penolakan klaim, tagihan utang, atau status diskualifikasi, tanpa penjelasan yang memadai mengenai bagaimana keputusan itu dihasilkan. Dalam kasus toeslagenaffaire di Belanda, misalnya, warga yang dinyatakan sebagai penerima tunjangan berisiko tinggi kecurangan tidak diberi tahu tentang keberadaan sistem penilaian risiko tersebut, sehingga hampir tidak memiliki ruang untuk mengajukan keberatan atau banding.

Ketiadaan transparansi ini berkelindan dengan masalah akuntabilitas: ketika algoritma melakukan kesalahan, sering kali tidak jelas siapa yang bertanggung jawab—apakah vendor teknologi yang membangun sistem, pejabat yang menyetujui kebijakan, atau petugas lapangan yang mengoperasikannya. Kekaburan tanggung jawab ini memperlambat koreksi kesalahan dan pemulihan hak korban.

3.4 Kesenjangan Digital dan Eksklusi Sosial

Otomasi mengasumsikan bahwa seluruh warga memiliki akses yang setara terhadap perangkat digital, konektivitas internet, dan literasi teknologi. Asumsi ini keliru, khususnya di negara berkembang dengan kesenjangan infrastruktur antarwilayah yang lebar seperti Indonesia. Warga lanjut usia, penyandang disabilitas, masyarakat di wilayah terpencil, atau kelompok berpenghasilan rendah yang tidak memiliki gawai memadai berisiko tersisih dari layanan yang sepenuhnya dialihkan ke platform digital. Ironisnya, kelompok inilah yang justru paling bergantung pada layanan publik seperti bantuan sosial dan jaminan kesehatan.

3.5 Dehumanisasi Layanan dan Hilangnya Ruang Diskresi

Petugas layanan publik yang berpengalaman umumnya memiliki ruang diskresi untuk mempertimbangkan konteks personal warga—misalnya situasi darurat, kondisi kesehatan, atau kesalahan administratif kecil yang tidak disengaja. Ketika keputusan sepenuhnya diserahkan pada algoritma yang kaku, ruang pertimbangan manusiawi ini hilang. Warga yang berada dalam situasi kompleks atau tidak lazim—yang justru paling membutuhkan fleksibilitas kebijakan—menjadi pihak yang paling dirugikan oleh sistem yang hanya mengenal kategori “sesuai aturan” atau “tidak sesuai aturan”.

3.6 Ketergantungan pada Vendor Teknologi Pihak Ketiga

Karena keterbatasan kapasitas internal, banyak lembaga pemerintah mengandalkan vendor swasta untuk membangun dan mengoperasikan sistem otomasi. Hal ini menimbulkan risiko ketergantungan (vendor lock-in), berkurangnya kendali pemerintah atas kode program dan algoritma yang sesungguhnya mengambil keputusan menyangkut hak warga, serta potensi konflik kepentingan ketika vendor yang sama juga terlibat dalam audit atau evaluasi sistemnya sendiri.

4. Mengapa Persoalan Ini Berulang?

Beberapa kajian atas kasus Robodebt menyimpulkan bahwa kegagalan tersebut bukan semata persoalan teknis, melainkan juga persoalan budaya organisasi dan politik: tekanan untuk menghemat anggaran, narasi politik yang menstigmatisasi penerima bantuan sosial sebagai calon pelaku kecurangan, serta kelambanan pembuat kebijakan dalam merespons tanda-tanda kegagalan sistem sejak dini. Dengan kata lain, teknologi sering kali hanya mempercepat dan memperbesar skala dari kebijakan yang sejak awal sudah bermasalah secara desain maupun secara hukum.

5. Solusi: Menuju Otomasi Layanan Publik yang Bertanggung Jawab

5.1 Penguatan Kerangka Regulasi Perlindungan Data

Di Indonesia, Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP) menjadi landasan penting yang mewajibkan pengendali data melakukan penilaian dampak perlindungan data, melaporkan insiden kebocoran dalam waktu maksimal 72 jam, serta memberi warga hak untuk mengakses dan meminta penghapusan datanya sendiri. Implementasi UU ini perlu diperkuat dengan lembaga pengawas independen yang memiliki kewenangan investigasi dan sanksi yang efektif, bukan sekadar bersifat administratif.

5.2 Audit Algoritma dan Uji Dampak Sebelum Peluncuran

• Wajibkan penilaian dampak algoritma (algorithmic impact assessment) sebelum sistem otomatis diterapkan pada keputusan yang menyangkut hak dasar warga.
• Lakukan uji bias secara berkala terhadap kelompok rentan (disabilitas, minoritas, lansia, kelompok berpenghasilan rendah) sebelum dan sesudah sistem beroperasi.
• Libatkan auditor independen di luar vendor pembangun sistem untuk menghindari konflik kepentingan.

5.3 Transparansi dan Hak untuk Mendapat Penjelasan

• Setiap keputusan otomatis yang merugikan warga (penolakan klaim, pemutusan tunjangan, tagihan utang) harus disertai penjelasan yang dapat dipahami mengenai dasar pengambilan keputusannya.
• Sediakan jalur banding manusia (human review) yang mudah diakses sebelum keputusan otomatis bersifat final dan mengikat.
• Publikasikan dokumentasi umum mengenai logika sistem yang digunakan pada layanan publik utama, sejauh tidak membuka celah keamanan.

5.4 Menjaga “Manusia dalam Lingkaran” (Human-in-the-Loop)

Sistem otomatis sebaiknya diposisikan sebagai alat bantu pengambilan keputusan, bukan pengganti penuh penilaian manusia—khususnya untuk kasus yang berdampak besar seperti pemutusan bantuan sosial atau tagihan utang dalam jumlah besar. Keputusan akhir yang berpotensi merugikan warga secara signifikan idealnya tetap memerlukan verifikasi oleh petugas yang memiliki kewenangan untuk mempertimbangkan konteks di luar aturan baku.

5.5 Penguatan Keamanan Siber dan Tata Kelola Data

• Terapkan enkripsi data, segmentasi akses berbasis kebutuhan (need-to-know), dan pemantauan keamanan berkelanjutan pada seluruh sistem yang menyimpan data kependudukan dan kesehatan.
• Selaraskan standar keamanan lembaga penyedia layanan publik dengan kerangka internasional seperti ISO/IEC 27001.
• Lakukan sinkronisasi data lintas lembaga (misalnya data kependudukan Dukcapil dengan basis data BPJS) secara berkala untuk mengurangi data ganda dan data tidak valid yang menjadi celah penyalahgunaan.

5.6 Literasi Digital dan Jalur Layanan Alternatif

Pemerintah perlu memastikan tersedianya jalur layanan non-digital atau berbantuan (assisted channel) bagi warga yang belum memiliki akses atau kecakapan digital memadai, sekaligus menjalankan program literasi digital yang menyasar kelompok rentan agar transisi menuju layanan digital tidak meninggalkan siapa pun di belakang.

5.7 Partisipasi Publik dan Pengawasan Independen

Pelibatan masyarakat sipil, akademisi, dan lembaga pengawas independen dalam perancangan maupun evaluasi sistem otomasi layanan publik penting untuk mendeteksi potensi masalah sejak tahap awal, sebagaimana diamanatkan semangat keterbukaan dalam Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik.

6. Kesimpulan

Otomasi layanan publik menjanjikan efisiensi dan konsistensi, namun sebagaimana ditunjukkan oleh kasus Robodebt di Australia, toeslagenaffaire di Belanda, maupun rentetan kebocoran data BPJS di Indonesia, teknologi yang sama juga dapat memperbesar skala kesalahan, memperkuat bias yang sudah ada, dan mengikis akuntabilitas ketika dirancang serta diawasi tanpa kehati-hatian. Sisi gelap otomasi bukan terletak pada teknologi itu sendiri, melainkan pada bagaimana teknologi tersebut dirancang, diatur, dan diawasi. Solusi yang diperlukan bersifat multidimensi: regulasi perlindungan data yang kuat, audit algoritma yang independen, transparansi keputusan, keberadaan manusia dalam pengambilan keputusan penting, keamanan siber yang mumpuni, serta partisipasi publik yang aktif. Hanya dengan kombinasi langkah-langkah tersebut, otomasi layanan publik dapat benar-benar mewujudkan janjinya—melayani warga secara lebih cepat dan adil—tanpa mengorbankan hak dan martabat mereka yang paling membutuhkan perlindungan negara.

Daftar Pustaka

AIAAIC. Netherlands childcare benefits fraud automation. Diakses dari https://www.aiaaic.org/aiaaic-repository/ai-algorithmic-and-automation-incidents/netherlands-childcare-benefits-fraud-automation

BBC News. (2023). Robodebt: Illegal Australian welfare hunt drove people to despair. Diakses dari https://feeds.bbci.co.uk/news/world-australia-66130105

Blavatnik School of Government, University of Oxford. (2023). Australia’s Robodebt scheme: A tragic case of public policy failure. Diakses dari https://www.bsg.ox.ac.uk/blog/australias-robodebt-scheme-tragic-case-public-policy-failure

Hannah, A., & Botterill, L. C. (2025). Avoiding the brakes: Malign policy and legal advice in the Robodebt scandal. Policy and Society, 44(2), 229–241.

Henman, P. (2025). Robodebt cultures and useful idiots: Why Robodebt was not a techno-failure. Australian Journal of Social Issues.

Kompas.id. (2023). BPJS Ketenagakerjaan Investigasi Klaim Bjorka. Diakses dari https://www.kompas.id/baca/polhuk/2023/03/14/bpjs-ketenagakerjaan-investigasi-klaim-bjorka

Liputan6.com. (2021). BPJS Kesehatan Telusuri Dugaan Kebocoran Data Milik 279 Juta Penduduk Indonesia. Diakses dari https://www.liputan6.com/tekno/read/4562464/

Nugraha, D. A., Nurfitroh, R., Ul-Haq, N. D., Dika, R. P., & Lagontang, S. N. (2025). Kebocoran Data BPJS Kesehatan: Ancaman terhadap Keamanan Informasi Publik di Era Digital. Integrative Perspectives of Social and Science Journal, 2(3).

Offreins, N. (2025). The Dutch childcare benefits scandal, or “Toeslagenaffaire”. Medium.

Undang-Undang Republik Indonesia Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi.

Undang-Undang Republik Indonesia Nomor 25 Tahun 2009 tentang Pelayanan Publik.

Vice/Motherboard. (2021). How a Discriminatory Algorithm Wrongly Accused Thousands of Families of Fraud. Diakses dari https://www.vice.com/en/article/how-a-discriminatory-algorithm-wrongly-accused-thousands-of-families-of-fraud/

Wikipedia. Dutch childcare benefits scandal. Diakses dari https://en.wikipedia.org/wiki/Dutch_childcare_benefits_scandal