Shadow AI di Sektor Pemerintahan: Risiko dan Mitigasi

Bayangkan seorang pejabat pemerintah mengakhiri sambutan resminya dengan pantun, lalu berkata, “Itu tadi dari ChatGPT” . Adegan ini bukan fiksi—ini gambaran nyata betapa dalamnya AI generatif telah meresap ke dalam birokrasi Indonesia. Survei Microsoft dan LinkedIn 2024 bahkan menunjukkan bahwa pemanfaatan AI generatif oleh pekerja intelektual di Indonesia mencapai 92 persen, jauh di atas rata-rata global (75 persen) .

Di satu sisi, ini kabar baik: birokrasi mulai gesit. Di sisi lain, ini adalah Shadow AI—penggunaan AI tanpa persetujuan atau pengawasan resmi dari pengelola IT —yang menyimpan risiko besar bagi sektor publik. Sektor yang seharusnya menjadi garda terdepan kepercayaan publik ini justru berpotensi menjadi sumber kebocoran data rahasia negara.

Mengapa Shadow AI Terjadi di Sektor Publik?

Berbeda dengan sektor swasta yang didorong oleh persaingan, Shadow AI di pemerintahan memiliki akar masalah yang lebih struktural:

1. Infrastruktur yang Tertinggal

Fakta mencengangkan: 73 persen infrastruktur TI di sektor publik Indonesia dinilai belum siap menjalankan beban kerja AI yang kompleks . Banyak pegawai bahkan belum mendapat perangkat dari negara, sehingga laptop pribadi menjadi pemandangan umum . Akibatnya, pengaturan keamanan pada perangkat keras tidak dapat dipaksakan.

2. Kemudahan Akses vs. Sulitnya Pengawasan

Pegawai negeri sipil (ASN) sangat bergantung pada alat bantu seperti penyimpanan awan Google atau platform tautan tunggal seperti Linktree . Dengan hanya mengetik “Linktree” dan satu kata kunci kegiatan pemerintah, siapa pun di dunia maya bisa menemukan data pekerjaan pemerintahan yang seharusnya terproteksi .

3. Literasi yang Tidak Merata

Survei Microsoft di Inggris menunjukkan bahwa hanya 32 persen pegawai pemerintah yang memiliki perhatian pada kerahasiaan data saat memasukkan informasi ke AI . Angka ini boleh jadi lebih rendah di Indonesia, mengingat masih adanya kesenjangan literasi digital di berbagai lapisan birokrasi.

4 Risiko Utama Shadow AI di Sektor Pemerintahan

1. Data Rahasia Negara Bocor ke Publik

Ini adalah risiko paling fatal. Bayangkan seorang analis di kementerian menempelkan dokumen intelijen, data kependudukan, atau rencana strategis ke ChatGPT untuk “diringkas”. Begitu data keluar dari lingkungan yang terkendali, ia berada di server pihak ketiga—tanpa jaminan keamanan dan sering digunakan untuk pelatihan model AI.

Data dari BSSN: Sepanjang 2025, terjadi 3,64 miliar serangan siber dan lebih dari 56 juta eksposur data yang berdampak pada 461 organisasi di Indonesia .

Kasus serangan pada Pusat Data Nasional (PDN) yang membuat aplikasi penting seperti Srikandi berhenti berhari-hari adalah pengingat pahit . Bayangkan jika surat-surat kebijakan yang dihasilkan dari proses itu bocor—itu adalah produk langsung dari kinerja birokrasi.

2. Keputusan Kebijakan Berdasarkan Informasi Palsu (Hallucination)

AI generatif terkenal dengan kemampuannya menghasilkan jawaban yang meyakinkan tetapi salah total (halusinasi). Jika seorang analis kebijakan menggunakan AI untuk merangkum data tanpa verifikasi, kesalahan itu bisa masuk ke dalam dokumen resmi, rencana pembangunan, atau bahkan undang-undang .

• Akibat: Kebijakan publik yang salah arah, pemborosan anggaran, dan hilangnya kepercayaan masyarakat.

3. Proses yang Tidak Konsisten dan Sulit Diaudit

Ketika setiap pegawai menggunakan AI yang berbeda—dengan prompt yang berbeda, dan standar yang berbeda—hasil kerja menjadi tidak konsisten . Format laporan, kualitas analisis, dan bahkan kesimpulan kebijakan bisa sangat bervariasi antar unit kerja.

Ini menyulitkan:

• Audit internal: Siapa melakukan apa, dan atas dasar apa?

• Akuntabilitas publik: Jika ada kesalahan, siapa yang bertanggung jawab?

• Kepatuhan regulasi: Sulit membuktikan bahwa proses sudah sesuai aturan.

4. Pelanggaran Regulasi dan Ancaman Sanksi

Indonesia kini memiliki landasan hukum yang kuat:

Global: Sekitar 68 persen perusahaan menghadapi shadow AI sehingga kesulitan menunjukkan bukti kepatuhan ke regulator .

Contoh dari Dunia: Apa yang Dilakukan Negara Lain?

Beberapa negara telah mengambil langkah untuk mengendalikan Shadow AI:

Indonesia sendiri tengah menggodok Perpres tentang Peta Jalan dan Etika AI . Namun, aturan saja tidak cukup—diperlukan implementasi yang konkret.

5 Langkah Mitigasi untuk Sektor Publik

1. Sediakan Platform AI Internal yang Aman

Daripada memaksa pegawai menggunakan AI publik yang berisiko, sediakan alternatif yang aman. Seperti Pair di Singapura atau GovAI Chat di Australia . Platform ini:

• Tidak menyimpan data pengguna.

• Beroperasi di infrastruktur dalam negeri.

• Mencatat semua aktivitas untuk audit.

  

2. Buat Kebijakan Penggunaan AI yang Jelas

Kebijakan harus mencakup:

• Jenis data apa yang boleh dan tidak boleh dimasukkan ke AI publik (data rahasia, data pribadi, dll.).

• Prosedur pengajuan alat AI baru.

• Sanksi bagi pelanggaran.

Taiwan, misalnya, secara tegas melarang data rahasia negara dan data pribadi masuk ke AI publik, serta mewajibkan transparansi jika AI digunakan untuk dokumen resmi .

3. Wajibkan “Human-in-the-Loop”

Manusia harus selalu menjadi penentu akhir—AI hanya asisten. Setiap keluaran AI harus:

• Diperiksa dan divalidasi oleh pegawai yang kompeten.

• Tidak boleh langsung digunakan sebagai produk resmi tanpa verifikasi.

• Disertai catatan bahwa AI digunakan (transparansi) .

4. Latih Pegawai secara Masif dan Berkelanjutan

Pelatihan bukan sekadar formalitas. Fokus pada:

• Risiko Shadow AI (dengan contoh nyata).

• Cara menggunakan AI aman (tidak memasukkan data sensitif).

• Cara mengenali halusinasi AI dan memverifikasinya.

5. Amnesti AI dan Pendaftaran Model

Alih-alih menghukum, tawarkan amnesti AI—ajak pegawai melaporkan penggunaan AI mereka tanpa sanksi . Ini:

• Membangun kepercayaan.

• Memberi gambaran nyata tentang penggunaan AI di instansi.

• Menjadi dasar untuk menyusun kebijakan yang realistis.

Selanjutnya, buat registri model AI—inventaris tunggal semua AI yang digunakan, untuk apa, dan oleh siapa .

Kesimpulan

Shadow AI di sektor pemerintahan bukanlah isapan jempol. 27 persen pegawai pemerintah mengakui menggunakan AI tanpa izin . Angka ini mungkin lebih tinggi mengingat banyak yang enggan mengaku.

Risikonya sangat nyata: data rahasia negara bocor, kebijakan berdasarkan informasi palsu, proses tidak konsisten, dan pelanggaran regulasi. Namun, melarang AI bukanlah jawaban—itu hanya akan mendorong penggunaan semakin “di bawah tanah” .

Solusinya adalah tata kelola yang cerdas: sediakan alternatif aman, buat kebijakan jelas, wajibkan pengawasan manusia, latih pegawai, dan bangun budaya transparan. Dengan pendekatan ini, sektor publik bisa memetik manfaat AI tanpa mengorbankan kepercayaan publik yang telah dibangun bertahun-tahun.