Prompt Filtering untuk Mencegah Kebocoran Data

Ketika kita berbicara tentang AI, istilah “prompt” merujuk pada pertanyaan, perintah, atau teks yang kita masukkan ke dalam AI untuk mendapatkan jawaban. Misalnya, ketika kamu mengetik “Buatkan saya ringkasan laporan penjualan bulan ini” di ChatGPT, itulah yang disebut prompt.

Nah, masalahnya adalah: banyak karyawan yang tanpa sadar memasukkan data sensitif ke dalam prompt. Mereka mungkin menulis:

• “Analisis keuangan klien berikut ini: [nama dan saldo rekening]”

• “Tolong perbaiki kode program ini: [kode sumber rahasia]”

• “Buatkan surat untuk calon investor dengan data ini: [strategi bisnis]”

Begitu data itu masuk ke AI publik, data tersebut bisa disimpan, dipelajari, atau bahkan bocor ke publik. Untuk mencegah hal ini, muncullah teknologi yang disebut Prompt Filtering.

Artikel ini akan menjelaskan apa itu Prompt Filtering, bagaimana cara kerjanya, dan bagaimana kamu bisa menerapkannya untuk melindungi data perusahaan.

Apa Itu Prompt Filtering?

Prompt Filtering adalah proses menyaring dan memeriksa setiap prompt sebelum diteruskan ke AI. Bayangkan seperti penyaring air: air kotor (prompt berisi data sensitif) melewati saringan, lalu kotorannya tertahan, dan air bersih (prompt yang aman) yang keluar.

Fungsi utama Prompt Filtering:

1. Mendeteksi apakah ada data sensitif dalam prompt.

2. Menghilangkan atau menyembunyikan data sensitif tersebut (proses ini disebut redaksi atau redaction).

3. Memblokir prompt sepenuhnya jika terlalu berbahaya.

4. Mencatat percobaan pengiriman data sensitif untuk keperluan audit.

Mengapa Prompt Filtering Penting?

1. Karyawan Bisa Salah Langkah

Tidak semua karyawan paham mana data yang boleh dan tidak boleh dimasukkan ke AI. Mereka mungkin menganggap data itu “biasa saja”, padahal sangat sensitif bagi perusahaan.

Contoh: Seorang staf HR memasukkan daftar gaji karyawan ke AI untuk membuat grafik perbandingan. Padahal, data gaji adalah rahasia internal.

2. AI Publik Menyimpan Data

Banyak layanan AI publik yang menyimpan percakapan pengguna untuk melatih model mereka agar lebih pintar. Artinya, data yang kamu masukkan bisa dipelajari oleh AI dan mungkin muncul kembali di jawaban untuk pengguna lain.

Kasus nyata (di luar negeri): Ada karyawan Samsung yang memasukkan kode sumber rahasia ke ChatGPT. Kode itu kemudian menjadi bagian dari data pelatihan AI. Samsung pun melarang penggunaan ChatGPT di perusahaannya.

3. Regulasi Perlindungan Data

Undang-undang seperti UU PDP (Perlindungan Data Pribadi) di Indonesia atau GDPR di Eropa mewajibkan perusahaan untuk melindungi data pelanggan. Jika data pelanggan bocor karena prompt yang tidak difilter, perusahaan bisa kena denda besar.

4. Reputasi Perusahaan

Kebocoran data tidak hanya merugikan secara finansial, tetapi juga merusak kepercayaan pelanggan dan mitra bisnis. Perusahaan yang terbukti lalai akan sulit mendapatkan kembali kepercayaan.

Cara Kerja Prompt Filtering

Berikut adalah langkah-langkah teknis bagaimana Prompt Filtering bekerja:

1. Pemeriksaan Teks Otomatis

Saat pengguna mengetik prompt dan menekan “Kirim”, sistem akan:

• Membaca seluruh teks.

• Membandingkannya dengan daftar kata atau pola yang sudah ditentukan (misalnya: format nomor KTP, kartu kredit, alamat email, dll.).

2. Deteksi Pola Data Sensitif

Prompt Filter menggunakan aturan seperti Regular Expression (Regex) atau model AI khusus untuk mengenali:

• Nomor identitas: NIK, NPWP, SIM, paspor.

• Data keuangan: Nomor rekening, kartu kredit, saldo, transaksi.

• Data kesehatan: Riwayat medis, diagnosa.

• Rahasia bisnis: Nama proyek rahasia, strategi pemasaran, kode sumber.

• Data pribadi: Nama lengkap, alamat, nomor telepon, email.

3. Tindakan yang Dilakukan

Setelah mendeteksi data sensitif, Prompt Filter bisa melakukan salah satu dari tiga tindakan:

4. Pencatatan dan Audit

Setiap prompt yang mengandung data sensitif—baik yang diblokir, direaksi, atau diizinkan—dicatat dalam sistem log. Catatan ini berisi:

• Siapa pengguna.

• Kapan waktu pengiriman.

• Isi prompt (atau versi yang sudah disaring).

• Tindakan yang diambil oleh sistem.

Log ini bisa digunakan untuk pelatihan, investigasi, dan kepatuhan regulasi.

Jenis-Jenis Prompt Filtering

Ada beberapa pendekatan yang bisa digunakan, tergantung kebutuhan dan teknologi yang dimiliki:

1. Filter Berbasis Aturan (Rule-Based)

Menggunakan daftar kata kunci dan pola yang ditentukan secara manual oleh tim IT.

Kelebihan: Sederhana, cepat, dan mudah dikonfigurasi.
Kekurangan: Tidak bisa mendeteksi variasi kata atau data yang tidak terduga.

2. Filter Berbasis Machine Learning

Menggunakan model AI yang dilatih untuk mengenali data sensitif, bahkan jika kata-katanya tidak persis sama.

Kelebihan: Lebih akurat dan fleksibel.
Kekurangan: Membutuhkan data pelatihan dan keahlian teknis yang lebih tinggi.

3. Filter Hibrida

Menggabungkan aturan sederhana dan machine learning untuk hasil terbaik. Misalnya, aturan menangkap pola yang jelas, dan ML menangkap pola yang samar atau baru.

4. Filter Kontekstual

Tidak hanya melihat kata per kata, tetapi juga konteks kalimat. Misalnya, kata “12345” bisa jadi bukan nomor rekening jika muncul dalam kalimat “Jawaban yang benar adalah 12345”. Filter kontekstual lebih cerdas dalam membedakan.

Penerapan Prompt Filtering di Perusahaan

Berikut langkah-langkah praktis untuk menerapkan Prompt Filtering:

Langkah 1: Identifikasi Data Sensitif Perusahaan

Buat daftar jenis data yang dianggap sensitif oleh perusahaan:

• Data pelanggan.

• Data keuangan internal.

• Kode sumber dan kekayaan intelektual.

• Strategi bisnis dan rencana rahasia.

Langkah 2: Pilih Alat atau Platform

Beberapa opsi yang bisa digunakan:

• Cloudflare AI Gateway – memiliki fitur prompt filtering.

• Microsoft Purview – untuk perusahaan yang menggunakan Microsoft 365 dan Azure.

• Google Cloud DLP (Data Loss Prevention) – bisa diintegrasikan dengan API AI.

• Solusi open-source seperti OpenWebUI dengan plugin penyaringan, atau LangChain dengan callbacks untuk memfilter prompt.

Langkah 3: Konfigurasi Aturan Filter

Tentukan:

• Data apa yang harus diblokir secara mutlak (misalnya NIK).

• Data apa yang boleh direaksi (misalnya nomor telepon).

• Data apa yang hanya perlu dicatat (misalnya nama departemen).

Langkah 4: Uji Coba dan Penyesuaian

Jalankan Prompt Filtering dalam mode pemantauan (hanya mencatat, tidak memblokir) selama 1-2 minggu. Lihat:

• Seberapa sering data sensitif muncul dalam prompt?

• Apakah ada pola yang tidak terduga?

• Apakah ada false positive (data aman tetapi dianggap sensitif)?

Setelah itu, aktifkan mode perlindungan penuh.

Langkah 5: Edukasi Karyawan

Jangan lupa, teknologi saja tidak cukup. Beri tahu karyawan:

• Mengapa Prompt Filtering dipasang.

• Data apa yang tidak boleh dimasukkan ke AI.

• Apa yang harus dilakukan jika mereka memang perlu menganalisis data sensitif (misalnya menggunakan AI internal yang aman).

Langkah 6: Pantau dan Perbarui

Data sensitif bisa berubah seiring waktu (misalnya proyek baru, produk baru). Perbarui aturan filter secara berkala, minimal setiap 3 bulan.

Contoh Skenario Prompt Filtering

Tantangan dalam Prompt Filtering

Meskipun sangat berguna, Prompt Filtering memiliki beberapa tantangan:

1. False Positive (Data Aman Dianggap Sensitif)

Kadang filter terlalu ketat dan memblokir prompt yang sebenarnya aman. Ini bisa mengganggu produktivitas. Solusinya: atur ulang aturan atau gunakan filter kontekstual.

2. False Negative (Data Sensitif Tidak Terdeteksi)

Sebaliknya, ada kalanya data sensitif lolos karena tidak terdeteksi. Ini bisa terjadi jika karyawan menggunakan kata-kata yang tidak umum. Solusinya: perbarui aturan dan gunakan ML untuk mendeteksi pola baru.

3. Kinerja Sistem

Memeriksa setiap prompt secara real-time bisa memperlambat respons AI. Gunakan infrastruktur yang memadai dan optimasi kode.

4. Kreativitas Karyawan

Karyawan yang sengaja ingin menghindari filter bisa memecah kata atau menggunakan kode. Misalnya menulis NIK sebagai “317502…020…1234”. Untuk mengatasinya, gunakan filter yang lebih cerdas dan tambahkan sanksi kebijakan.

Prompt Filtering vs. AI Firewall: Apa Bedanya?

Keduanya saling melengkapi. Sebaiknya perusahaan menggunakan keduanya untuk perlindungan maksimal.

Kesimpulan

Prompt Filtering adalah alat penting untuk mencegah kebocoran data melalui layanan AI. Dengan menyaring setiap pertanyaan sebelum mencapai AI, perusahaan bisa:

• Melindungi data pelanggan dan rahasia bisnis.

• Mematuhi regulasi perlindungan data.

• Mengurangi risiko reputasi dan denda.

• Memberdayakan karyawan untuk menggunakan AI tanpa rasa khawatir.

Penerapannya tidak sulit: identifikasi data sensitif, pilih alat yang tepat, konfigurasi aturan, uji coba, dan edukasi karyawan. Ingat, teknologi adalah tameng, tetapi kesadaran karyawan adalah pondasinya.