Pendahuluan
Salah satu risiko yang paling ditakuti dari aplikasi berbasis AI adalah bocornya informasi sensitif — entah itu data pribadi pengguna, rahasia perusahaan, atau detail teknis sistem. Dalam dunia keamanan AI, ini disebut sensitive information disclosure. Yuk kita bahas apa itu, dari mana asalnya, dan bagaimana cara mencegahnya.
Apa Itu Sensitive Information Disclosure?
Sederhananya, ini adalah situasi ketika AI secara tidak sengaja (atau karena ditipu) memberikan informasi yang seharusnya rahasia kepada orang yang tidak berhak menerimanya.
Bayangkan Anda punya asisten yang menyimpan banyak informasi tentang perusahaan tempatnya bekerja. Idealnya, asisten ini hanya membagikan informasi yang memang boleh diketahui publik. Tapi kalau asisten ini “kelepasan” cerita soal gaji karyawan lain, strategi bisnis rahasia, atau data pelanggan, itu artinya sudah terjadi kebocoran informasi sensitif.
Sumber-sumber Kebocoran
Ada beberapa cara informasi sensitif ini bisa bocor lewat aplikasi AI:
Bocor dari data pelatihan. Kadang, AI dilatih menggunakan data yang mengandung informasi sensitif, seperti dokumen internal atau data pelanggan. Kalau tidak hati-hati, AI bisa saja “mengingat” sebagian data ini dan mengulanginya saat menjawab pertanyaan pengguna, meski itu tidak pernah dimaksudkan.
Bocor lewat percakapan pengguna lain. Pada aplikasi yang menyimpan riwayat percakapan untuk “belajar” atau meningkatkan layanan, ada risiko bagian dari percakapan satu pengguna bisa muncul saat menjawab pengguna lain, kalau sistemnya tidak memisahkan data dengan baik.
Bocor karena ditipu penyerang. Seperti dibahas di artikel-artikel sebelumnya, penyerang bisa memakai trik seperti prompt injection atau jailbreak untuk memancing AI membocorkan informasi yang seharusnya dirahasiakan.
Bocor lewat sambungan ke sistem lain. Banyak aplikasi AI sekarang terhubung ke sistem lain, seperti database perusahaan atau API pihak ketiga. Kalau koneksi ini tidak diatur dengan hati-hati, AI bisa saja mengambil dan menampilkan data yang seharusnya dibatasi aksesnya.
Contoh Kasus
Bayangkan sebuah aplikasi HR (sumber daya manusia) memakai AI untuk menjawab pertanyaan karyawan soal kebijakan perusahaan. Kalau tidak diatur dengan baik, karyawan biasa bisa saja bertanya dengan cara tertentu dan berhasil membuat AI membocorkan data gaji karyawan lain, padahal seharusnya informasi itu bersifat rahasia dan hanya bisa diakses HR.
Cara Mencegahnya
Beberapa langkah yang bisa dilakukan untuk mencegah kebocoran informasi sensitif:
- Memastikan data yang dipakai untuk melatih AI sudah dibersihkan dari informasi sensitif yang tidak perlu.
- Membatasi akses AI ke data penting berdasarkan siapa yang bertanya — misalnya, karyawan biasa tidak bisa mengakses data yang seharusnya hanya untuk HR.
- Menambahkan pemeriksaan tambahan sebelum jawaban AI ditampilkan, untuk memastikan tidak ada informasi sensitif yang ikut terbawa.
- Rutin menguji aplikasi dengan berbagai skenario, untuk memastikan tidak ada celah yang bisa dimanfaatkan buat memancing informasi rahasia.
Kesimpulan
Sensitive information disclosure adalah risiko nyata pada aplikasi berbasis AI, dan bisa terjadi lewat berbagai jalan — mulai dari data pelatihan, percakapan pengguna lain, trik penipuan, sampai koneksi ke sistem lain. Karena risikonya menyangkut data pribadi dan rahasia perusahaan, pencegahan kebocoran ini seharusnya jadi perhatian utama sejak aplikasi AI mulai dirancang, bukan ditambal belakangan setelah masalah terjadi.
