Ketika Prompt Karyawan Membocorkan Rahasia Perusahaan

Bayangkan ini: Anda sedang terburu-buru menyelesaikan laporan. Sambil membuka ChatGPT, Anda menempelkan data penjualan pelanggan dan memintanya merangkum tren. Dalam hitungan detik, pekerjaan selesai. Anda lega karena tenggat waktu terpenuhi.

Tanpa Anda sadari, data pelanggan itu kini telah meninggalkan lingkungan aman perusahaan. Data itu tersimpan di server pihak ketiga, mungkin dipelajari oleh model AI, dan bisa muncul kembali sebagai jawaban untuk pengguna lain di lain waktu .

Inilah yang terjadi setiap hari di ribuan perusahaan—kebocoran data melalui prompt AI yang tidak disadari oleh karyawan maupun perusahaan.

Kasus Nyata: Pelajaran dari Samsung

Pada Maret 2023, Samsung memberi izin kepada insinyurnya untuk menggunakan ChatGPT. Dalam waktu hanya 20 hari, terjadi tiga insiden kebocoran data rahasia :

1. Seorang insinyur menempelkan kode sumber rahasia dari database semikonduktor ke ChatGPT untuk memperbaiki bug .

2. Karyawan lain memasukkan kode untuk mengoptimalkan pengujian peralatan chip yang sensitif .

3. Ada yang meminta ChatGPT membuat notulen dari rapat internal yang membahas informasi rahasia .

Akibatnya, data berharga itu berpindah ke server OpenAI dan sulit ditarik kembali. Samsung terpaksa melarang penggunaan alat AI generatif dan mengembangkan solusi AI internal mereka sendiri—tapi kerusakan sudah terjadi .

Kasus Samsung bukanlah insiden tunggal. Data menunjukkan bahwa antara Maret 2023 dan Maret 2024, karyawan di seluruh dunia memasukkan informasi sensitif ke AI publik dengan peningkatan 485% . Sekitar 1,25% dari semua prompt berisiko tinggi menyebabkan kebocoran data sensitif, dan 7,5% lainnya mengandung data yang berpotensi sensitif .

Mengapa Prompt Bisa Membocorkan Data?

1. AI Menyimpan dan “Menghafal” Data

Banyak pengguna mengira pertanyaan ke AI bersifat sementara dan langsung hilang. Faktanya, banyak alat AI gratis menyimpan masukan pengguna untuk melatih model mereka . Data itu tidak hanya disimpan—ia dipelajari oleh AI. Seperti menceritakan rahasia kepada seseorang yang akan mengingatnya selamanya dan mungkin menceritakannya ke orang lain .

“Begitu kontrak, email, atau dokumen internal dimasukkan ke model AI publik, kendali hilang dalam hitungan detik. Sering kali tidak ada cara jelas untuk mengambil kembali data itu.” — Pernyataan pakar keamanan 

2. Data Bisa Muncul Kembali ke Pengguna Lain

Karena AI “belajar” dari data yang dimasukkan, ada risiko informasi sensitif perusahaan muncul kembali sebagai jawaban untuk pertanyaan pengguna lain di masa depan . Ini adalah risiko yang sangat nyata dan menjadi kekhawatiran utama banyak perusahaan .

3. Serangan Prompt Injection

Ini adalah ancaman yang bahkan lebih mengkhawatirkan. Penyerang bisa menyisipkan instruksi jahat dalam dokumen atau prompt yang tampak biasa. Ketika AI membaca instruksi tersembunyi itu, ia bisa diperintahkan untuk mencari dan mengirimkan data sensitif ke luar jaringan perusahaan .

Dua kasus gugatan di AS—OpenEvidence v. Pathway Medical dan OpenEvidence v. Doximity—menunjukkan bagaimana pesaing bisnis menggunakan teknik prompt injection untuk mencoba mencuri “system prompt” rahasia dari AI kompetitor . Ini bukan lagi ancaman teoretis—ini sudah terjadi di pengadilan.

4. Ekstensi Browser Berbahaya

Serangan “Man-in-the-Prompt” memanfaatkan ekstensi browser yang bisa mengakses dan mengubah prompt sebelum dikirim ke AI . Pengguna mungkin melihat jawaban yang tampak normal, tapi data sensitif sudah dicuri di balik layar—melewati firewall dan sistem keamanan perusahaan .

5. Agen AI yang Bertindak Sendiri

Ancaman terbaru datang dari Shadow AI Agent—AI otonom yang tidak hanya merespons perintah, tapi bertindak sendiri. Sebuah insiden di rumah sakit mengungkapkan bagaimana agen AI transkripsi otomatis bergabung dengan rapat rahasia melalui undangan kalender mantan karyawan dan mengirimkan data pasien ke orang yang tidak berwenang .

Data Apa yang Paling Sering Bocor?

Data dari berbagai sumber menunjukkan jenis informasi yang paling sering masuk ke AI publik :

Apa yang Bisa Dilakukan?

Untuk Perusahaan

1. Buat kebijakan AI yang jelas—tentukan alat apa yang boleh digunakan dan data apa yang boleh diproses .

2. Sediakan alat AI internal yang aman—dengan perlindungan seperti data tidak digunakan untuk pelatihan model dan log audit .

3. Edukasi karyawan—jelaskan risiko dengan bahasa yang sederhana .

4. Pantau penggunaan AI—gunakan alat deteksi seperti Microsoft Purview atau CASB untuk menemukan Shadow AI .

Untuk Karyawan

1. Jangan pernah memasukkan data pelanggan, kode sumber, atau dokumen rahasia ke AI publik .

2. Gunakan hanya alat AI yang sudah disetujui perusahaan .

3. Laporkan jika ingin menggunakan alat baru—jangan sembunyi-sembunyi .

Kesimpulan

Prompt karyawan yang tampaknya sepele bisa menjadi jalur kebocoran data yang tidak terlihat. Kasus Samsung adalah peringatan nyata: dalam hitungan hari, data rahasia perusahaan bisa berpindah ke server pihak ketiga dan tidak bisa ditarik kembali.

Di era AI, rahasia perusahaan tidak hanya bocor karena peretasan canggih. Kadang, ia bocor karena seorang karyawan yang hanya ingin bekerja lebih cepat menempelkan data ke prompt AI. Kuncinya bukan melarang inovasi, tapi mengelolanya dengan bijak—dengan kebijakan yang jelas, alat yang aman, dan edukasi yang baik.