Bayangkan seorang karyawan menempelkan daftar pelanggan ke ChatGPT untuk menganalisis tren pembelian. Ia hanya ingin bekerja lebih cepat. Tanpa disadarinya, data pelanggan itu kini telah berpindah ke server pihak ketiga, tersimpan di sana, dan berpotensi digunakan untuk melatih model AI.
Inilah kebocoran data melalui generative AI yang tidak disadari. Fenomena ini terjadi setiap hari di ribuan perusahaan di seluruh dunia. Data yang dimasukkan tidak hanya keluar dari kendali perusahaan, tapi bisa “dihafal” oleh AI dan muncul kembali kepada pengguna lain .
Tiga Mekanisme Kebocoran yang Tidak Disadari
1. Data “Dihafal” oleh Model
Berbeda dengan menyimpan file di tempat yang salah, ketika data dimasukkan ke AI publik, model memproses dan mempelajari data tersebut. Ini disebut unintended memorization. Kode sumber, data pelanggan, atau dokumen rahasia bisa tersimpan dalam bobot model dan muncul kembali dalam jawaban untuk pertanyaan yang berbeda .
Contoh nyata terjadi di Samsung pada 2023. Insinyur menempelkan kode sumber rahasia ke ChatGPT untuk memperbaiki bug. Kode itu kemudian tersimpan di server OpenAI dan sulit ditarik kembali .
2. Residual Data Retention
Bahkan setelah Anda menutup sesi atau menghapus percakapan, fragmen data bisa tetap tersimpan dalam model. Ini disebut residual data retention .
Jika sebuah perusahaan menggunakan AI publik untuk menganalisis dokumen internal, potongan data sensitif bisa “tertinggal” dalam model. Ketika pengguna lain mengajukan pertanyaan serupa di kemudian hari, data itu bisa muncul kembali tanpa sepengetahuan siapa pun .
3. Prompt Injection dan Serangan Tersembunyi
Cara ketiga adalah yang paling berbahaya karena terjadi tanpa sepengetahuan pengguna. Peneliti Tenable menemukan tujuh jenis celah keamanan di ChatGPT yang memungkinkan penyerang mencuri data pengguna :
| Jenis Serangan | Cara Kerja |
|---|---|
| Zero-click prompt injection | Pengguna mengajukan pertanyaan sederhana, ChatGPT secara otomatis menjelajahi situs berbahaya yang sudah diindeks, tanpa perlu klik tambahan |
| Memory injection | Penyerang memaksa ChatGPT memperbarui memorinya dengan instruksi berbahaya. Serangan ini bersifat persisten—berlangsung meski sesi percakapan sudah berakhir |
| Indirect prompt injection | Instruksi berbahaya disembunyikan dalam komentar atau teks di situs web. Saat ChatGPT membacanya, perintah berbahaya ikut dijalankan |
Skala potensialnya sangat besar: ratusan juta pengguna ChatGPT berpotensi terdampak karena mereka menggunakan model ini setiap hari .
Kasus Nyata: Ketika AI “Terlalu Membantu”
Kasus 1: Agen AI yang Bergabung Sendiri
Pada September 2024, sebuah rumah sakit di Kanada mengalami kebocoran data pasien. Seorang dokter yang sudah tidak bekerja di rumah sakit tersebut masih tercantum dalam undangan rapat Zoom mingguan. Alat transkripsi AI yang terhubung ke kalendernya secara otomatis bergabung dengan rapat, merekam diskusi pasien yang sangat sensitif, dan mengirimkan transkripnya—termasuk kepada mantan dokter itu .
Yang tidak disadari: AI tidak bisa membedakan antara “secara teknis bisa bergabung” dan “secara kebijakan seharusnya bergabung”. Ia hanya menjalankan instruksinya .
Kasus 2: Rantai Pasok Shadow AI
Pada April 2026, perusahaan teknologi Vercel mengalami peretasan besar. Seorang karyawan menggunakan ekstensi AI konsumen yang belum diaudit keamanannya. Ekstensi itu memiliki akses OAuth yang sangat luas ke akun Google Workspace-nya. Peretas yang sebelumnya telah menginfeksi vendor ekstensi AI tersebut mencuri token akses karyawan, lalu masuk ke sistem internal Vercel, mencuri data pelanggan, dan meminta tebusan US$2 juta .
Yang tidak disadari: Token akses itu memberikan izin permanen, tanpa batas waktu, kepada alat yang sama sekali tidak diawasi tim keamanan perusahaan .
Risiko Tambahan: Data Disimpan di Server Pihak Ketiga
Cara paling sederhana namun paling umum: karyawan mengunggah dokumen ke AI publik tanpa memahami kebijakan privasi platform.
Telkom Indonesia secara tegas melarang penggunaan AI publik untuk dokumen internal: “Pada saat kita meng-upload dokumen itu, maka dokumen itu tersimpan di server-nya mereka. Pada saat ada orang lain yang mem-prompt hal yang sama, itu bisa di-deliver dokumen kita ke orang lain, (termasuk) bisa jadi kompetitor (bisnis) kita” .
Survei menunjukkan bahwa 4,4% dari jutaan prompt ke AI publik mengandung informasi sensitif perusahaan. 11% data korporat yang disalin ke alat AI gratis—mulai dari kode sumber hingga catatan keuangan—bersifat rahasia .
Apa yang Bisa Dilakukan?
1. Jangan Pernah Masukkan Data Sensitif ke AI Publik
Pakai kata kunci sederhana: “Apa yang tidak ingin Anda lihat di berita besok?” Jika jawabannya “tidak”, jangan masukkan ke AI publik. Gunakan data sintetis atau samakan informasi sensitif sebelum menganalisis dokumen .
2. Sediakan Alat AI Internal yang Aman
Perusahaan perlu menyediakan platform AI yang menjamin data tidak digunakan untuk pelatihan model . Seperti yang disarankan Telkom: “Kalau ingin bantuan, gunakan GPT internal yang sudah kita bangun. Hasilnya juga sama” .
3. Pantau dan Deteksi Shadow AI
Alat keamanan tradisional sering gagal mendeteksi kebocoran AI karena data bergerak sebagai lalu lintas HTTPS biasa. Perusahaan perlu menggunakan alat yang memantau prompt ke AI publik dan akses OAuth dari aplikasi pihak ketiga .
4. Edukasi Karyawan
Karyawan sering tidak sadar bahwa data yang dimasukkan ke AI publik bisa digunakan untuk melatih model atau muncul kembali ke pengguna lain . Pelatihan sederhana tentang risiko ini bisa mencegah kebocoran besar.
Kesimpulan
Kebocoran data melalui generative AI sering terjadi bukan karena niat jahat, tapi karena ketidaktahuan dan kemudahan akses. Karyawan ingin bekerja lebih cepat, tidak menyadari bahwa setiap prompt yang berisi data sensitif menciptakan jalur kebocoran yang tidak terlihat.
Kuncinya bukan melarang AI, tapi menggunakannya dengan sadar risiko: jangan masukkan data sensitif ke AI publik, sediakan alternatif internal yang aman, dan edukasi karyawan tentang mekanisme kebocoran yang tidak disadari ini. Karena dalam dunia AI, begitu data meninggalkan kendali Anda, ia mungkin tidak akan pernah kembali.
