Shadow AI—penggunaan alat kecerdasan buatan tanpa sepengetahuan atau persetujuan tim TI—kini menjadi salah satu tantangan keamanan terbesar bagi perusahaan. Data menunjukkan bahwa 56% karyawan menggunakan alat AI yang tidak diizinkan di tempat kerja, sementara hanya 23% yang menggunakan alat yang disediakan dan dikelola perusahaan . Artinya, mayoritas aktivitas AI di sebagian besar organisasi sudah beroperasi di luar kendali keamanan .

Masalahnya: Anda tidak bisa melindungi apa yang tidak Anda lihat. Berikut panduan praktis mendeteksi Shadow AI di lingkungan perusahaan Anda.

Mengapa Shadow AI Sulit Dideteksi?

Berbeda dengan Shadow IT (penggunaan aplikasi atau perangkat tanpa izin), Shadow AI memiliki karakteristik yang membuatnya lebih sulit terdeteksi :

Aspek Shadow IT Shadow AI
Risiko Data Penyimpanan atau akses tidak sah Data diproses, disimpan, dan berpotensi digunakan untuk pelatihan model
Tingkat Kesulitan Deteksi Sedang—terlihat di inventaris SaaS Tinggi—interaksi AI sering terlihat seperti lalu lintas HTTPS biasa
Contoh Karyawan menggunakan Dropbox pribadi Insinyur menempelkan kode sumber ke ChatGPT

Shadow AI tidak sekadar menyimpan data di luar kendali Anda—ia memproses data tersebut secara aktif, dan hasilnya bisa bertahan lama setelah sesi berakhir .

6 Metode Deteksi Shadow AI

1. Periksa Lalu Lintas Jaringan Keluar

Langkah pertama adalah memetakan koneksi keluar ke penyedia AI yang dikenal, seperti OpenAI, Anthropic, Google, Mistral, dan Hugging Face .

Gunakan Secure Web Gateway (SWG) dengan inspeksi SSL/TLS untuk mendekripsi dan menganalisis lalu lintas terenkripsi. Ini akan mengungkap unggahan data ke alat AI generatif yang biasanya hanya terlihat sebagai sesi HTTPS biasa . Perhatikan:

  • Volume data yang tidak biasa

  • Pola koneksi mencurigakan ke tujuan tersebut

  • Aktivitas di luar jam kerja normal 

Microsoft Global Secure Access menyediakan fitur Shadow AI Discovery yang secara khusus menganalisis lalu lintas jaringan untuk mengidentifikasi koneksi ke layanan AI seperti ChatGPT, Claude, dan API model AI lainnya . Dashboard menampilkan aplikasi AI yang terdeteksi, pengguna yang mengaksesnya, statistik penggunaan, dan skor risiko .

2. Audit Ekstensi dan Pengaya Browser

Ekstensi browser adalah salah satu vektor Shadow AI yang paling umum dan paling sering diabaikan . Sebuah ekstensi yang menawarkan bantuan penulisan atau ringkasan tab mungkin secara diam-diam mengirimkan konten sesi ke API pihak ketiga—termasuk data yang terlihat di dalam aplikasi CRM, HR, atau keuangan yang sedang terbuka .

Tindakan yang bisa dilakukan:

  • Gunakan alat manajemen endpoint untuk inventarisasi ekstensi yang terinstal

  • Tandai ekstensi dengan izin atau koneksi terkait AI

  • Bandingkan dengan daftar ekstensi yang disetujui 

3. Gunakan CASB untuk Mendeteksi Aplikasi AI yang Tidak Diizinkan

Cloud Access Security Broker (CASB) memberikan visibilitas ke aktivitas SaaS dan API di seluruh lingkungan Anda . CASB dapat:

  • Mendeteksi aplikasi AI yang beroperasi di luar inventaris yang disetujui

  • Menandai transfer data tersembunyi ke platform AI

  • Mengungkap karyawan yang menggunakan akun pribadi untuk mengakses alat AI dengan data perusahaan 

4. Pantau Perilaku Pengguna untuk Anomali

Analitik perilaku dapat mengidentifikasi penyimpangan dari pola yang sudah ada , misalnya:

  • Akun pemasaran tiba-tiba mengirimkan data terstruktur ke domain eksternal

  • Pengguna keuangan menyalin data dalam jumlah besar di jam tidak biasa

  • Developer mengakses repositori internal dalam skala besar sebelum koneksi AI eksternal 

Data Detection and Response (DDR) menangkap sinyal aktivitas berisiko tinggi ini di seluruh endpoint, alat kolaborasi, dan lingkungan cloud, lalu menghubungkannya menjadi insiden yang dapat ditindaklanjuti .

5. Manfaatkan Microsoft 365 untuk Deteksi AI Agent

Jika organisasi Anda menggunakan Microsoft 365, fitur Shadow AI (Frontier) di pusat admin Microsoft 365 dapat mendeteksi dan bahkan memblokir agen AI yang tidak dikelola seperti OpenClaw .

Cara mengakses:

  1. Masuk ke pusat admin Microsoft 365

  2. Pilih Semua tampilkan > Agen > Shadow AI (Frontier)

  3. Halaman menampilkan daftar agen AI bayangan yang diketahui 

Fitur ini saat ini mendukung deteksi dan pemblokiran OpenClaw pada perangkat Windows terkelola yang terdaftar di Microsoft Intune .

6. Lakukan Audit Internal dan Survei Karyawan

Deteksi bukan hanya masalah teknis—ini juga masalah budaya . Karyawan sering bersedia mengungkapkan penggunaan AI jika pengungkapan diperlakukan sebagai pembelajaran, bukan hukuman .

Praktik terbaik:

  • Lakukan survei anonim tentang penggunaan AI

  • Bangun proses deklarasi terstruktur dalam pelatihan kepatuhan

  • Ciptakan saluran pelaporan yang mudah dan tanpa rasa takut 

“Shadow AI bersembunyi paling baik dalam ketakutan; ia muncul paling cepat dalam kepercayaan.” 

Membangun Program Deteksi Berkelanjutan

Inventarisasi Shadow AI bukanlah audit sekali waktu. Alat baru, ekstensi browser, dan fitur AI tertanam muncul lebih cepat daripada siklus peninjauan triwulanan . Perlakuan Shadow AI sebagai proses berkelanjutan, bukan proyek dengan tanggal akhir .

Langkah-langkah kunci:

  1. Buat kebijakan AI yang jelas—tentukan alat apa yang disetujui dan data apa yang boleh diproses 

  2. Gabungkan berbagai lapisan deteksi—jaringan, browser, SaaS, endpoint, dan identitas 

  3. Edukasi karyawan—jelaskan risiko dan sediakan jalur yang sah untuk mengakses alat AI yang dibutuhkan 

  4. Tinjau dan perbarui secara rutin—seiring berkembangnya lanskap AI 

Dengan pendekatan berlapis ini, perusahaan dapat menemukan Shadow AI sebelum menjadi insiden kebocoran data yang merugikan.

Related Posts: