Pendahuluan

Serangan terhadap sistem AI jarang terjadi secara instan. Biasanya, penyerang melewati beberapa tahapan sebelum benar-benar berhasil mencapai tujuannya, entah itu mencuri data, memanipulasi hasil, atau merusak reputasi sebuah layanan. Memahami tahapan ini membantu tim keamanan mengenali tanda-tanda serangan lebih awal.

Tahap 1: Reconnaissance (Pengintaian)

Pada tahap awal, penyerang mengumpulkan informasi sebanyak mungkin tentang sistem AI targetnya. Mereka mencoba memahami jenis model yang digunakan, cara API bekerja, batasan-batasan yang diterapkan, hingga celah dokumentasi yang bisa dimanfaatkan. Tahap ini mirip dengan “mengintai rumah” sebelum benar-benar mencoba membobolnya.

Tahap 2: Eksploitasi Celah

Setelah mengetahui titik lemah, penyerang mulai mencoba mengeksploitasinya. Ini bisa berupa mencoba berbagai variasi input untuk menipu model (adversarial input), menyisipkan instruksi tersembunyi lewat dokumen yang dibaca AI (prompt injection), atau memanfaatkan celah pada API yang tidak dibatasi dengan baik.

Tahap 3: Manipulasi atau Pencurian

Jika eksploitasi berhasil, penyerang bisa melanjutkan ke tujuan utamanya. Misalnya, memanipulasi keluaran model agar memberikan informasi yang seharusnya rahasia, mencuri sebagian isi model lewat serangkaian pertanyaan (model extraction), atau mengambil data pelatihan yang seharusnya bersifat privat.

Tahap 4: Dampak Lanjutan

Tahap terakhir adalah dampak yang lebih luas dan bertahan lama. Penyerang bisa saja menanamkan celah tersembunyi agar bisa diakses kembali di kemudian hari (persistence), atau menyebarkan data curian ke pihak lain (exfiltration). Pada tahap ini, dampak serangan sering kali baru benar-benar dirasakan oleh korban, baik berupa kerugian finansial, reputasi, maupun hukum.

Kesimpulan

Serangan terhadap sistem AI umumnya melewati proses bertahap: pengintaian, eksploitasi, manipulasi atau pencurian, hingga dampak lanjutan. Dengan memahami pola ini, organisasi bisa membangun sistem deteksi dini yang mampu mengenali tanda-tanda serangan sebelum mencapai tahap yang benar-benar merugikan.

Related Posts: