Pendahuluan
Artificial Intelligence (AI) semakin banyak digunakan untuk membantu berbagai aktivitas, seperti mengenali wajah, mendeteksi penyakit, menerjemahkan bahasa, hingga mengendalikan kendaraan otonom. Keberhasilan teknologi ini sangat bergantung pada kualitas model machine learning yang telah dilatih menggunakan sejumlah besar data. Namun, proses pelatihan tersebut juga dapat menjadi sasaran serangan siber. Salah satu ancaman yang perlu diwaspadai adalah backdoor attack, yaitu serangan yang menyisipkan “pintu belakang” pada model AI sehingga dapat dimanfaatkan oleh penyerang untuk mengubah hasil prediksi pada kondisi tertentu.
Memahami Backdoor Attack
Backdoor attack merupakan salah satu bentuk data poisoning attack, yaitu serangan yang dilakukan dengan memanipulasi data pelatihan sebelum model dibangun. Pada serangan ini, penyerang menambahkan trigger atau pemicu berupa pola, simbol, maupun perubahan kecil pada sebagian data pelatihan. Selama proses pelatihan, model mempelajari bahwa keberadaan trigger tersebut berkaitan dengan suatu kelas tertentu.
Berbeda dengan adversarial attack yang menyerang model saat proses prediksi, backdoor attack dilakukan sejak tahap pelatihan. Serangan ini juga berbeda dengan clean-label poisoning karena tujuan utamanya adalah membuat model bereaksi terhadap trigger tertentu, bukan sekadar memengaruhi prediksi pada target tertentu tanpa pemicu.
Mekanisme Backdoor Attack
Serangan dimulai dengan menentukan target yang ingin dimanipulasi. Selanjutnya, penyerang membuat trigger yang akan disisipkan ke dalam sebagian data pelatihan. Data tersebut kemudian diberi label sesuai dengan tujuan serangan dan dicampurkan ke dalam dataset. Setelah model selesai dilatih, model akan bekerja secara normal pada sebagian besar data. Namun, ketika menerima data yang mengandung trigger yang sama, model akan menghasilkan prediksi sesuai keinginan penyerang.
Sebagai contoh, pada sistem klasifikasi gambar, sebuah pola kecil di sudut gambar dapat dijadikan trigger agar gambar tersebut selalu dikenali sebagai kelas tertentu. Teknik serupa juga dapat diterapkan pada sistem pengenalan wajah maupun pengenalan rambu lalu lintas.
Mengapa Backdoor Attack Sulit Dideteksi?
Salah satu alasan utama serangan ini sulit dideteksi adalah karena performa model terhadap data normal tetap tinggi. Selain itu, ukuran trigger biasanya sangat kecil sehingga tidak mudah dikenali oleh manusia. Perilaku berbahaya model juga hanya muncul ketika trigger digunakan, sehingga proses pengujian biasa sering kali tidak menemukan adanya masalah pada model.
Dampak terhadap Sistem AI
Backdoor attack dapat menimbulkan berbagai risiko pada sistem AI. Dalam sistem pengenalan wajah, trigger dapat dimanfaatkan untuk memperoleh akses tanpa izin. Pada kendaraan otonom, manipulasi terhadap rambu lalu lintas dapat menyebabkan kendaraan mengambil keputusan yang salah. Serangan serupa juga dapat memengaruhi sistem diagnosis medis maupun deteksi malware sehingga menghasilkan keputusan yang tidak akurat.
Teknik Deteksi dan Mitigasi
Berbagai metode telah dikembangkan untuk mendeteksi backdoor attack, seperti analisis perilaku model, activation clustering, dan Neural Cleanse. Selain itu, kualitas dataset perlu diperiksa secara menyeluruh sebelum digunakan untuk pelatihan. Upaya mitigasi juga dapat dilakukan melalui kurasi data, data sanitization, robust training, fine-tuning, serta model pruning. Pemantauan model setelah diterapkan juga penting untuk memastikan tidak muncul perilaku yang mencurigakan selama proses operasional.
Tantangan dan Arah Penelitian
Seiring berkembangnya model AI yang semakin kompleks, teknik backdoor attack juga terus mengalami perkembangan. Penelitian saat ini berfokus pada pengembangan metode deteksi yang lebih akurat dan efisien, termasuk untuk melindungi foundation models dan large language models. Oleh karena itu, keamanan perlu diperhatikan pada seluruh siklus hidup pengembangan AI, mulai dari pengumpulan data hingga model digunakan.
Kesimpulan
Backdoor attack merupakan ancaman yang dapat mengurangi keandalan model AI melalui penyisipan trigger pada data pelatihan. Karena model tetap menunjukkan performa yang baik pada data normal, serangan ini sering kali sulit dideteksi. Oleh sebab itu, pengembang perlu menerapkan pengelolaan data yang baik, metode deteksi yang tepat, dan strategi mitigasi yang efektif agar sistem AI tetap aman, andal, dan dapat dipercaya.
