Perkembangan kecerdasan buatan (AI) telah membawa revolusi di berbagai sektor, mulai dari kesehatan, keuangan, hingga transportasi. Namun, di balik kemampuannya yang luar biasa, sistem AI menyimpan kerentanan yang dapat dieksploitasi. Salah satu ancaman paling berbahaya adalah adversarial attack atau serangan adversarial—teknik manipulasi input yang dapat mengecoh model AI dengan perubahan kecil yang sering kali tidak terdeteksi oleh manusia.
Apa Itu Adversarial Attack?
Adversarial attack adalah serangan siber yang mengeksploitasi kerentanan spesifik sistem AI dengan memberikan input yang telah dimodifikasi secara khusus. Tujuannya adalah membuat model AI salah dalam mengambil keputusan atau klasifikasi . Input yang dimanipulasi ini disebut sebagai adversarial examples.
Contoh paling sederhana: dalam sistem pengenalan gambar, penambahan noise (gangguan visual) yang hampir tak terlihat pada foto panda dapat membuat AI mengklasifikasikannya sebagai “gajah” . Pada mobil otonom, modifikasi kecil pada rambu lalu lintas dapat menyebabkan AI salah membaca rambu “Berhenti” menjadi “Belok” .
Menurut laporan Fortinet, adversarial attack diprediksi akan semakin meningkat seiring meluasnya penggunaan AI dan komunikasi antarmesin tanpa pengamanan identitas non-manusia yang memadai .
Jenis-Jenis Adversarial Attack
Berdasarkan tingkat pengetahuan penyerang terhadap model target, serangan adversarial dibagi menjadi dua kategori utama :
1. White-box Attack Penyerang memiliki akses penuh terhadap model AI, termasuk arsitektur, parameter, dan data pelatihan. Dengan informasi ini, mereka dapat merancang gangguan optimal untuk menyesatkan model. Contoh teknik: Fast Gradient Sign Method (FGSM) dan Projected Gradient Descent (PGD).
2. Black-box Attack Penyerang tidak memiliki akses langsung ke model internal. Mereka hanya dapat mengamati output terhadap berbagai input, lalu menggunakan teknik query-based untuk memperkirakan parameter model dan menyusun serangan yang efektif.
Berdasarkan metode serangan, berikut beberapa jenis yang paling umum:
Jenis Serangan
Deskripsi
Dampak
Evasion Attack
Memanipulasi input saat model beroperasi (inferensi) untuk menghasilkan keputusan salah
Mengancam integritas sistem
Poisoning Attack
Menyisipkan data berbahaya ke dataset pelatihan, membuat model belajar pola yang salah
Mengancam ketersediaan dan integritas
Model Extraction
Meniru model AI dengan menganalisis respons dari berbagai input
Pelanggaran kekayaan intelektual
Membership Inference
Menebak apakah data tertentu digunakan dalam pelatihan model
Kebocoran data privasi
Mengapa Serangan Ini Berbahaya?
Dampak adversarial attack sangat serius karena sistem AI kini digunakan dalam berbagai sektor kritis:
Kendaraan Otonom: Serangan pada sistem pengenalan rambu lalu lintas dapat membahayakan keselamatan penumpang dan pejalan kaki .
Sistem Keamanan: Pengenalan wajah dapat dibobol, memungkinkan akses tidak sah ke area terlarang .
Diagnosis Medis: Gambar medis yang dimanipulasi dapat menyebabkan kesalahan diagnosis yang membahayakan pasien .
Keamanan Siber: Model deteksi intrusi dapat dibuat tidak efektif, memungkinkan penyerang melewati sistem keamanan tanpa terdeteksi .
Menurut standar keamanan NIST (National Institute of Standards and Technology), serangan terhadap sistem AI mengancam tiga pilar keamanan informasi: kerahasiaan (confidentiality), integritas (integrity), dan ketersediaan (availability) .
Bagaimana Melindungi Sistem AI?
Meskipun pertahanan sempurna belum ada, beberapa strategi telah terbukti efektif untuk memitigasi risiko :
1. Adversarial Training
Melatih model dengan memasukkan adversarial examples ke dalam dataset pelatihan. Dengan cara ini, model belajar mengenali pola manipulasi dan menjadi lebih tahan terhadap serangan .
2. Defensive Distillation
Melatih model menggunakan soft labels (label lunak) yang dihasilkan oleh model sebelumnya, meningkatkan ketahanan terhadap gangguan kecil .
3. Preprocessing Input
Teknik seperti random cropping dan Gaussian filtering dapat mengubah struktur perturbasi adversarial sebelum input diproses oleh model. Metode ini terbukti efektif tanpa memerlukan pelatihan ulang model .
4. Sanitasi Data
Untuk sistem AIOps (AI untuk operasi TI), sanitasi data telemetri dapat mencegah manipulasi input yang dapat menyesatkan agen AI .
AI Sebagai Pedang Bermata Dua
Ironisnya, AI tidak hanya menjadi target serangan, tetapi juga dapat menjadi senjata untuk melancarkan serangan. Fenomena ini disebut Offensive AI, di mana penyerang menggunakan AI generatif untuk menciptakan konten palsu seperti deepfake, phishing yang lebih meyakinkan, atau malware adaptif yang sulit dideteksi .
Dengan kata lain, kita menghadapi “dual-use” AI: teknologi yang sama dapat digunakan untuk memperkuat pertahanan maupun melancarkan serangan siber yang semakin canggih .
Kesimpulan
Adversarial attack bukanlah ancaman teoretis, melainkan risiko nyata yang harus diantisipasi oleh setiap organisasi yang mengadopsi AI. Kerentanan ini dapat berakibat fatal di sistem-sistem kritis. Upaya mitigasi—mulai dari adversarial training, preprocessing input, hingga kepatuhan terhadap standar seperti NIST dan ISO/IEC—menjadi keharusan untuk membangun sistem AI yang aman dan terpercaya .
Seperti yang dinyatakan Carl Windsor, CISO Fortinet: “AI secara fundamental mengubah cara organisasi beroperasi, tetapi juga memperkenalkan risiko baru yang belum sepenuhnya dipahami”. Kesadaran dan langkah proaktif adalah kunci menghadapi lanskap keamanan siber yang terus berevolusi.
