Pendahuluan
Perkembangan Artificial Intelligence (AI) telah menghasilkan berbagai model canggih yang mampu melakukan tugas seperti pengenalan gambar, pemrosesan bahasa, hingga sistem rekomendasi. Pembuatan model AI membutuhkan sumber daya besar, mulai dari pengumpulan data, proses pelatihan, hingga pengembangan algoritma. Oleh karena itu, model AI menjadi salah satu aset penting yang perlu dilindungi.
Namun, semakin luasnya penggunaan layanan AI juga menghadirkan ancaman baru dalam keamanan siber. Salah satu ancaman tersebut adalah Model Stealing Attack, yaitu serangan yang bertujuan memperoleh kemampuan atau fungsi dari sebuah model AI tanpa mendapatkan akses langsung terhadap model aslinya.
Memahami Model Stealing Attack
Model Stealing Attack atau sering disebut Model Extraction Attack merupakan teknik pencurian model AI dengan cara mempelajari perilaku model target melalui interaksi berulang. Penyerang tidak perlu mengetahui struktur internal model, parameter, maupun data pelatihan yang digunakan. Mereka cukup mengirimkan sejumlah masukan (queries) dan mengamati keluaran yang diberikan oleh model.
Hasil keluaran tersebut kemudian digunakan untuk melatih model tiruan (surrogate model) yang memiliki kemampuan serupa dengan model asli. Dengan cara ini, penyerang dapat meniru fungsi model tanpa harus mengeluarkan biaya besar untuk mengembangkan model dari awal.
Berbeda dengan Adversarial Attack yang bertujuan membuat model menghasilkan prediksi yang salah, Model Stealing Attack berfokus pada pengambilan kemampuan model. Sementara itu, Data Poisoning Attack menyerang proses pelatihan dengan memanipulasi data, sedangkan Model Stealing menyerang melalui proses interaksi dengan model yang sudah tersedia.
Mekanisme Model Stealing Attack
Serangan dimulai dengan menentukan model AI target, misalnya layanan AI yang tersedia melalui API. Penyerang kemudian mengirimkan banyak permintaan dengan berbagai variasi data masukan. Setiap hasil prediksi yang diberikan model target dikumpulkan sebagai informasi untuk membangun model baru.
Setelah memiliki cukup data, penyerang melatih model tiruan menggunakan hasil pengamatan tersebut. Model tiruan ini kemudian dapat digunakan untuk melakukan fungsi yang hampir sama dengan model asli.
Sebagai contoh, sebuah layanan klasifikasi gambar berbayar dapat menjadi target pencurian model. Penyerang dapat mengirim ribuan gambar ke layanan tersebut, mengumpulkan hasil klasifikasinya, lalu membuat model sendiri yang meniru kemampuan layanan tersebut.
Mengapa Model Stealing Sulit Dideteksi?
Salah satu alasan Model Stealing Attack sulit dideteksi adalah karena aktivitas penyerang terlihat seperti penggunaan layanan biasa. Penyerang tidak perlu masuk ke sistem internal atau mencuri file model secara langsung.
Selain itu, jumlah permintaan yang dilakukan dapat dibuat menyerupai pola pengguna normal. Model hasil curian juga sulit dibedakan karena hanya meniru perilaku dan kemampuan model asli.
Dampak terhadap Sistem AI
Serangan ini dapat menyebabkan kerugian besar bagi pengembang AI. Model yang telah dicuri dapat digunakan tanpa izin untuk membuat layanan pesaing atau dimanfaatkan untuk tujuan yang merugikan.
Pada sektor kesehatan, keamanan, dan layanan digital, pencurian model dapat mengurangi nilai investasi pengembangan teknologi AI. Selain itu, model yang dicuri juga berpotensi dimodifikasi untuk menghasilkan sistem yang tidak aman.
Teknik Deteksi dan Mitigasi
Untuk menghadapi ancaman ini, pengembang AI dapat menerapkan berbagai strategi keamanan. Pemantauan pola permintaan (query monitoring) dapat membantu mendeteksi aktivitas yang mencurigakan, seperti permintaan dalam jumlah besar dalam waktu singkat.
Selain itu, pembatasan akses API, penerapan rate limiting, perlindungan terhadap keluaran model, serta penggunaan teknik watermarking dapat mengurangi risiko pencurian model. Audit keamanan secara berkala juga diperlukan untuk memastikan sistem tetap terlindungi.
Tantangan dan Arah Penelitian
Seiring meningkatnya penggunaan layanan AI berbasis API, ancaman Model Stealing Attack diperkirakan akan terus berkembang. Tantangan utama adalah menemukan keseimbangan antara memberikan akses yang mudah kepada pengguna dan menjaga keamanan model. Oleh karena itu, penelitian mengenai metode perlindungan model AI masih terus dilakukan.
Kesimpulan
Model Stealing Attack merupakan ancaman serius terhadap keamanan dan kepemilikan model AI. Serangan ini memungkinkan pihak tidak bertanggung jawab meniru kemampuan model tanpa mengakses sistem internal. Oleh karena itu, perlindungan model AI perlu menjadi bagian penting dalam pengembangan teknologi kecerdasan buatan agar tetap aman, terpercaya, dan berkelanjutan.
