Model AI adalah aset intelektual yang sangat berharga. Membangun model yang canggih membutuhkan investasi besar dalam hal data, daya komputasi, dan keahlian . Ketika model dicuri, bukan hanya kerugian finansial yang terjadi, tetapi model tersebut juga menjadi lebih rentan terhadap serangan karena pihak ketiga dapat mempelajarinya dan mengidentifikasi kelemahannya .
Ancaman pencurian model sangat nyata dan beragam. Penelitian terbaru bahkan menunjukkan bahwa model AI dapat dicuri dengan menganalisis sinyal elektromagnetik dari chip pemroses, dengan tingkat akurasi mencapai 99,91% . Artikel ini akan membahas secara komprehensif berbagai strategi pencegahan pencurian model AI.
Memahami Ancaman Pencurian Model AI
Pencurian model AI dapat terjadi melalui berbagai vektor serangan. Berdasarkan penelitian RAND Corporation, setidaknya terdapat 38 vektor serangan yang berbeda yang dapat digunakan untuk mencuri bobot (weights) model . Beberapa di antaranya adalah:
| Jenis Serangan | Deskripsi | Contoh Kasus |
|---|---|---|
| Social Engineering | Menipu pengguna sah agar menjalankan kode berbahaya atau membagikan kredensial | Phishing menyebabkan kerugian global tahunan $6.9 miliar |
| Malicious Placement | Menjatuhkan USB berisi malware di area organisasi | Beberapa fasilitas nuklir AS terinfeksi melalui USB yang “dijatuhkan” |
| Serangan Khusus AI | Menyusup ke rantai pasokan open-source yang digunakan infrastruktur ML | PyTorch, framework ML terpopuler, pernah terkompromi oleh paket open-source berbahaya |
| Akses Fisik Tak Sah | Membobol perangkat keras untuk mengekstrak informasi rahasia | Chip AMD ditemukan rentan terhadap serangan “voltage glitching” |
| API Exploitation | Menggunakan API query berulang kali untuk mereplikasi model | Model dapat direkonstruksi melalui query yang sistematis |
Selain itu, model yang dideploy di perangkat tepi (edge devices) seperti ponsel memiliki risiko tambahan. Penyerang dapat mengekstrak model melalui dekompilasi, dump memori, dan hook runtime .
Strategi Perlindungan Model AI
1. Keamanan Infrastruktur dan Akses
Pusatkan dan Batasi Akses terhadap Bobot Model
Langkah pertama yang paling kritis adalah menyentralisasi semua salinan bobot model dalam sistem yang dikontrol aksesnya dan diawasi dengan ketat. Jumlah orang yang memiliki akses terhadap bobot model harus diminimalkan . Sebab, setiap individu dengan akses “baca” penuh dapat membuat salinan bobot model dan menjual atau menyebarluaskannya .
Hardening Interface dan Defense-in-Depth
-
Menerapkan defense-in-depth (pertahanan berlapis) untuk redundansi
-
Memperkeras antarmuka akses model
-
Menerapkan program anti-insider threat
-
Menggunakan confidential computing untuk mengamankan bobot model saat digunakan dan mengurangi permukaan serangan
2. Perlindungan untuk Model Sisi Perangkat (Edge/On-Device)
Ketika model dideploy di perangkat pengguna (ponsel, IoT), model tersebut berada di luar kendali pengembang. Kerangka keamanan MoAI (Mobile On-device AI) mengusulkan tiga pilar keamanan utama :
| Pilar Keamanan | Fokus | Implementasi |
|---|---|---|
| Integritas Input | Melindungi “apa yang dilihat model” | Memastikan input dari sensor/kamera tidak termanipulasi |
| Keamanan Model | Melindungi “siapa diri model” | Mencegah ekstraksi, modifikasi, atau penggunaan ulang model |
| Isolasi Lingkungan | Melindungi “di mana model dijalankan” | Menjalankan inferensi dalam TEE (Trusted Execution Environment) |
Empat kategori pertahanan untuk model di perangkat tepi dapat diringkas sebagai berikut :
-
Hambat (Confusion): Meningkatkan kesulitan identifikasi dan pemulihan model melalui penggantian nama, enkapsulasi parameter, atau integrasi perangkat keras
-
Ikat (Authorization): Mengaitkan kemampuan model dengan aplikasi spesifik atau verifikasi integritas
-
Pisahkan (TEE): Mengisolasi inferensi dalam lingkungan perangkat keras yang aman
-
Tuntut Pertanggungjawaban (Accountability): Memungkinkan pembuktian kepemilikan setelah model dicuri
3. Perlindungan Berbasis Lisensi dan Enkripsi
LicenseNet: Model dengan Lisensi Tertanam
LicenseNet adalah kerangka kerja yang menyematkan fitur lisensi ke dalam model itu sendiri. Model yang dilatih dengan LicenseNet hanya akan menghasilkan inferensi yang benar untuk data yang memiliki lisensi, sementara data asli tanpa lisensi akan menghasilkan output yang membingungkan . Pendekatan ini secara aktif mencegah penggunaan model tanpa izin.
Keunggulan LicenseNet meliputi:
-
Ketahanan terhadap serangan fine-tuning meningkat minimal 29,03%
-
Efisiensi komputasi meningkat minimal 51,61% dibandingkan metode aktif lainnya
-
Mekanisme standarisasi data berbasis perturbasi acak untuk mencegah pencurian lisensi
4. Perlindungan pada API dan Inference
Deteksi dan Monitoring Query
Untuk model yang diakses melalui API (MLaaS), perlindungan dapat dilakukan dengan :
-
Rate limiting: Membatasi jumlah query dari satu pengguna
-
Audit query: Memantau pola query yang mencurigakan
-
Watermarking respons: Menandai output untuk melacak kebocoran
-
Deteksi model extraction: Menggunakan model deteksi untuk mengidentifikasi pola query yang konsisten dengan upaya ekstraksi
PVMTA (Prediction Vector Monitoring and Adaptive Temperature Adjustment) adalah strategi pertahanan yang mendeteksi niat pengguna melalui output asli model terhadap query mereka, lalu menyesuaikan output secara adaptif. Pendekatan ini efektif melawan serangan ekstraksi tanpa mengorbankan ketersediaan model dan dengan overhead komputasi yang rendah .
5. Perlindungan terhadap Serangan Saluran Samping (Side-Channel)
Penelitian telah membuktikan bahwa model AI dapat dicuri melalui analisis sinyal elektromagnetik. Untuk melindungi dari serangan ini :
-
Perhatikan desain perangkat keras: Chip harus dirancang dengan mempertimbangkan keamanan terhadap emisi elektromagnetik
-
Implementasi masking: Menambahkan noise atau variasi pada konsumsi daya dan emisi elektromagnetik
-
Pengacakan operasi: Mengacak urutan operasi pemrosesan agar tanda tangan elektromagnetik tidak konsisten
-
Pembatasan akses fisik: Memastikan perangkat tidak dapat diakses secara fisik oleh pihak yang tidak berwenang
6. Program Keamanan dan Tata Kelola
Kerangka Kerja dan Proses
-
Gunakan kerangka kerja seperti NIST AI RMF, OWASP GenAI, atau Google SAIF sebagai panduan
-
Lakukan red-team exercise secara teratur untuk menguji keamanan model
-
Pertahankan inventaris model yang berjalan di produksi beserta pola aksesnya
-
Terapkan security review wajib sebelum deployment produksi
-
Didik tim pengembang tentang risiko keamanan AI spesifik
Tingkat Keamanan Model AI
RAND Corporation mengusulkan lima tingkat keamanan (Security Levels/SL) untuk membantu organisasi mengkalibrasi upaya perlindungan mereka :
| Tingkat | Target Perlindungan | Estimasi Waktu Implementasi |
|---|---|---|
| SL 1 | Peretas amatir dan serangan massal acak | – |
| SL 2 | Peretas profesional oportunistik | – |
| SL 3 | Sindikat kejahatan siber dan insider threat | ~1 tahun |
| SL 4 | Operasi standar intelijen negara | 2-3 tahun |
| SL 5 | Operasi prioritas tertinggi negara adikuasa | ≥5 tahun (saat ini belum mungkin) |
Untuk mencapai SL 3, organisasi perlu memprioritaskan pengurangan risiko dari insider threat dan menerapkan defense-in-depth .
Kesimpulan
Mencegah pencurian model AI membutuhkan pendekatan komprehensif yang mencakup seluruh siklus hidup AI—dari pelatihan data hingga deployment dan monitoring. Tidak ada solusi tunggal; perlindungan efektif memerlukan kombinasi:
-
Kontrol akses yang ketat terhadap bobot model
-
Keamanan infrastruktur dengan pertahanan berlapis
-
Perlindungan khusus untuk model di perangkat tepi
-
Mekanisme lisensi untuk mencegah penggunaan tanpa izin
-
Monitoring API untuk mendeteksi upaya ekstraksi
-
Keamanan perangkat keras terhadap serangan saluran samping
-
Tata kelola dan edukasi tim keamanan
Seperti yang diungkapkan oleh para peneliti, “Model AI sangat berharga, kami tidak ingin orang-orang mencurinya” . Dengan meningkatnya ketersediaan alat serangan AI sumber terbuka, langkah-langkah pencegahan ini menjadi semakin mendesak untuk dilaksanakan .
