buletinsiber.com – Perkembangan teknologi Artificial Intelligence (AI) dan Machine Learning saat ini sangat pesat. Banyak perusahaan menggunakan AI untuk berbagai kebutuhan, seperti analisis data, rekomendasi produk, hingga sistem keamanan. Model AI bahkan menjadi aset penting karena membutuhkan waktu, data, dan biaya besar untuk dibuat.
Namun, di balik manfaat tersebut, ada ancaman yang sering tidak disadari, yaitu Model Hijacking. Serangan ini memungkinkan pihak lain “mencuri” kemampuan model AI tanpa harus benar-benar mengambil file model aslinya.
Model Hijacking adalah teknik di mana penyerang mencoba meniru atau menduplikasi fungsi sebuah model AI dengan cara berinteraksi secara berulang dengan sistem tersebut. Berbeda dengan pencurian data biasa, yang diambil di sini bukan data mentah, tetapi “cara berpikir” model itu sendiri.
Model AI menjadi target yang menarik karena nilainya sangat tinggi. Sebuah model yang sudah dilatih dengan data berkualitas bisa memberikan keunggulan kompetitif bagi perusahaan. Jika model ini berhasil ditiru, maka pihak lain bisa mendapatkan manfaat yang sama tanpa harus mengeluarkan biaya besar.
Serangan ini biasanya terjadi melalui API atau layanan yang terbuka untuk publik. Banyak sistem AI menyediakan endpoint yang bisa diakses pengguna untuk mendapatkan prediksi atau hasil tertentu. Penyerang memanfaatkan hal ini dengan mengirimkan banyak permintaan (query) ke sistem dan mencatat setiap hasil yang diberikan.
Dari kumpulan input dan output tersebut, penyerang kemudian melatih model baru yang meniru perilaku model asli. Teknik ini sering disebut sebagai model extraction. Meskipun penyerang tidak memiliki akses langsung ke struktur internal model, mereka tetap bisa membuat versi tiruan yang cukup akurat.
Dalam praktiknya, penyerang bisa menggunakan berbagai metode seperti pengumpulan data secara otomatis dengan bot, analisis pola output, hingga pelatihan model pengganti (surrogate model). Semua ini dilakukan secara bertahap hingga model tiruan memiliki performa yang mendekati aslinya.
Beberapa kasus menunjukkan bahwa layanan AI berbasis cloud sangat rentan terhadap serangan ini jika tidak dilindungi dengan baik. API yang tidak memiliki pembatasan akses atau pengawasan yang ketat dapat dimanfaatkan untuk menyalin model secara perlahan tanpa terdeteksi.
Dampak dari Model Hijacking cukup serius. Perusahaan bisa mengalami kerugian finansial karena model yang mahal untuk dikembangkan dapat dengan mudah ditiru. Selain itu, keunggulan kompetitif juga bisa hilang karena pesaing mendapatkan teknologi yang sama.
Risiko lainnya adalah penyalahgunaan model oleh pihak yang tidak bertanggung jawab. Model AI yang awalnya digunakan untuk tujuan positif bisa dimanfaatkan untuk hal negatif jika jatuh ke tangan yang salah. Dalam beberapa kasus, hal ini juga bisa menimbulkan masalah hukum.
Jika dibandingkan dengan serangan lain seperti Model Inversion, terdapat perbedaan tujuan. Model inversion berfokus pada pengambilan kembali data asli dari model, sedangkan model hijacking bertujuan untuk menyalin fungsi model itu sendiri. Keduanya sama-sama berbahaya, tetapi menyerang dari sisi yang berbeda.
Untuk mengurangi risiko ini, ada beberapa langkah yang bisa dilakukan. Salah satunya adalah membatasi jumlah permintaan ke API dengan teknik rate limiting. Dengan cara ini, penyerang tidak bisa dengan mudah mengumpulkan data dalam jumlah besar.
Selain itu, sistem juga perlu memantau aktivitas yang mencurigakan, seperti pola permintaan yang tidak wajar. Penggunaan autentikasi yang kuat juga penting agar hanya pengguna tertentu yang bisa mengakses layanan AI.
Teknik lain yang bisa digunakan adalah watermarking model, yaitu memberikan tanda khusus pada output sehingga jika model tersebut ditiru, jejaknya masih bisa dikenali. Pengamanan endpoint dan enkripsi juga menjadi bagian penting dalam melindungi sistem.
Namun, mengamankan model AI bukanlah hal yang mudah. Ada tantangan dalam menjaga keseimbangan antara kemudahan akses dan keamanan. Jika terlalu dibatasi, pengguna sah bisa terganggu. Jika terlalu terbuka, risiko serangan meningkat.
Ke depan, keamanan AI akan menjadi aspek yang sangat penting. Konsep security by design perlu diterapkan sejak awal pengembangan sistem. Artinya, keamanan tidak hanya ditambahkan di akhir, tetapi sudah menjadi bagian dari desain utama.
Selain itu, diperlukan juga regulasi dan standar yang mengatur penggunaan dan perlindungan AI. Dengan adanya kerja sama antara peneliti, perusahaan, dan pemerintah, risiko seperti Model Hijacking dapat diminimalkan.
Pada akhirnya, kesadaran adalah kunci utama. Semakin banyak pihak yang memahami ancaman ini, semakin besar peluang untuk mencegahnya. AI memang memberikan banyak manfaat, tetapi tanpa keamanan yang baik, teknologi ini juga bisa menjadi celah yang berbahaya.
