Artificial Intelligence (AI) semakin banyak digunakan dalam berbagai bidang, mulai dari layanan pelanggan, kesehatan, keuangan, pendidikan, manufaktur, hingga pemerintahan. Kemampuan AI dalam menganalisis data, mengenali pola, dan membantu pengambilan keputusan membuat teknologi ini menjadi bagian penting dalam transformasi digital.
Namun, semakin besar peran AI dalam sebuah sistem, semakin besar pula tanggung jawab untuk menjaga keamanannya. Berbeda dengan aplikasi konvensional, sistem AI tidak hanya bergantung pada kode program, tetapi juga pada kualitas data, model yang digunakan, proses pelatihan (training), serta layanan yang menjalankan model tersebut. Jika salah satu komponen mengalami gangguan atau dimanipulasi, hasil yang diberikan AI dapat menjadi tidak akurat atau bahkan dimanfaatkan untuk tujuan yang merugikan.
Karena itu, keamanan AI tidak cukup hanya berfokus pada perlindungan server atau aplikasi. Organisasi juga perlu memahami risiko yang berkaitan dengan data, model, dan proses pengembangannya. Salah satu pendekatan yang dapat digunakan adalah threat modelling, yaitu proses mengidentifikasi potensi ancaman sejak tahap perancangan agar risiko dapat dikurangi sebelum sistem digunakan.
1. Memahami Komponen Sistem AI
Sistem AI terdiri atas beberapa komponen yang saling berhubungan. Selain aplikasi yang digunakan pengguna, terdapat proses pengumpulan data, penyimpanan data, pelatihan model, penyimpanan model, layanan inferensi (inference service), API, hingga proses pemantauan setelah model digunakan.
Seluruh komponen tersebut membentuk satu ekosistem yang harus diamankan secara menyeluruh. Gangguan pada satu bagian dapat memengaruhi kualitas hasil yang diberikan oleh sistem AI.
2. Mengapa Threat Modelling Penting untuk AI?
Banyak organisasi mulai mengintegrasikan AI ke dalam proses bisnis tanpa melakukan analisis keamanan secara menyeluruh.
Padahal, ancaman terhadap sistem AI tidak hanya berupa akses tanpa izin, tetapi juga dapat berupa manipulasi data pelatihan, perubahan model, penyalahgunaan API, maupun penggunaan model di luar tujuan yang telah ditetapkan.
Threat modelling membantu tim memahami bagaimana setiap komponen AI saling berinteraksi sehingga risiko dapat dikenali lebih awal.
3. Ancaman yang Sering Ditemukan pada Sistem AI
Beberapa ancaman berikut sering muncul saat melakukan threat modelling pada sistem AI.
Manipulasi Data Pelatihan
Model AI sangat bergantung pada kualitas data pelatihan. Jika data tersebut dimodifikasi atau disisipi informasi yang salah, hasil pembelajaran model dapat berubah dan menghasilkan prediksi yang tidak akurat.
Akses Tanpa Izin ke Model
Model AI merupakan aset yang memiliki nilai tinggi. Jika dapat diakses oleh pihak yang tidak berwenang, model berpotensi disalin, dimodifikasi, atau digunakan tanpa izin.
Penyalahgunaan API AI
Banyak layanan AI disediakan melalui API. Jika mekanisme autentikasi dan pembatasan akses tidak diterapkan dengan baik, API dapat dimanfaatkan secara berlebihan atau untuk tujuan yang tidak semestinya.
Kebocoran Data Sensitif
Sistem AI sering memproses data pengguna maupun data organisasi. Perlindungan terhadap data tersebut perlu menjadi prioritas agar tidak terjadi kebocoran informasi.
Manipulasi Hasil Inferensi
Penyerang dapat mencoba memberikan masukan (input) yang dirancang secara khusus agar model menghasilkan keputusan yang keliru atau tidak sesuai dengan kondisi sebenarnya.
Gangguan terhadap Ketersediaan Layanan
Apabila layanan AI tidak dapat diakses, berbagai proses bisnis yang bergantung pada sistem tersebut dapat ikut terganggu.
4. Langkah-Langkah Threat Modelling
Threat modelling pada sistem AI dapat dilakukan melalui beberapa tahapan berikut.
Petakan Seluruh Arsitektur AI
Identifikasi seluruh komponen yang terlibat, mulai dari sumber data, proses pelatihan, penyimpanan model, layanan inferensi, API, hingga pengguna.
Analisis Alur Data
Pahami bagaimana data dikumpulkan, diproses, digunakan untuk melatih model, serta dimanfaatkan saat sistem memberikan prediksi.
Tentukan Aset yang Perlu Dilindungi
Data pelatihan, model AI, parameter model, API, serta hasil prediksi merupakan aset penting yang perlu mendapatkan perlindungan.
Evaluasi Potensi Ancaman
Analisis kemungkinan terjadinya manipulasi data, akses tanpa izin, penyalahgunaan API, kebocoran data, maupun gangguan layanan.
Susun Strategi Mitigasi
Tentukan langkah pengamanan berdasarkan hasil analisis agar risiko dapat dikurangi sejak tahap pengembangan.
5. Praktik Keamanan yang Mendukung Sistem AI
Threat modelling akan memberikan manfaat yang lebih besar jika diikuti dengan praktik keamanan yang diterapkan secara konsisten.
Beberapa langkah yang dapat dilakukan antara lain:
- membatasi akses terhadap data pelatihan dan model AI;
- memverifikasi kualitas data sebelum digunakan dalam proses pelatihan;
- mengenkripsi data dan model saat disimpan maupun dikirim;
- mengamankan API menggunakan autentikasi dan otorisasi yang sesuai;
- memantau penggunaan model untuk mendeteksi aktivitas yang tidak biasa;
- melakukan evaluasi ulang terhadap model setelah pembaruan data atau algoritma;
- memperbarui komponen perangkat lunak secara berkala untuk mengurangi risiko kerentanan.
Langkah-langkah tersebut membantu menjaga keamanan tanpa menghambat proses pengembangan maupun penggunaan AI.
6. Contoh Penerapan
Sebuah perusahaan mengembangkan sistem AI untuk membantu proses persetujuan pengajuan pinjaman. Model AI dilatih menggunakan data historis dan diakses melalui API oleh aplikasi internal.
Saat melakukan threat modelling, tim menemukan bahwa proses validasi data pelatihan belum memiliki mekanisme pemeriksaan yang memadai. Selain itu, akses terhadap model AI masih dapat dilakukan oleh beberapa layanan yang sebenarnya tidak membutuhkannya.
Berdasarkan hasil analisis, perusahaan menerapkan proses validasi data sebelum pelatihan, membatasi akses terhadap model menggunakan hak akses berbasis peran, memperkuat autentikasi API, serta menambahkan pemantauan terhadap perubahan model dan aktivitas layanan.
Setelah perubahan tersebut diterapkan, risiko terhadap manipulasi data dan penyalahgunaan model dapat dikurangi tanpa menghambat proses pengembangan AI.
7. Threat Modelling Perlu Mengikuti Siklus Hidup AI
Sistem AI terus berkembang melalui pembaruan data, pelatihan ulang model, perubahan algoritma, maupun penambahan fitur baru.
Setiap perubahan tersebut dapat memunculkan risiko yang berbeda dari sebelumnya. Oleh karena itu, threat modelling sebaiknya menjadi bagian dari seluruh siklus hidup AI, mulai dari pengumpulan data hingga pemeliharaan model setelah digunakan.
Dengan evaluasi yang dilakukan secara berkala, organisasi dapat memastikan bahwa sistem AI tetap aman sekaligus mampu memberikan hasil yang dapat dipercaya.
KESIMPULAN
Artificial Intelligence memberikan banyak manfaat dalam membantu proses bisnis dan pengambilan keputusan. Namun, manfaat tersebut hanya dapat dirasakan secara optimal apabila sistem dibangun dengan memperhatikan aspek keamanan sejak awal.
Melalui threat modelling, organisasi dapat memahami bagaimana data, model, dan layanan AI saling berinteraksi, mengenali titik-titik yang berpotensi menjadi sasaran ancaman, serta menentukan langkah mitigasi sebelum sistem digunakan. Dengan menjadikan threat modelling sebagai bagian dari siklus pengembangan AI, organisasi dapat membangun solusi yang lebih aman, andal, dan siap menghadapi tantangan keamanan siber di masa depan.
