Pendahuluan
Membangun sistem AI bukan proses sekali jadi. Ada beberapa tahap yang harus dilalui, mulai dari mengumpulkan data hingga akhirnya digunakan oleh pengguna sehari-hari. Sayangnya, di setiap tahap ini tersembunyi potensi ancaman keamanan yang berbeda-beda. Artikel ini membahas ancaman yang mengintai di sepanjang siklus hidup pengembangan AI.
Tahap Pengumpulan Data
Semua sistem AI membutuhkan data untuk belajar. Pada tahap ini, ancaman utama adalah data poisoning, yaitu ketika data yang dikumpulkan disusupi informasi palsu atau menyesatkan. Selain itu, ada juga risiko data pribadi yang dikumpulkan tanpa izin yang jelas, yang bisa menimbulkan masalah privasi di kemudian hari.
Tahap Pelatihan Model
Setelah data terkumpul, model mulai dilatih menggunakan data tersebut. Pada tahap ini, ancaman yang perlu diwaspadai antara lain backdoor attack, di mana penyerang menyisipkan perilaku tersembunyi ke dalam model, dan membership inference, yaitu upaya mengetahui apakah data tertentu pernah digunakan dalam proses pelatihan, yang bisa membocorkan informasi sensitif.
Tahap Deployment (Implementasi)
Setelah model selesai dilatih, model tersebut diterapkan ke dalam aplikasi atau layanan nyata. Di tahap ini, ancaman yang muncul lebih mirip dengan keamanan aplikasi pada umumnya, seperti celah pada API, konfigurasi server yang tidak aman, atau akses yang tidak dibatasi dengan baik.
Tahap Penggunaan Sehari-hari (Inference)
Ketika model sudah digunakan oleh pengguna, ancaman baru muncul dari sisi interaksi langsung. Contohnya, prompt injection, di mana pengguna atau dokumen yang dibaca AI menyisipkan instruksi tersembunyi untuk menipu sistem, atau adversarial input, di mana input tertentu dirancang khusus untuk membuat model salah dalam memberikan hasil.
Kesimpulan
Ancaman keamanan pada sistem AI tidak hanya muncul pada satu titik saja, melainkan tersebar di sepanjang siklus hidup pengembangannya — mulai dari pengumpulan data, pelatihan, implementasi, hingga penggunaan sehari-hari. Karena itu, strategi keamanan AI yang baik perlu mencakup seluruh tahapan ini, bukan hanya berfokus pada satu bagian saja.
