Model AI biasanya membuat keputusan atau prediksi berdasarkan “ciri-ciri” tertentu dari data yang diberikan padanya. Ciri-ciri ini disebut fitur (*feature*). Nah, ternyata fitur ini bisa dimanipulasi supaya model membuat prediksi yang salah. Teknik ini disebut feature manipulation. Yuk kita bahas dengan bahasa sederhana.
Apa Itu Fitur dalam Model AI?
Coba bayangkan Anda mau menilai apakah sebuah buah itu apel atau jeruk. Anda mungkin melihat dari warnanya, bentuknya, teksturnya, dan ukurannya. Nah, hal-hal seperti warna, bentuk, tekstur, dan ukuran itulah yang disebut fitur — ciri-ciri yang dipakai untuk membuat keputusan.
Model AI bekerja dengan cara serupa. Untuk memprediksi sesuatu, misalnya apakah sebuah transaksi itu penipuan atau bukan, model akan melihat berbagai fitur seperti jumlah uang, lokasi transaksi, waktu transaksi, dan kebiasaan belanja sebelumnya.
Bagaimana Fitur Bisa Dimanipulasi?
Feature manipulation terjadi ketika seseorang sengaja mengubah nilai-nilai fitur ini supaya model membuat kesimpulan yang salah, tanpa harus mengubah “kebenaran” yang sesungguhnya.
Misalnya, dalam kasus deteksi penipuan transaksi, penipu bisa dengan sengaja memecah transaksi besar menjadi beberapa transaksi kecil, supaya nilainya tidak lagi terlihat mencurigakan di mata model. Padahal, tujuan sebenarnya tetap sama: melakukan transaksi besar yang berpotensi mencurigakan, cuma “dibungkus” dengan cara berbeda supaya lolos dari deteksi.
Contoh Kasus
Bayangkan sebuah bank memakai AI untuk mendeteksi transaksi mencurigakan berdasarkan jumlah dan frekuensi transaksi. Kalau AI dilatih untuk curiga terhadap transaksi di atas 50 juta rupiah dalam sehari, pelaku kejahatan bisa memecah transaksinya menjadi beberapa kali transfer di bawah angka tersebut, supaya tidak terdeteksi sebagai transaksi mencurigakan, meski total uang yang dipindahkan tetap sama besarnya.
Contoh lain, dalam sistem penyaringan lamaran kerja berbasis AI, seseorang bisa menyesuaikan kata-kata di CV-nya supaya cocok dengan kriteria yang dicari sistem, meski sebenarnya pengalaman kerjanya tidak relevan dengan posisi yang dilamar.
Cara Mencegahnya
Beberapa langkah yang bisa dilakukan untuk mengurangi risiko feature manipulation:
Melihat pola secara lebih menyeluruh, bukan cuma satu fitur saja. Misalnya, mempertimbangkan gabungan dari jumlah transaksi, frekuensi, dan pola waktu, bukan cuma nilai transaksi tunggal.
Rutin memperbarui model dengan data terbaru, supaya model bisa mengenali pola manipulasi baru yang mulai muncul.
Menggabungkan penilaian AI dengan pemeriksaan manusia untuk kasus-kasus yang berada di batas antara “normal” dan “mencurigakan”.
Melakukan pengujian dengan mencoba berbagai skenario manipulasi fitur, untuk menemukan celah sebelum dimanfaatkan pihak yang tidak bertanggung jawab.
Kesimpulan
Feature manipulation adalah upaya mengubah ciri-ciri data yang dilihat model AI, supaya model membuat kesimpulan yang salah meski kenyataannya berbeda. Karena teknik ini sering dipakai untuk mengelabui sistem deteksi penipuan atau penyaringan otomatis, penting bagi pengembang untuk merancang model yang melihat pola secara menyeluruh, bukan cuma mengandalkan satu fitur tunggal yang mudah dimanipulasi.
