Pendahuluan
Sistem deteksi objek adalah salah satu teknologi AI yang paling banyak dipakai dalam computer vision (AI yang bisa “melihat” gambar). Teknologi ini dipakai untuk mengenali dan menandai objek dalam gambar atau video, mulai dari kamera keamanan, sistem pengawasan toko, sampai aplikasi pengenalan produk. Sayangnya, sistem ini juga rentan diserang. Yuk kita bahas lebih dalam.
Apa Itu Deteksi Objek dan Di Mana Dipakai?
Deteksi objek adalah kemampuan AI untuk mengenali dan menandai keberadaan objek tertentu dalam sebuah gambar atau video — misalnya menandai di mana posisi mobil, orang, atau hewan dalam sebuah foto. Teknologi ini dipakai di banyak tempat: kamera CCTV yang mendeteksi orang mencurigakan, aplikasi belanja yang mengenali produk lewat kamera HP, sampai sistem keamanan bandara yang mendeteksi barang tertentu.
Cara Penyerang Menipu Sistem Deteksi Objek
Menyembunyikan objek dari deteksi. Penyerang bisa memakai pola atau aksesori tertentu (seperti pembahasan adversarial patch sebelumnya) untuk membuat sistem gagal mendeteksi keberadaan mereka sama sekali. Misalnya, seseorang memakai baju dengan pola khusus supaya kamera keamanan tidak mendeteksinya sebagai manusia.
Membuat sistem salah mengenali objek. Selain menyembunyikan diri, penyerang juga bisa membuat sistem salah mengenali satu objek sebagai objek lain. Misalnya, membuat sistem keamanan bandara salah mengenali benda tertentu sebagai barang yang tidak berbahaya, padahal sebenarnya berbahaya.
Membanjiri sistem dengan objek palsu. Penyerang bisa menciptakan banyak “objek palsu” dalam gambar yang membuat sistem kewalahan mendeteksi terlalu banyak hal sekaligus, sehingga objek yang benar-benar penting justru terlewat karena tenggelam di antara banyak deteksi palsu.
Contoh Kasus
Dalam sebuah penelitian, para peneliti berhasil menunjukkan bahwa dengan menempelkan pola tertentu pada kaos, sistem deteksi objek berbasis AI bisa gagal mengenali keberadaan orang yang memakainya, seolah-olah orang tersebut “tidak terlihat” oleh kamera. Contoh lain, ada penelitian yang menunjukkan sistem deteksi objek pada kamera pengawas toko bisa ditipu untuk mengabaikan keberadaan barang tertentu, dengan menambahkan pola visual kecil di sekitar barang tersebut.
Cara Mencegahnya
Beberapa langkah yang bisa memperkuat keamanan sistem deteksi objek:
- Melatih model dengan berbagai contoh serangan adversarial, supaya sistem tetap akurat meski dihadapkan pada pola-pola yang dirancang khusus untuk menipu.
- Menggabungkan beberapa metode deteksi sekaligus, sehingga kalau satu metode tertipu, metode lain masih bisa memberi hasil yang benar.
- Menambahkan pemeriksaan tambahan oleh manusia untuk kasus-kasus penting yang berisiko tinggi, seperti sistem keamanan di tempat publik.
- Melakukan pengujian ketahanan sistem secara berkala dengan mencoba berbagai teknik serangan terbaru yang ditemukan peneliti keamanan.
Kesimpulan
Sistem deteksi objek berbasis AI menghadapi berbagai kemungkinan serangan, mulai dari menyembunyikan objek, membuat sistem salah mengenali, sampai membanjiri sistem dengan objek palsu. Karena teknologi ini banyak dipakai untuk keperluan penting seperti keamanan dan pengawasan, memperkuat ketahanannya terhadap manipulasi menjadi langkah yang tidak boleh diabaikan oleh siapa pun yang mengembangkan atau memakainya.
