Pendahuluan
Mobil otonom atau mobil tanpa pengemudi mengandalkan AI untuk “melihat” dan memahami lingkungan sekitarnya, lalu mengambil keputusan seperti kapan harus berhenti, belok, atau mempercepat laju. Sayangnya, sistem AI ini juga bisa dimanipulasi dengan cara yang cukup mengkhawatirkan. Yuk kita bahas dengan bahasa yang mudah dipahami.
Bagaimana Mobil Otonom “Melihat” Jalan?
Mobil otonom biasanya memakai kombinasi kamera, sensor jarak (radar atau lidar), dan AI untuk memahami lingkungan sekitarnya. Semua data dari sensor ini diproses AI untuk mengenali objek di sekitar mobil — rambu lalu lintas, kendaraan lain, pejalan kaki, sampai marka jalan — lalu dipakai untuk memutuskan tindakan apa yang harus diambil selanjutnya.
Cara-cara Manipulasi
Rambu lalu lintas palsu atau dimodifikasi. Penelitian sudah menunjukkan bahwa menempelkan stiker kecil dengan pola tertentu pada rambu berhenti bisa membuat AI salah membacanya sebagai rambu batas kecepatan. Bayangkan kalau ini terjadi di persimpangan jalan yang ramai — risikonya bisa sangat berbahaya.
Marka jalan yang dimanipulasi. Beberapa penelitian juga menunjukkan bahwa menambahkan garis atau pola tertentu di jalan bisa membuat sistem AI salah mengenali arah jalur, yang berpotensi membuat mobil bergerak ke arah yang salah.
Objek adversarial di sekitar mobil. Sama seperti pembahasan adversarial patch sebelumnya, pola atau tempelan tertentu pada benda di sekitar mobil bisa membuat sistem AI gagal mengenali keberadaan pejalan kaki atau kendaraan lain, seolah-olah tidak ada apa pun di sana.
Manipulasi sensor. Selain manipulasi visual, ada juga teknik yang menargetkan sensor lain, seperti mengganggu sinyal radar atau lidar dengan alat tertentu, sehingga mobil salah mengukur jarak dengan objek di sekitarnya.
Risiko Keselamatan
Berbeda dengan kebanyakan ancaman AI lainnya yang berdampak pada data atau uang, manipulasi AI pada kendaraan otonom punya risiko yang jauh lebih serius: keselamatan nyawa manusia. Kesalahan kecil dalam mengenali rambu, marka jalan, atau objek di sekitar mobil bisa berujung pada kecelakaan yang fatal, baik bagi penumpang, pejalan kaki, maupun pengendara lain di jalan.
Cara Mencegahnya
Beberapa langkah yang bisa memperkuat keamanan sistem AI pada kendaraan otonom:
- Menggabungkan data dari berbagai jenis sensor sekaligus (kamera, radar, lidar), sehingga kalau satu sensor tertipu, sensor lain masih bisa memberi informasi yang benar sebagai pembanding.
- Melatih model dengan berbagai skenario manipulasi yang mungkin terjadi di dunia nyata, termasuk rambu yang dimodifikasi atau objek adversarial di sekitar jalan.
- Melakukan pengujian keamanan secara ekstensif sebelum kendaraan otonom benar-benar dipakai di jalan raya, termasuk simulasi berbagai skenario serangan.
- Menerapkan sistem pemantauan yang bisa mendeteksi kondisi tidak wajar secara real-time, sehingga mobil bisa mengambil tindakan aman seperti memperlambat laju kalau ada keraguan dalam membaca lingkungan sekitar.
Kesimpulan
Manipulasi AI pada kendaraan otonom adalah ancaman yang perlu ditangani dengan sangat serius, karena menyangkut keselamatan nyawa manusia secara langsung. Dengan menggabungkan berbagai sumber sensor dan melakukan pengujian yang ketat, risiko manipulasi ini bisa dikurangi, meski tantangan untuk membuat kendaraan otonom benar-benar aman dari segala jenis manipulasi masih terus berkembang seiring waktu.
