Asisten suara seperti yang ada di HP atau speaker pintar bekerja dengan mendengarkan dan memahami perintah suara kita. Tapi ternyata, sistem pengenalan suara ini juga bisa ditipu dengan cara yang cukup unik, yang disebut audio adversarial attack. Yuk kita bahas dengan bahasa sederhana.
Bagaimana Sistem Pengenalan Suara Bekerja?
Sistem pengenalan suara bekerja dengan “mendengar” gelombang suara, lalu menerjemahkannya menjadi kata-kata atau perintah yang bisa dipahami dan dijalankan. Prosesnya mirip seperti telinga manusia yang mendengar suara, lalu otak yang mengartikannya jadi kata-kata bermakna.
Bagaimana Audio Adversarial Attack Bekerja?
Audio adversarial attack adalah teknik menyisipkan suara atau gangguan tertentu ke dalam audio, yang dirancang khusus untuk menipu sistem pengenalan suara — tapi telinga manusia tidak menyadarinya sebagai sesuatu yang aneh, atau bahkan sama sekali tidak mendengar gangguan tersebut.
Bayangkan sebuah lagu yang terdengar biasa saja bagi telinga manusia, tapi ternyata di dalamnya disisipkan suara tersembunyi yang hanya bisa “didengar” dan dipahami oleh sistem AI sebagai perintah, misalnya perintah untuk membuka kunci pintu pintar atau mengunjungi situs tertentu. Manusia yang mendengarkan lagu tersebut sama sekali tidak menyadari ada perintah tersembunyi di baliknya.
Contoh Kasus
Beberapa penelitian sudah menunjukkan bahwa suara yang terdengar seperti kebisingan acak atau bahkan lagu biasa, bisa disisipkan perintah tersembunyi yang dikenali sistem asisten suara sebagai instruksi, misalnya “buka website ini” atau “kirim pesan ke nomor tertentu”. Ini menunjukkan bahwa perangkat dengan asisten suara aktif berpotensi disusupi tanpa pemiliknya sadar sama sekali, cukup dengan memutar audio yang sudah disisipi perintah tersembunyi di sekitar perangkat tersebut.
Cara Mencegahnya
Beberapa langkah yang bisa memperkuat keamanan sistem pengenalan suara:
Menambahkan verifikasi tambahan sebelum menjalankan perintah penting, misalnya meminta konfirmasi suara atau kata sandi untuk tindakan sensitif seperti membuka kunci pintu atau melakukan transaksi.
Melatih sistem untuk mengenali pola audio yang mencurigakan, seperti frekuensi suara yang tidak wajar untuk ucapan manusia normal.
Membatasi jenis perintah yang bisa dijalankan otomatis tanpa konfirmasi tambahan, terutama untuk tindakan yang berdampak besar.
Rutin menguji sistem dengan berbagai teknik audio adversarial terbaru untuk menemukan celah sebelum dimanfaatkan pihak jahat.
Kesimpulan
Audio adversarial attack adalah ancaman yang mengintai sistem pengenalan suara, dengan cara menyisipkan perintah tersembunyi dalam audio yang terdengar biasa bagi telinga manusia. Karena asisten suara makin banyak dipakai untuk mengontrol perangkat penting di rumah maupun kantor, memperkuat keamanannya dengan verifikasi tambahan menjadi langkah yang penting untuk mencegah penyalahgunaan.
