Pendahuluan
Ketika mendengar istilah “AI Attack”, banyak orang langsung membayangkan satu hal saja: AI yang dipakai penjahat untuk menipu atau menyerang. Padahal, sebenarnya AI Attack punya dua arah yang berbeda. Memahami perbedaan ini penting, karena cara mencegah dan menghadapinya juga berbeda.
Sisi Pertama: AI Sebagai Korban
Sisi pertama adalah ketika sistem AI itu sendiri menjadi target serangan. Di sini, penyerang berusaha menipu, merusak, atau mengeksploitasi kelemahan dalam sistem AI.
Beberapa contohnya:
- Menipu chatbot agar keluar dari batasan yang seharusnya (jailbreak).
- Menyisipkan data palsu ke dalam proses training agar model AI “belajar” hal yang salah (data poisoning).
- Mengubah sedikit gambar agar sistem AI salah mengenali objek, meski secara kasat mata gambar itu terlihat normal (adversarial attack).
Pada sisi ini, AI diperlakukan seperti sistem komputer lain yang punya kerentanan — hanya saja bentuk kerentanannya unik karena melibatkan cara AI “berpikir” dan “belajar”.
Sisi Kedua: AI Sebagai Senjata
Sisi kedua adalah kebalikannya: AI digunakan sebagai alat untuk menyerang pihak lain. Di sini, AI bukan korban, melainkan alat bantu penyerang.
Contohnya:
- Membuat email atau pesan phishing yang terdengar sangat meyakinkan dan personal.
- Membuat suara atau video palsu (deepfake) untuk menipu korban.
- Membuat malware yang bisa menyesuaikan diri secara otomatis agar lolos dari deteksi antivirus.
Pada sisi ini, kecanggihan AI justru dimanfaatkan untuk mempercepat dan memperhalus serangan yang sudah ada sebelumnya, sehingga jauh lebih sulit dikenali korban.
Mengapa Penting Membedakan Keduanya?
Kalau kita tidak membedakan dua sisi ini, upaya perlindungan bisa salah sasaran. Melindungi sistem AI dari serangan (sisi pertama) membutuhkan langkah teknis seperti menguji ketahanan model dan menyaring data training. Sementara melindungi diri dari AI yang disalahgunakan sebagai senjata (sisi kedua) lebih membutuhkan edukasi, kewaspadaan pribadi, dan verifikasi ekstra terhadap informasi yang diterima.
Perusahaan yang membangun produk berbasis AI perlu memperhatikan sisi pertama secara serius. Sementara individu dan organisasi pada umumnya perlu lebih waspada terhadap sisi kedua, karena bisa menimpa siapa saja, kapan saja.
Kesimpulan
AI Attack bukan konsep satu arah. Ada sisi di mana AI menjadi korban yang harus dilindungi, dan ada sisi di mana AI menjadi alat yang disalahgunakan untuk menyerang orang lain. Dengan memahami kedua sisi ini, kita bisa lebih tepat menentukan langkah perlindungan — baik sebagai pengembang sistem AI, maupun sebagai pengguna teknologi sehari-hari.
