Semua sistem pasti punya kelemahan, termasuk sistem AI. Tapi cara penyerang memanfaatkan kelemahan itu agak berbeda dibanding sistem komputer biasa, karena menyangkut cara AI “berpikir”. Yuk kita bahas beberapa cara umum yang biasa dipakai penyerang, dengan bahasa yang gampang dimengerti.
1. Menipu Lewat Input yang Dikirim
Cara paling umum adalah dengan mengelabui AI lewat input (masukan) yang diberikan.
Kalau AI-nya berbentuk chatbot, penyerang bisa menyelipkan instruksi tersembunyi di dalam pertanyaan atau dokumen yang dibaca AI. Akibatnya, AI malah “menurut” pada instruksi tersembunyi itu, bukan aturan asli yang seharusnya dipatuhi. Cara ini disebut prompt injection.
Kalau AI-nya berbentuk pengenal gambar, penyerang bisa menambahkan gangguan kecil pada gambar — begitu kecil sampai mata manusia tidak menyadarinya — tapi cukup untuk membuat AI salah mengenali objek dalam gambar tersebut. Cara ini disebut adversarial example.
Yang bikin cara ini berbahaya, penyerang tidak perlu masuk ke dalam sistem sama sekali. Cukup kirim input yang “dirancang khusus”, dan AI sudah bisa terpengaruh.
2. Mencari Celah di Pintu Masuk (API) dan Server
Selain menipu lewat input, penyerang juga bisa mencari celah teknis di API (jalur komunikasi) atau server tempat AI berjalan.
Contohnya, kalau API tidak membatasi berapa kali orang boleh bertanya, penyerang bisa mengirim ribuan pertanyaan untuk “menebak” cara kerja AI, atau membanjiri sistem sampai tidak bisa dipakai orang lain. Kesalahan pengaturan server, kurangnya verifikasi identitas pengguna, atau celah pada jalur pengiriman data juga sering jadi pintu masuk yang dimanfaatkan.
3. Menyusup Lewat Pihak Ketiga
Membuat sistem AI biasanya melibatkan banyak pihak lain: penyedia data, kode program open source (gratis dan bisa dipakai siapa saja), sampai plugin tambahan. Penyerang bisa menargetkan salah satu dari pihak-pihak ini.
Misalnya, menyusupkan kode jahat ke dalam kode program open source yang dipakai banyak pengembang, atau meracuni kumpulan data publik yang sering dipakai untuk melatih AI. Karena orang biasanya percaya begitu saja dengan pihak ketiga ini, celah semacam ini sering baru ketahuan setelah masalah benar-benar terjadi.
4. Menipu Manusia dengan Bantuan AI
Selain menyerang sistem secara teknis, penyerang juga bisa memakai AI untuk menipu manusia secara langsung. Contohnya, membuat email penipuan yang terasa sangat personal, atau memakai suara palsu (deepfake voice) untuk menipu korban agar mau memberikan akses penting atau mentransfer uang.
Di sini, yang “lemah” bukan sistemnya, tapi kepercayaan manusia terhadap konten yang terlihat sangat meyakinkan.
Satu Pola yang Sama
Meski caranya macam-macam, sebenarnya ada satu pola yang sama di baliknya: penyerang selalu mencari titik yang paling longgar pengawasannya. Bisa input yang tidak disaring, API yang tidak dibatasi, pihak ketiga yang terlalu dipercaya begitu saja, atau manusia yang mudah percaya. Makin longgar pengawasan di satu titik, makin besar peluang titik itu dimanfaatkan.
Kesimpulan
Penyerang bisa mengeksploitasi kelemahan sistem AI lewat banyak cara: menipu lewat input, mencari celah teknis di API dan server, menyusup lewat pihak ketiga, sampai menipu manusia langsung dengan bantuan AI. Dengan mengenali berbagai cara ini, kita jadi lebih paham kenapa menjaga keamanan AI itu perlu dilakukan dari banyak sisi sekaligus, bukan cuma satu sisi saja.
