Istilah “jailbreak” mungkin sudah familiar buat yang pernah dengar soal modifikasi HP supaya bisa install aplikasi di luar aturan resmi. Ternyata, istilah serupa juga dipakai di dunia AI. Jailbreaking pada Large Language Model (LLM) — sebutan untuk AI seperti chatbot yang bisa memahami dan membuat teks — adalah upaya “membebaskan” AI dari batasan yang sudah dipasang pembuatnya. Yuk kita bahas lebih dalam.
Apa Itu Jailbreaking?
Bayangkan sebuah rumah dengan aturan ketat dari pemiliknya: “jangan pernah buka pintu untuk orang asing”. Jailbreaking itu ibarat mencari cara licik supaya penghuni rumah mau membuka pintu itu, meski aturannya jelas-jelas melarang.
Pada AI, jailbreaking adalah teknik menulis kalimat atau instruksi tertentu supaya AI mau melanggar aturan yang seharusnya dipatuhi — misalnya aturan untuk tidak memberi informasi berbahaya, tidak menghasilkan konten yang melanggar etika, atau tidak membocorkan hal-hal tertentu.
Teknik-teknik Umum
Ada beberapa teknik yang sering dipakai untuk jailbreak AI:
Berpura-pura jadi karakter lain: Penyerang meminta AI “berperan” sebagai karakter fiksi yang tidak punya batasan, dengan harapan AI ikut melupakan aturannya sendiri saat berperan sebagai karakter tersebut.
Membingkai sebagai skenario hipotetis: Penyerang membingkai pertanyaan seolah cuma “andai-andai” atau “untuk keperluan cerita fiksi”, padahal tujuannya tetap mendapatkan informasi yang seharusnya dibatasi.
Memberi instruksi bertingkat: Penyerang memecah permintaan jadi beberapa langkah kecil yang masing-masing terlihat tidak berbahaya, tapi kalau digabung menghasilkan sesuatu yang seharusnya dilarang.
Mengubah format atau bahasa: Penyerang menulis permintaan dengan kode, bahasa asing, atau format tertentu supaya sistem pengaman AI tidak mengenali pola berbahaya yang biasa dideteksinya.
Risiko yang Ditimbulkan
Kalau jailbreak berhasil, AI bisa saja memberikan informasi yang seharusnya dibatasi, menghasilkan konten yang melanggar aturan, atau melakukan tindakan yang tidak semestinya. Risiko ini semakin serius kalau AI tersebut terhubung dengan sistem lain, misalnya AI yang bisa mengakses data pengguna atau menjalankan transaksi — karena jailbreak yang berhasil bisa berujung pada tindakan nyata yang merugikan, bukan cuma sekadar teks yang salah.
Selain itu, kalau teknik jailbreak tertentu viral dan dipakai banyak orang, dampaknya bisa meluas dengan cepat, karena orang lain tinggal meniru cara yang sama tanpa perlu keahlian teknis khusus.
Cara Mencegahnya
Beberapa langkah yang bisa dilakukan pengembang untuk mencegah jailbreak:
Melatih AI dengan berbagai contoh percobaan jailbreak, supaya AI lebih “kebal” mengenali dan menolak pola serupa.
Menambahkan lapisan pemeriksaan tambahan di luar model utama, yang khusus memeriksa apakah jawaban AI melanggar aturan sebelum benar-benar ditampilkan ke pengguna.
Membatasi kemampuan AI untuk “berperan” sebagai karakter lain tanpa batasan yang jelas.
Rutin melakukan pengujian keamanan (red teaming) dengan mencoba berbagai teknik jailbreak terbaru, supaya celah bisa ditemukan dan ditambal lebih dulu sebelum dimanfaatkan orang lain.
Kesimpulan
Jailbreaking adalah upaya “membebaskan” AI dari aturan yang seharusnya dipatuhi, lewat berbagai teknik seperti berpura-pura jadi karakter lain atau membingkai permintaan sebagai skenario fiksi. Risikonya bisa serius, apalagi kalau AI tersebut terhubung dengan sistem penting lainnya. Karena itu, pencegahan jailbreak perlu terus diperbarui, mengingat teknik-teknik baru selalu bermunculan seiring waktu.
