Sensitive Information Disclosure pada Aplikasi LLM
Pendahuluan Salah satu risiko yang paling ditakuti dari aplikasi berbasis AI adalah bocornya informasi sensitif — entah itu data...
Rizwar Tazqir
System Prompt Leakage: Ketika Instruksi Rahasia AI Terungkap
Pendahuluan Setiap chatbot atau asisten AI biasanya punya “instruksi rahasia” di balik layar yang tidak diperlihatkan ke pengguna. Instruksi...
Jailbreaking LLM: Pengertian, Risiko, dan Pencegahannya
Pendahuluan Istilah “jailbreak” mungkin sudah familiar buat yang pernah dengar soal modifikasi HP supaya bisa install aplikasi di luar...
Perbedaan Direct dan Indirect Prompt Injection
Pendahuluan Di artikel sebelumnya, kita sudah kenalan dengan prompt injection — cara menipu AI supaya menuruti instruksi tersembunyi. Nah,...
Mengenal Prompt Injection pada Large Language Model
Pendahuluan Pernah dengar istilah “prompt injection”? Ini adalah salah satu jenis serangan yang paling umum ditemui pada chatbot atau...
Mengapa Keamanan AI Harus Menjadi Prioritas Organisasi?
Pendahuluan Sekarang ini, banyak perusahaan berlomba-lomba pakai AI. Tapi sayangnya, kecepatan mereka memakai AI sering tidak dibarengi dengan kesiapan...
Risiko Keamanan AI bagi Perusahaan dan Masyarakat
Pendahuluan Kalau sistem AI bermasalah dari sisi keamanan, dampaknya jarang cuma soal teknis saja. Bisa merembet ke mana-mana —...
Bagaimana Penyerang Mengeksploitasi Kelemahan Sistem AI?
Pendahuluan Semua sistem pasti punya kelemahan, termasuk sistem AI. Tapi cara penyerang memanfaatkan kelemahan itu agak berbeda dibanding sistem...
Mengenal Model, Data, Infrastruktur, dan API sebagai Target Serangan
Pendahuluan Sistem AI itu sebenarnya bukan satu benda tunggal. Ada beberapa bagian yang saling terhubung: model, data, infrastruktur (server...
Siapa Saja yang Dapat Menjadi Pelaku AI Attack?
Pendahuluan Kalau dengar kata “AI Attack”, mungkin yang terbayang di kepala kita adalah peretas jenius yang duduk sendirian di...