Context Injection: Memanipulasi Konteks Percakapan AI
Pendahuluan Artificial Intelligence (AI) semakin banyak digunakan dalam chatbot, asisten virtual, dan layanan pelanggan. Agar dapat memberikan jawaban yang...
AI security
Knowledge Base Poisoning dalam Aplikasi AI Generatif
Pendahuluan Aplikasi Artificial Intelligence (AI) generatif semakin banyak digunakan untuk membantu berbagai aktivitas, mulai dari menjawab pertanyaan, membuat dokumen,...
RAG Poisoning: Manipulasi Basis Pengetahuan AI
Pendahuluan Pemanfaatan Artificial Intelligence (AI) semakin berkembang di berbagai sektor, seperti layanan pelanggan, pendidikan, dan bisnis. Salah satu teknologi...
Prompt Leaking dan Ancaman terhadap Konfigurasi AI
Pendahuluan Perkembangan Artificial Intelligence (AI) telah mengubah cara manusia bekerja dan berinteraksi dengan teknologi. Saat ini, AI banyak dimanfaatkan...
Sensitive Information Disclosure pada Aplikasi LLM
Pendahuluan Salah satu risiko yang paling ditakuti dari aplikasi berbasis AI adalah bocornya informasi sensitif — entah itu data...
System Prompt Leakage: Ketika Instruksi Rahasia AI Terungkap
Pendahuluan Setiap chatbot atau asisten AI biasanya punya “instruksi rahasia” di balik layar yang tidak diperlihatkan ke pengguna. Instruksi...
Jailbreaking LLM: Pengertian, Risiko, dan Pencegahannya
Pendahuluan Istilah “jailbreak” mungkin sudah familiar buat yang pernah dengar soal modifikasi HP supaya bisa install aplikasi di luar...
Perbedaan Direct dan Indirect Prompt Injection
Pendahuluan Di artikel sebelumnya, kita sudah kenalan dengan prompt injection — cara menipu AI supaya menuruti instruksi tersembunyi. Nah,...
Mengenal Prompt Injection pada Large Language Model
Pendahuluan Pernah dengar istilah “prompt injection”? Ini adalah salah satu jenis serangan yang paling umum ditemui pada chatbot atau...
Strategi Penanggulangan DDoS Menggunakan Optimasi Genetik
Pendahuluan Serangan Distributed Denial of Service (DDoS) menjadi salah satu ancaman terbesar dalam keamanan jaringan karena mampu membuat layanan...