Red Teaming untuk Menguji Keamanan Sistem AI
Pendahuluan Pemanfaatan Artificial Intelligence (AI) terus berkembang di berbagai bidang, mulai dari layanan pelanggan hingga keamanan siber. Seiring meningkatnya...
AI security
Mengenal MITRE ATLAS untuk Memetakan Ancaman terhadap AI
Pendahuluan Penggunaan Artificial Intelligence (AI) semakin luas di berbagai bidang, seperti kesehatan, keuangan, manufaktur, dan keamanan siber. Seiring dengan...
Cara Melakukan AI Threat Modeling dalam Organisasi
Pendahuluan Penggunaan Artificial Intelligence (AI) di berbagai organisasi terus meningkat, mulai dari layanan pelanggan hingga analisis data dan otomatisasi...
Supply Chain Attack dalam Pengembangan AI Agent
Pendahuluan Pengembangan Agentic AI tidak hanya melibatkan model AI, tetapi juga berbagai komponen pendukung seperti library, framework, API, plugin,...
Human-in-the-Loop Bypass pada Agentic AI
Pendahuluan Perkembangan Agentic AI membuat AI Agent mampu menyelesaikan berbagai tugas secara otomatis, mulai dari mengelola data hingga menjalankan...
Serangan terhadap Memori Jangka Panjang AI Agent
Pendahuluan Perkembangan Agentic AI memungkinkan AI Agent tidak hanya menjalankan tugas, tetapi juga menyimpan informasi sebagai memori jangka panjang...
Malicious Plugin dan Risiko Integrasi AI
Pendahuluan Perkembangan Agentic AI membuat AI Agent mampu menjalankan berbagai tugas secara otomatis dengan bantuan plugin dan layanan pihak...
Tool Chain Attack pada Sistem Agentic AI
Pendahuluan Agentic AI mampu menyelesaikan berbagai tugas secara otomatis dengan memanfaatkan serangkaian tool, seperti API, basis data, layanan cloud,...
Agent Impersonation: Penyusupan Menggunakan Identitas AI Palsu
Pendahuluan Perkembangan Agentic AI memungkinkan beberapa AI Agent bekerja sama untuk menyelesaikan berbagai tugas secara otomatis. Dalam sistem ini,...
Cascading Failure dalam Sistem Multi-Agent
Pendahuluan Sistem Multi-Agent AI memungkinkan beberapa AI Agent bekerja sama untuk menyelesaikan tugas yang kompleks. Setiap agen memiliki peran...