Pendahuluan
Kalau membaca artikel tentang keamanan AI, kita sering menemukan tiga istilah yang mirip: AI Security, AI Safety, dan AI Privacy. Ketiganya sering dianggap sama, padahal fokusnya berbeda. Memahami perbedaan ini penting agar kita bisa membicarakan dan menangani risiko AI dengan lebih tepat.
Apa Itu AI Security?
AI Security berfokus pada perlindungan sistem AI dari serangan pihak luar. Tujuannya adalah memastikan sistem AI tidak bisa disusupi, ditipu, atau dimanipulasi oleh pihak yang punya niat jahat.
Contoh isu yang masuk kategori ini:
- Data poisoning (meracuni data training)
- Prompt injection (menipu chatbot agar keluar dari instruksi awal)
- Model stealing (mencuri model AI lewat API)
Singkatnya, AI Security menjawab pertanyaan: “Bagaimana cara melindungi sistem AI dari serangan?”
Apa Itu AI Safety?
AI Safety berfokus pada memastikan AI berperilaku sesuai yang diharapkan, bahkan tanpa ada niat jahat dari pihak luar. Fokusnya lebih ke arah mencegah dampak buruk yang muncul dari kesalahan sistem itu sendiri.
Contoh isu yang masuk kategori ini:
- AI memberikan jawaban yang salah atau menyesatkan (halusinasi)
- AI mengambil keputusan yang tidak sesuai nilai atau etika yang diinginkan
- AI menyebabkan kerugian tidak sengaja karena kesalahan desain sistem
Singkatnya, AI Safety menjawab pertanyaan: “Bagaimana memastikan AI tidak menyebabkan kerugian, meski tidak ada yang menyerangnya?”
Apa Itu AI Privacy?
AI Privacy berfokus pada perlindungan data pribadi yang digunakan atau dihasilkan oleh sistem AI. Ini berkaitan dengan bagaimana data pengguna dikumpulkan, disimpan, dan diproses oleh sistem AI.
Contoh isu yang masuk kategori ini:
- Model AI secara tidak sengaja “mengingat” dan membocorkan data pribadi dari data training
- Penyalahgunaan data pengguna untuk melatih model tanpa izin
- Kebocoran informasi sensitif lewat jawaban yang diberikan AI
Singkatnya, AI Privacy menjawab pertanyaan: “Bagaimana memastikan data pribadi tetap aman dan tidak disalahgunakan?”
Tabel Perbandingan Sederhana
Aspek | AI Security | AI Safety | AI Privacy
Fokus utama | Melindungi dari serangan luar | Mencegah perilaku AI yang salah/berbahaya | Melindungi data pribadi
Sumber risiko | Pihak jahat/penyerang | Kesalahan desain atau sistem itu sendiri | Pengelolaan data yang tidak tepat
Contoh masalah | Prompt injection, data poisoning | Halusinasi, keputusan tidak etis | Kebocoran data pribadi lewat model
Kesimpulan
AI Security, AI Safety, dan AI Privacy memang saling berkaitan, tapi masing-masing punya fokus yang berbeda. AI Security menjaga sistem dari serangan, AI Safety menjaga agar AI tetap berperilaku baik, dan AI Privacy menjaga data pribadi pengguna. Organisasi yang ingin membangun sistem AI yang benar-benar aman perlu memperhatikan ketiganya secara bersamaan, bukan hanya salah satunya.
