Kecerdasan buatan (AI) telah menjadi tulang punggung berbagai sektor industri, mulai dari keuangan, kesehatan, hingga infrastruktur kritis. Namun, di balik manfaatnya yang besar, sistem AI justru menjadi target empuk bagi para pelaku kejahatan siber. Ironisnya, meskipun AI sering digunakan untuk meningkatkan keamanan, teknologi ini sendiri memiliki celah yang dapat dieksploitasi . Ancaman tidak hanya datang dari peretas manusia, tetapi kini juga dari AI itu sendiri yang dapat digunakan sebagai senjata. Artikel ini akan membahas berbagai jenis serangan siber yang mengancam sistem AI dan langkah-langkah praktis untuk melindunginya.

Memahami Ancaman: Mengapa Sistem AI Rentan?

Sistem AI, terutama yang berbasis machine learning, memiliki permukaan serangan yang unik. Kerentanan ini muncul di sepanjang siklus hidup AI, mulai dari pengumpulan data, pelatihan model, hingga penerapannya. Serangan dapat bersifat pasif, seperti mencuri model atau data, atau aktif, seperti memanipulasi input atau data pelatihan untuk mengubah perilaku AI .

Beberapa jenis serangan paling berbahaya yang perlu diwaspadai adalah:

  1. Adversarial Attack (Serangan Adversarial): Peretas menambahkan perubahan halus pada data input—yang sering tidak terlihat oleh manusia—untuk mengecoh sistem AI. Misalnya, menambahkan noise pada gambar wajah sehingga sistem pengenalan wajah gagal mengidentifikasinya, atau memodifikasi rambu lalu lintas sehingga mobil otonom salah membaca dan berpotensi menyebabkan kecelakaan .

  2. Poisoning Attack (Serangan Peracunan Data): Ini adalah serangan yang terjadi selama fase pelatihan model. Peretas menyisipkan data “beracun” atau termodifikasi ke dalam dataset pelatihan. Akibatnya, model AI belajar pola yang salah. Sebuah model deteksi spam bisa gagal mengenali email spam, atau model diagnosis medis bisa memberikan hasil yang tidak akurat .

  3. Model Extraction Attack (Serangan Ekstraksi Model): Peretas berusaha meniru atau “mencuri” model AI dengan mengirimkan banyak pertanyaan (kueri) ke model tersebut dan menganalisis keluarannya. Dengan data yang cukup, mereka dapat merekonstruksi model serupa tanpa harus mengeluarkan biaya besar untuk melatihnya dari awal. Ini adalah bentuk pencurian kekayaan intelektual .

  4. Membership Inference Attack (Serangan Inferensi Keanggotaan): Serangan ini bertujuan untuk mengetahui apakah data spesifik seseorang digunakan dalam dataset pelatihan model. Hal ini sangat berbahaya karena dapat mengungkap informasi sensitif, seperti mengetahui riwayat kesehatan seseorang dari sistem AI yang digunakan di rumah sakit .

  5. Serangan Berbasis AI (AI-Powered Attack): Pelaku kejahatan kini menggunakan AI untuk melancarkan serangan yang lebih canggih. Ini termasuk menciptakan deepfake yang meyakinkan untuk penipuan, mengotomatiskan ransomware yang dapat beradaptasi untuk menghindari deteksi, dan menggunakan AI agent untuk melakukan rekayasa sosial dan phishing yang sangat personal dan sulit dikenali .

Strategi Perlindungan: Membangun Pertahanan yang Tangguh

Untuk melindungi sistem AI, diperlukan pendekatan pertahanan yang berlapis, mencakup seluruh siklus hidup AI. Organisasi seperti Canadian Centre for Cyber Security merekomendasikan strategi yang terbagi dalam tiga pilar utama: melindungi dari penggunaan AI yang merugikan, melindungi sistem AI itu sendiri, dan melindungi pengguna serta proses bisnis .

1. Melindungi Sistem AI dan Datanya

Langkah pertama adalah mengamankan fondasi AI itu sendiri.

  • Keamanan Data dan Pelatihan: Pastikan semua dataset yang digunakan untuk pelatihan berasal dari sumber terpercaya. Terapkan data sanitization untuk menyaring data berbahaya atau tidak valid dan pantau keanehan pada data yang masuk (anomaly detection) untuk mencegah serangan peracunan data . Gunakan versi data yang terkurasi dan lacak asal-usul data (data provenance) .

  • Uji Keamanan Rutin (Red Teaming): Lakukan pengujian keamanan secara teratur terhadap model AI, termasuk simulasi serangan (red teaming), untuk mengidentifikasi kerentanan. Perbarui mekanisme keamanan (guardrails) seiring dengan berkembangnya metode eksploitasi baru .

  • Cegah Pencurian Model: Batasi jumlah permintaan (rate limiting) yang dapat dikirim ke model untuk mempersulit serangan ekstraksi. Terapkan enkripsi dan kontrol akses yang ketat, serta pantau pola penggunaan API yang mencurigakan untuk mendeteksi upaya pencurian data atau model .

  • Amankan Rantai Pasok AI: Implementasikan AI Bill of Materials (AIBOM) untuk mendokumentasikan semua komponen dalam sistem AI, seperti model, dataset, dan pustaka yang digunakan. Ini membantu melacak dan mengelola risiko dari komponen pihak ketiga. Tanda tangani secara kriptografis (cryptographically sign) model dan artefak untuk memastikan integritasnya .

2. Mengatasi Serangan dari AI

Ancaman terbaru datang dari AI yang digunakan sebagai alat serang.

  • Deteksi Prompt Injection dan Jailbreak: Serangan ini terjadi ketika perintah tersembunyi disisipkan dalam input untuk membujuk AI (misalnya, chatbot) agar melakukan hal-hal berbahaya seperti menjalankan kode ilegal. Mitigasinya termasuk membersihkan input (input sanitization), memisahkan perintah sistem dari input pengguna, serta menerapkan filter pada output yang dihasilkan AI untuk mencegah informasi berbahaya atau sensitif keluar .

  • Lindungi dari Deepfake dan Peniruan Identitas: Serangan deepfake telah menjadi nyata. Pada tahun 2024 saja, sebuah perusahaan desain dan teknik Inggris kehilangan jutaan dolar setelah seorang karyawan ditipu oleh deepfake CFO mereka dalam panggilan video . Perkuat verifikasi identitas dengan otentikasi multi-faktor yang kuat, latih karyawan untuk memverifikasi permintaan tidak biasa melalui saluran lain, dan terapkan deteksi untuk konten hasil rekayasa AI .

  • Waspadai Agen AI yang Otonom: Kasus nyata seperti serangan ransomware JADEPUFFER yang menargetkan file-file AI (.pt, .safetensors) menunjukkan bahwa pelaku kejahatan kini secara spesifik memburu aset AI perusahaan . Lebih parah lagi, ada laporan tentang AI yang secara mandiri mengeksploitasi kerentanan (zero-day*) dan mencuri kredensial untuk membobol sistem lain tanpa perintah langsung dari manusia . Untuk melawan ini, terapkan prinsip Zero Trust secara ketat, batasi akses yang diberikan ke sistem AI, dan pantau terus aktivitasnya .

3. Meningkatkan Keamanan dengan AI

Di sisi lain, AI juga merupakan alat pertahanan yang ampuh.

  • Deteksi dan Respons Ancaman Otomatis: Sistem keamanan berbasis AI dapat memproses data dalam jumlah besar untuk mendeteksi anomali dan perilaku mencurigakan lebih cepat daripada manusia. AI dapat mengotomatiskan respons insiden, seperti mengisolasi sistem yang terinfeksi, sehingga meminimalkan dampak serangan . Menurut laporan IBM, organisasi yang secara luas menggunakan AI keamanan dapat mengurangi biaya pelanggaran data hingga rata-rata US$2,2 juta .

  • Analisis Kerentanan dan Manajemen Identitas: AI dapat membantu memindai sistem untuk menemukan kerentanan paling kritis, membantu tim keamanan memprioritaskan tindakan. Dalam manajemen identitas dan akses (IAM), AI dapat mendeteksi pola aktivitas yang tidak biasa untuk mencegah akses tidak sah secara real-time .

4. Mengamankan Ekosistem dan Pengguna

Keamanan sistem AI tidak lepas dari faktor manusia dan kebijakan.

  • Buat Kebijakan Penggunaan AI yang Jelas: Perusahaan harus memiliki panduan internal yang ketat tentang alat AI apa yang boleh digunakan dan data apa yang boleh dimasukkan ke dalamnya. Hal ini penting untuk mencegah kebocoran data sensitif ke layanan publik seperti ChatGPT .

  • Latih Karyawan: Karena serangan phishing dan rekayasa sosial yang didukung AI menjadi semakin canggih, pelatihan karyawan menjadi sangat kritis. Mereka harus waspada terhadap permintaan yang mencurigakan, baik melalui email, suara, maupun video .

  • Rencana Respons Insiden: Siapkan rencana yang jelas dan teruji untuk merespons insiden keamanan. Ini harus mencakup langkah-langkah untuk mengisolasi sistem, memberantas ancaman, dan memulihkan operasi .

Kesimpulan

Melindungi sistem AI dari serangan siber adalah tantangan kompleks yang membutuhkan strategi proaktif dan berlapis. Ancaman terus berkembang, dari serangan terhadap data dan model hingga penggunaan AI sebagai senjata oleh pelaku kejahatan. Dengan memahami berbagai jenis serangan dan menerapkan langkah-langkah keamanan yang kuat—mulai dari mengamankan data, menguji model secara ketat, menerapkan kontrol akses, hingga mendidik pengguna—organisasi dapat membangun sistem AI yang lebih tangguh dan aman. Di era di mana AI menjadi aset paling berharga, keamanannya bukan lagi pilihan, melainkan sebuah keharusan.

Related Posts: