Pengantar

Artificial Intelligence (AI) telah mengubah cara manusia bekerja, belajar, dan berinteraksi dengan teknologi. Saat ini, AI digunakan dalam berbagai bidang, mulai dari layanan pelanggan, kesehatan, pendidikan, keuangan, hingga keamanan siber. Kehadiran chatbot, sistem rekomendasi, dan AI Agent membuat banyak pekerjaan menjadi lebih cepat dan efisien.

Namun, semakin luas penggunaan AI, semakin besar pula risiko keamanannya. Jika sebelumnya penyerang hanya berfokus pada server, aplikasi web, atau jaringan komputer, kini mereka juga mulai menargetkan sistem AI. Serangan terhadap AI dapat menyebabkan kebocoran data, manipulasi hasil prediksi, hingga pengambilalihan fungsi sistem.

Untuk membantu organisasi memahami ancaman tersebut, dikembangkan sebuah framework bernama MITRE ATLAS. Framework ini menjadi panduan penting untuk memahami bagaimana serangan terhadap sistem AI dilakukan dan bagaimana cara mengatasinya.

Apa Itu MITRE ATLAS?

MITRE ATLAS merupakan singkatan dari Adversarial Threat Landscape for Artificial-Intelligence Systems. Framework ini dikembangkan oleh MITRE sebagai sumber pengetahuan mengenai taktik dan teknik yang digunakan untuk menyerang sistem AI dan Machine Learning.

Tujuan utama MITRE ATLAS adalah:

  • Mendokumentasikan ancaman terhadap AI.
  • Membantu organisasi memahami risiko keamanan AI.
  • Menjadi referensi bagi peneliti dan praktisi keamanan.
  • Mendukung kegiatan pengujian keamanan sistem AI.

Dengan kata lain, MITRE ATLAS berfungsi sebagai peta yang menunjukkan bagaimana penyerang dapat menyerang sistem AI dan bagaimana organisasi dapat mempersiapkan pertahanannya.

Mengapa Sistem AI Menjadi Target Serangan?

Sistem AI sering kali mengelola data penting dan digunakan dalam proses pengambilan keputusan. Hal ini membuat AI menjadi target yang menarik bagi penyerang.

Beberapa alasan mengapa AI menjadi sasaran serangan antara lain:

Nilai Data yang Tinggi

Model AI biasanya dilatih menggunakan data dalam jumlah besar. Data tersebut bisa berupa informasi pelanggan, dokumen perusahaan, transaksi keuangan, atau data medis.

Ketergantungan Organisasi terhadap AI

Banyak organisasi mulai mengandalkan AI untuk menjalankan proses bisnis. Jika AI terganggu, operasional perusahaan juga dapat terganggu.

Kompleksitas Sistem AI

Sistem AI terdiri dari banyak komponen seperti dataset, model, API, penyimpanan data, dan layanan cloud. Semakin kompleks suatu sistem, semakin banyak pula peluang bagi penyerang.

Perbedaan MITRE ATLAS dan MITRE ATT&CK

Banyak profesional keamanan sudah mengenal MITRE ATT&CK. Framework tersebut digunakan untuk memetakan serangan terhadap sistem komputer tradisional.

MITRE ATLAS memiliki konsep yang mirip, tetapi fokusnya berbeda.

Aspek MITRE ATT&CK MITRE ATLAS
Fokus Sistem IT Tradisional Sistem AI dan Machine Learning
Target Server, Endpoint, Network Model AI, Dataset, LLM
Ancaman Malware, Ransomware, Exploit Data Poisoning, Prompt Injection
Pengguna SOC, Blue Team, Red Team AI Security Team, AI Engineer

MITRE ATT&CK membantu memahami serangan terhadap infrastruktur IT, sedangkan MITRE ATLAS membantu memahami serangan terhadap AI.

Struktur MITRE ATLAS

MITRE ATLAS dibangun menggunakan beberapa komponen utama.

Tactics

Tactics menggambarkan tujuan yang ingin dicapai oleh penyerang.

Contohnya:

  • Reconnaissance
  • Discovery
  • Collection
  • Exfiltration
  • Impact

Techniques

Techniques menjelaskan cara yang digunakan untuk mencapai tujuan tersebut.

Contohnya:

  • Data Poisoning
  • Model Extraction
  • Adversarial Example
  • Prompt Injection

Mitigations

Mitigations berisi rekomendasi untuk mengurangi risiko dari suatu teknik serangan.

Case Studies

MITRE ATLAS juga menyediakan berbagai studi kasus nyata yang membantu organisasi memahami bagaimana serangan terjadi di dunia nyata.

Taktik Utama dalam MITRE ATLAS

Reconnaissance

Pada tahap ini, penyerang mengumpulkan informasi tentang sistem AI yang menjadi target.

Contoh:

  • Mengetahui jenis model yang digunakan.
  • Menemukan API AI yang tersedia.
  • Mengidentifikasi sumber data pelatihan.

Resource Development

Penyerang menyiapkan sumber daya yang diperlukan untuk melakukan serangan.

Misalnya:

  • Menyiapkan dataset berbahaya.
  • Menyiapkan akun cloud palsu.
  • Mengembangkan alat serangan.

Initial Access

Penyerang berusaha mendapatkan akses awal ke lingkungan AI.

Execution

Tahap pelaksanaan serangan terhadap model atau infrastruktur AI.

Persistence

Penyerang mencoba mempertahankan akses agar dapat terus melakukan aktivitas di dalam sistem.

Defense Evasion

Penyerang berusaha menghindari deteksi dari sistem keamanan.

Discovery

Penyerang mempelajari lebih jauh lingkungan AI yang berhasil diakses.

Collection

Penyerang mulai mengumpulkan data atau informasi yang bernilai.

Exfiltration

Data yang berhasil diperoleh dikirim keluar dari sistem target.

Impact

Tahap akhir di mana serangan menyebabkan gangguan atau kerugian.

Teknik Serangan yang Dipetakan dalam MITRE ATLAS

Data Poisoning

Data Poisoning terjadi ketika penyerang memasukkan data yang salah atau berbahaya ke dalam dataset pelatihan.

Akibatnya, model dapat menghasilkan keputusan yang tidak akurat.

Model Poisoning

Penyerang mencoba memodifikasi model selama proses pelatihan agar menghasilkan perilaku tertentu.

Model Extraction

Penyerang mencoba mencuri atau menyalin model AI melalui interaksi berulang dengan API.

Model Inversion

Teknik ini digunakan untuk mencoba merekonstruksi data yang digunakan dalam pelatihan model.

Membership Inference

Penyerang berusaha mengetahui apakah suatu data tertentu digunakan dalam proses pelatihan model.

Adversarial Example

Input dimodifikasi secara khusus agar model memberikan hasil yang salah.

Contohnya, gambar yang terlihat normal bagi manusia tetapi dikenali secara keliru oleh model AI.

Prompt Injection

Prompt Injection banyak ditemukan pada sistem berbasis Large Language Model (LLM).

Penyerang mencoba memasukkan instruksi yang membuat model mengabaikan aturan yang telah ditetapkan.

Agent Hijacking

AI Agent dipaksa melakukan tindakan yang tidak sesuai dengan tujuan awalnya.

Supply Chain Attack

Penyerang menargetkan komponen pendukung seperti library, model pihak ketiga, atau pipeline pelatihan.

MITRE ATLAS dan Large Language Models (LLM)

Perkembangan LLM membuat ancaman terhadap AI semakin beragam.

Beberapa ancaman utama yang sering dibahas dalam MITRE ATLAS antara lain:

Prompt Injection

Penyerang mencoba mengubah perilaku model melalui instruksi tertentu.

Jailbreak

Upaya untuk melewati pembatasan yang diterapkan pada model.

Prompt Chaining

Serangan dilakukan melalui serangkaian instruksi yang saling terkait.

Retrieval Manipulation

Penyerang memanipulasi informasi yang digunakan oleh sistem RAG (Retrieval-Augmented Generation).

Agent Manipulation

AI Agent diarahkan untuk melakukan tindakan yang tidak semestinya.

Studi Kasus Serangan AI

Kasus Microsoft Tay

Chatbot Tay yang diluncurkan oleh Microsoft pada tahun 2016 menjadi salah satu contoh terkenal. Tay belajar dari interaksi pengguna dan akhirnya menghasilkan konten yang tidak pantas akibat manipulasi pengguna.

Data Poisoning

Dalam beberapa penelitian, peneliti menunjukkan bahwa data pelatihan yang dimanipulasi dapat menyebabkan model membuat keputusan yang salah.

Prompt Injection pada LLM

Sistem chatbot modern dapat dipengaruhi oleh instruksi yang disisipkan ke dalam prompt atau dokumen yang dibaca model.

Penyalahgunaan AI Agent

AI Agent yang memiliki akses ke berbagai tool dapat menjadi target untuk melakukan tindakan yang tidak diinginkan apabila kontrol keamanan tidak memadai.

Penerapan MITRE ATLAS dalam Organisasi

Banyak organisasi menggunakan MITRE ATLAS untuk berbagai kebutuhan keamanan.

AI Threat Modeling

Mengidentifikasi kemungkinan ancaman sejak tahap desain sistem.

AI Risk Assessment

Menilai risiko yang mungkin muncul dari penggunaan AI.

AI Security Testing

Melakukan pengujian keamanan terhadap model dan aplikasi AI.

AI Governance

Membantu menyusun kebijakan dan standar keamanan AI.

Best Practice Mengamankan Sistem AI

Secure AI Development

Keamanan harus dipertimbangkan sejak tahap pengembangan.

Validasi Dataset

Pastikan data pelatihan berasal dari sumber yang terpercaya.

Monitoring dan Logging

Pantau aktivitas model dan simpan log untuk membantu investigasi jika terjadi insiden.

Access Control

Batasi akses ke model, dataset, dan infrastruktur AI.

Pengujian Berkala

Lakukan pengujian keamanan secara rutin untuk menemukan kelemahan sebelum dimanfaatkan penyerang.

Incident Response

Siapkan prosedur penanganan insiden khusus untuk sistem AI.

Masa Depan Keamanan AI

AI terus berkembang menuju sistem yang lebih cerdas dan mandiri.

Beberapa tren yang diperkirakan akan semakin berkembang antara lain:

  • AI Agent
  • Multi-Agent Systems
  • Autonomous AI
  • Generative AI
  • AI Copilot

Perkembangan tersebut akan membawa manfaat besar, tetapi juga membuka peluang munculnya teknik serangan baru. Oleh karena itu, framework seperti MITRE ATLAS akan semakin penting di masa depan.

Kesimpulan

MITRE ATLAS merupakan framework yang dirancang untuk membantu organisasi memahami ancaman terhadap sistem AI dan Machine Learning. Framework ini memetakan berbagai taktik dan teknik yang digunakan penyerang, mulai dari Data Poisoning hingga Prompt Injection.

Dengan memahami MITRE ATLAS, organisasi dapat lebih siap dalam mengidentifikasi risiko, melakukan pengujian keamanan, serta membangun sistem AI yang lebih aman dan andal.

Di era ketika AI semakin banyak digunakan dalam berbagai aspek kehidupan dan bisnis, pemahaman terhadap keamanan AI bukan lagi pilihan, melainkan kebutuhan. MITRE ATLAS menjadi salah satu referensi terbaik untuk memulai perjalanan tersebut.

Related Posts: