Data poisoning atau keracunan data adalah salah satu ancaman paling berbahaya namun sering terabaikan dalam pengembangan kecerdasan buatan (AI) dan machine learning (ML). Serangan ini terjadi ketika aktor jahat menyisipkan data yang telah dimanipulasi ke dalam kumpulan data pelatihan, yang bertujuan untuk merusak perilaku model. Yang mengkhawatirkan, hanya 50 gambar dari total 50.000—atau hanya 0,1 persen—yang perlu diubah untuk berhasil melancarkan serangan ini . Artikel ini akan membahas secara komprehensif berbagai metode untuk mendeteksi dan mencegah data poisoning.

Memahami Ancaman Data Poisoning

Data poisoning umumnya terjadi selama fase pengumpulan dan kurasi data, sebuah tahap krusial sebelum model dilatih . Serangan ini dapat mengambil berbagai bentuk:

  1. Label Flipping (Label Flipping Attacks): Penyerang membalik label dari sampel data asli, mengacaukan batas keputusan model selama pelatihan . Misalnya, mengubah label gambar “kucing” menjadi “anjing” dalam dataset pelatihan.

  2. Model Skewing (Model Skewing Attacks): Penyerang menyuntikkan lalu lintas atau data adversarial melalui backdoor, mempengaruhi model secara halus namun signifikan .

  3. Serangan Backdoor (Backdoor Attacks): Penyerang menanamkan pola pemicu spesifik dalam data pelatihan. Model akan berperilaku normal hingga pemicu tersebut muncul, di mana model akan menunjukkan perilaku yang telah ditentukan penyerang .

Serangan-serangan ini sangat berbahaya karena dapat mengakibatkan model menghasilkan prediksi yang bias, mengabaikan isu kritis, atau bahkan memperkenalkan kerentanan keamanan baru . Dalam konteks federated learning, di mana model dilatih secara kolaboratif di berbagai perangkat terdesentralisasi, deteksi dan mitigasi menjadi lebih sulit karena kurangnya akses langsung ke data lokal .

Metode Deteksi Data Poisoning

Mendeteksi serangan data poisoning secara dini adalah langkah pertama yang krusial. Berbagai pendekatan telah dikembangkan untuk mengidentifikasi keberadaan data beracun:

1. Deteksi Berbasis Cluster dan Anomali

Pendekatan ini memanfaatkan teknik unsupervised learning untuk mengelompokkan data berdasarkan kesamaan fitur. Data beracun seringkali muncul sebagai outlier atau anomali dalam cluster.

  • LABOR (unsupervised Learning Assisted supervised learning data poisoning based Backd Or Removal): Metode inovatif ini menggabungkan clustering (pengelompokan) dengan sedikit masukan dari manusia. Data dikelompokkan berdasarkan kategori aslinya melalui unsupervised learning. Kemudian, dengan bantuan identifikasi kategori oleh manusia, LABOR mendeteksi dan menghapus sampel beracun dengan mengidentifikasi perbedaan antara kategori cluster dan prediksi model klasifikasi . Metode ini efektif melawan berbagai jenis pemicu dan jenis serangan backdoor, termasuk pada data citra, audio, dan teks .

  • Federated Data Sanitization Defense (FDSD): Dirancang khusus untuk federated learning, FDSD menggunakan clustering terfederasi untuk mengelompokkan pembaruan model berdasarkan konsistensi semantik. Pembaruan yang menyimpang (outlier) yang kemungkinan merupakan hasil data beracun diidentifikasi dan diisolasi .

2. Deteksi Multi-Level

Metode seperti TE-PADN (Temporal Margin Sample Generation Algorithm) mengusulkan pendekatan deteksi dua tahap. Pertama, dilakukan penyaringan kesalahan distribusi data untuk memastikan deteksi real-time. Kedua, deviasi model diukur untuk mencapai deteksi yang akurat dan tepat waktu .

3. Deteksi Berbasis Statistik dan Ensemble

  • Weighted Average Analysis (VWA): Algoritma ini mengevaluasi rata-rata tertimbang dari fitur input untuk mendeteksi ketidakteraturan yang mengindikasikan usaha poisoning .

  • Stacking Ensemble Framework: Pendekatan ini mengintegrasikan beberapa pengklasifikasi (seperti KNN, Random Forest, Decision Tree, Gradient Boosting, dan Logistic Regression) dalam arsitektur meta-learning. Kerangka kerja ini terbukti konsisten mengungguli pengklasifikasi individual di berbagai tingkat poisoning, mencapai akurasi hingga 99,56% pada dataset CICIDS-2017 .

4. Analisis Graf dan Struktur

Untuk domain spesifik seperti pembangkitan kode RTL (Register-Transfer Level) dalam desain perangkat keras, metode seperti SafeTune menggunakan Graph Neural Network (GNN) untuk menganalisis struktur data-flow graph. Ini memungkinkan identifikasi pola anomali yang terkait dengan Trojan perangkat keras .

5. Deteksi pada Model yang Sudah Terlatih

Framework seperti Mithridatium dirancang untuk memverifikasi integritas model AI yang sudah dilatih. Dengan memuat model dan menjalankan berbagai metode deteksi, framework ini dapat menghasilkan laporan terstruktur untuk mengidentifikasi potensi backdoor atau perilaku poisoning .

Strategi Pencegahan Data Poisoning

Karena pemulihan dari serangan data poisoning sangat sulit dan mahal, pencegahan adalah pendekatan yang paling efektif . Beberapa strategi pencegahan yang dapat diterapkan:

1. Chain of Custody (Rantai Custodi) Kriptografis

Ini adalah salah satu pendekatan paling menjanjikan. Konsep yang diadaptasi dari dunia hukum ini menerapkan dokumentasi ketat tentang siapa yang memiliki dan mengakses data, kapan, dan untuk tujuan apa. Dalam konteks AI, chain of custody kriptografis melibatkan :

  • Penandatanganan Digital: Setiap data yang dihasilkan (misalnya, oleh drone atau sensor) ditandatangani secara digital sedekat mungkin dengan sumber dan waktu pembuatan data .

  • Checksum dan Hash: Nilai checksum atau hash dihitung untuk setiap item data dan metadatanya. Setiap perubahan pada data akan mengubah checksum, sehingga dapat terdeteksi .

  • Pencatatan Metadata: Semua tindakan pada data (transfer, pembersihan, anotasi, pembuatan dataset) dicatat dengan metadata terperinci .

Dengan menerapkan rantai custodi ini, setiap modifikasi data akan meninggalkan jejak yang dapat diaudit, membuatnya lebih sulit bagi penyerang untuk mengubah data tanpa terdeteksi .

2. Sanitasi Data (Data Sanitization)

Proses ini melibatkan pembersihan dataset dari sampel yang berpotensi beracun sebelum digunakan untuk pelatihan.

  • Deteksi dan Penghapusan Anomali: Data yang teridentifikasi sebagai outlier atau tidak sesuai dengan distribusi data normal dihapus dari dataset .

  • Deteksi Berbasis Similaritas: Metode seperti S-teapot menghitung kesamaan antar sampel untuk melokalisasi sampel poisoning dengan presisi tinggi. Sampel yang teridentifikasi kemudian dapat dikonversi menjadi sampel bersih melalui metode inpainting .

3. Meningkatkan Robustness Model

Alih-alih hanya membersihkan data, model dapat dirancang agar lebih tahan terhadap data beracun.

  • Ensemble Learning: Melatih beberapa model dan menggabungkan prediksi mereka dapat meningkatkan ketahanan terhadap upaya poisoning. Pendekatan ini juga digunakan dalam TE-PADN .

  • Pembangkitan Sampel Marjinal Temporal: Untuk data yang memiliki karakteristik temporal (seperti data jaringan), algoritma dapat mempelajari ketergantungan temporal data dan menghasilkan sampel marjinal yang dapat memperbaiki pergeseran batas keputusan model yang disebabkan oleh serangan .

4. Verifikasi dan Validasi yang Ketat

  • Pemeriksaan Integritas pada Setiap Tahap: Setiap tahap dalam siklus hidup data—mulai dari generasi, penyimpanan, kurasi, hingga pembuatan dataset—harus diverifikasi integritasnya .

  • Penyaringan Multi-Modal: Untuk dataset yang kompleks (misalnya, pasangan prompt-kode), perlu dilakukan analisis pada setiap modalitas. SafeTune, misalnya, menggabungkan analisis semantik pada prompt teks dengan analisis struktural pada kode RTL .

Kesimpulan

Data poisoning adalah ancaman serius yang mengancam integritas dan keandalan sistem AI modern. Deteksi dini melalui metode berbasis clustering, analisis statistik, dan pendekatan ensemble sangat penting untuk mengidentifikasi keberadaan data beracun. Namun, karena pemulihan pasca-serangan sangat sulit, pencegahan melalui strategi seperti chain of custody kriptografis dan sanitasi data yang ketat adalah kunci. Menerapkan kombinasi dari strategi deteksi dan pencegahan yang diuraikan di atas akan secara signifikan meningkatkan ketahanan sistem AI terhadap serangan data poisoning, memastikan model tetap akurat, adil, dan aman.

Related Posts: