Pendahuluan
Ketika melatih AI melibatkan banyak pihak atau komputer yang bekerja sama (disebut *distributed machine learning*), muncul risiko baru: bagaimana kalau salah satu pihak yang ikut serta ternyata “berkhianat” dan sengaja merusak proses belajar bersama? Ancaman ini disebut Byzantine attack. Yuk kita bahas dengan bahasa sederhana.
Apa Itu Distributed Machine Learning?
Distributed machine learning adalah cara melatih model AI dengan membagi pekerjaan ke banyak komputer atau pihak sekaligus, alih-alih mengandalkan satu komputer saja. Bayangkan sebuah proyek besar yang dikerjakan bersama-sama oleh banyak tim, di mana masing-masing tim mengerjakan sebagian kecil pekerjaan, lalu hasilnya digabungkan menjadi satu hasil akhir.
Cara ini populer karena melatih AI modern membutuhkan daya komputasi sangat besar, sehingga membagi pekerjaan ke banyak komputer sekaligus bisa mempercepat prosesnya.
Apa Itu Byzantine Attack?
Nama “Byzantine” diambil dari sebuah teka-teki klasik dalam ilmu komputer, tentang bagaimana beberapa jenderal harus sepakat menyerang musuh secara bersamaan, padahal ada kemungkinan salah satu jenderal ternyata pengkhianat yang sengaja memberi informasi salah untuk menggagalkan rencana.
Dalam konteks distributed machine learning, Byzantine attack terjadi ketika salah satu atau beberapa komputer yang ikut serta dalam proses pelatihan ternyata “berkhianat” — entah karena disusupi penyerang atau memang sengaja dikendalikan pihak jahat — dan mengirimkan hasil belajar yang salah atau menyesatkan, dengan tujuan merusak model akhir yang sedang dilatih bersama-sama.
Dampaknya
Kalau Byzantine attack berhasil, model akhir yang dihasilkan bisa jadi tidak akurat, bias, atau bahkan berperilaku sesuai keinginan penyerang. Yang membuat ancaman ini cukup sulit ditangani, dalam sistem yang melibatkan banyak pihak, sering kali sulit membedakan mana peserta yang jujur mengalami kesalahan teknis biasa (misalnya koneksi lambat menyebabkan hasil belajar yang kurang optimal), dan mana yang sengaja mengirim informasi palsu dengan niat jahat.
Cara Mencegahnya
Beberapa langkah yang bisa membantu mengurangi risiko Byzantine attack:
- Menerapkan metode penggabungan hasil belajar yang lebih tahan terhadap data menyimpang, misalnya dengan mengabaikan hasil belajar yang jauh berbeda dari mayoritas peserta lain, alih-alih menggabungkan semuanya secara rata.
- Memverifikasi reputasi dan riwayat kontribusi setiap peserta, sehingga peserta yang berulang kali mengirim hasil mencurigakan bisa dikeluarkan dari proses pelatihan.
- Membatasi pengaruh dari satu peserta tunggal terhadap hasil akhir, sehingga meski satu peserta berkhianat, dampaknya terhadap model keseluruhan tetap terbatas.
- Melakukan pemantauan berkelanjutan terhadap kualitas model selama proses pelatihan berlangsung, untuk mendeteksi tanda-tanda penurunan performa yang tidak wajar sejak dini.
Kesimpulan
Byzantine attack adalah ancaman yang muncul ketika salah satu peserta dalam proses pelatihan AI terdistribusi ternyata berkhianat dan sengaja mengirim informasi yang salah. Karena melibatkan banyak pihak sekaligus, ancaman ini butuh mekanisme khusus untuk mendeteksi dan membatasi dampak dari peserta yang tidak bisa dipercaya, supaya model akhir yang dihasilkan tetap akurat dan bisa diandalkan.
