Pendahuluan
Salah satu cara melatih AI sambil menjaga privasi data disebut federated learning. Idenya bagus: data pengguna tidak perlu dikirim ke satu tempat pusat, tapi tetap bisa dipakai untuk melatih model bersama-sama. Sayangnya, teknik ini juga punya celah yang bisa dimanfaatkan. Yuk kita bahas dengan bahasa sederhana.
Apa Itu Federated Learning?
Bayangkan beberapa rumah sakit ingin melatih AI untuk mendeteksi penyakit tertentu dari data pasien. Biasanya, cara paling sederhana adalah mengumpulkan semua data pasien ke satu tempat, lalu melatih AI dari sana. Tapi cara ini berisiko dari sisi privasi, karena data sensitif pasien harus dikirim keluar dari rumah sakit masing-masing.
Federated learning menawarkan solusi berbeda: setiap rumah sakit melatih model AI-nya sendiri-sendiri memakai data pasiennya masing-masing, tanpa mengirim data mentah keluar. Yang dikirim ke pusat cuma “hasil belajar” model (disebut parameter atau gradient), bukan data pasien itu sendiri. Hasil belajar dari semua rumah sakit ini kemudian digabungkan untuk membentuk satu model AI yang lebih baik.
Bagaimana Federated Learning Bisa Diserang?
Meski dirancang untuk menjaga privasi, federated learning tetap punya celah. Beberapa cara serangan yang bisa terjadi:
Menyusupkan peserta jahat. Karena banyak pihak ikut berkontribusi melatih model, ada risiko salah satu peserta ternyata punya niat jahat, misalnya sengaja mengirim hasil belajar yang salah untuk merusak model akhir (mirip dengan data poisoning, tapi dilakukan lewat proses federated).
Menganalisis hasil belajar untuk menebak data asli. Meski data mentah tidak pernah dikirim, ternyata “hasil belajar” yang dikirim ke pusat kadang masih bisa dianalisis untuk menebak sebagian informasi tentang data asli yang dipakai melatihnya, meski tidak selalu sempurna.
Risiko Privasi yang Muncul
Kalau federated learning tidak dirancang dengan hati-hati, risiko privasi tetap bisa muncul, meski data mentah tidak pernah berpindah tempat. Misalnya, penyerang yang menganalisis hasil belajar dari satu peserta bisa saja menebak apakah data tertentu pernah dipakai untuk melatihnya, atau bahkan mendapat gambaran kasar tentang isi data tersebut. Ini penting terutama untuk data sangat sensitif seperti data kesehatan pasien.
Cara Mencegahnya
Beberapa langkah yang bisa memperkuat keamanan federated learning:
- Menambahkan teknik yang disebut *differential privacy*, yaitu menambahkan sedikit “gangguan acak” pada hasil belajar sebelum dikirim, supaya lebih sulit menebak data asli di baliknya.
- Memverifikasi kualitas hasil belajar dari setiap peserta sebelum digabungkan, untuk mendeteksi kalau ada peserta yang mengirim hasil belajar yang mencurigakan atau menyimpang jauh dari yang lain.
- Membatasi jumlah dan frekuensi informasi yang dikirim dari setiap peserta, sehingga lebih sulit bagi penyerang mengumpulkan cukup data untuk melakukan analisis mendalam.
- Melakukan audit keamanan berkala terhadap seluruh proses federated learning, termasuk cara data digabungkan dan dikirim antar-pihak.
Kesimpulan
Federated learning menawarkan cara melatih AI yang lebih menjaga privasi dibanding metode konvensional, tapi bukan berarti sepenuhnya bebas risiko. Ancaman seperti peserta jahat dan analisis hasil belajar untuk menebak data asli tetap perlu diwaspadai. Dengan menambahkan lapisan perlindungan seperti differential privacy dan verifikasi peserta, risiko ini bisa dikurangi secara signifikan.
