Perkembangan Artificial Intelligence (AI), khususnya Large Language Model (LLM), telah mengubah cara organisasi mengelola berbagai aktivitas, termasuk keamanan siber. AI kini digunakan untuk menganalisis ancaman, mendeteksi aktivitas mencurigakan, membantu investigasi insiden, menghasilkan dokumentasi teknis, hingga memberikan rekomendasi mitigasi secara otomatis. Kemampuan tersebut mampu meningkatkan efisiensi operasional dan mempercepat proses pengambilan keputusan, terutama pada lingkungan yang membutuhkan respons cepat seperti Security Operations Center (SOC).
Namun, meskipun memiliki kemampuan yang sangat baik, LLM masih berpotensi mengalami halusinasi (AI Hallucination), yaitu menghasilkan informasi yang tampak benar tetapi sebenarnya tidak akurat atau tidak memiliki dasar fakta. Dalam keamanan siber, keputusan yang diambil berdasarkan informasi yang salah dapat menyebabkan konfigurasi sistem yang keliru, kesalahan identifikasi ancaman, hingga meningkatnya risiko kebocoran data. Oleh karena itu, banyak organisasi menerapkan strategi Human-in-the-Loop (HITL), yaitu pendekatan yang melibatkan manusia dalam proses pengambilan keputusan sehingga setiap rekomendasi AI dapat diverifikasi sebelum diterapkan. Dengan strategi ini, AI berfungsi sebagai alat bantu, sedangkan keputusan akhir tetap berada di tangan tenaga ahli.
Apa Itu Human-in-the-Loop (HITL)?
Human-in-the-Loop (HITL) adalah pendekatan dalam pengembangan dan penggunaan AI yang menempatkan manusia sebagai bagian dari proses pengambilan keputusan.
Dalam pendekatan ini, AI bertugas:
Menganalisis data.
Memberikan rekomendasi.
Mengidentifikasi pola.
Menyusun alternatif tindakan.
Selanjutnya, manusia akan:
Memeriksa hasil AI.
Memvalidasi informasi.
Menyetujui atau menolak rekomendasi.
Mengambil keputusan akhir.
Dengan demikian, AI membantu meningkatkan efisiensi tanpa menggantikan peran manusia sepenuhnya.
Mengapa Human-in-the-Loop Penting?
Halusinasi AI sering kali sulit dikenali karena jawaban yang diberikan terlihat profesional dan meyakinkan. Jika keputusan AI diterapkan secara otomatis tanpa pemeriksaan, kesalahan kecil dapat berkembang menjadi insiden keamanan yang serius.
Human-in-the-Loop diperlukan untuk:
Memverifikasi informasi yang diberikan AI.
Mengurangi risiko keputusan yang salah.
Mencegah penerapan konfigurasi yang berbahaya.
Menjamin kepatuhan terhadap kebijakan organisasi.
Meningkatkan akuntabilitas dalam pengambilan keputusan.
Pendekatan ini sangat penting pada sistem yang menangani data sensitif atau infrastruktur kritis.
Cara Kerja Human-in-the-Loop
Strategi Human-in-the-Loop umumnya terdiri dari beberapa tahapan berikut.
1. AI Melakukan Analisis
Model AI memproses data dan menghasilkan rekomendasi atau kesimpulan berdasarkan informasi yang tersedia.
2. Hasil Dikirim kepada Operator
Output AI tidak langsung dijalankan, tetapi terlebih dahulu dikirim kepada analis atau administrator.
3. Proses Validasi
Manusia memeriksa:
Akurasi informasi.
Validitas referensi.
Kesesuaian dengan kebijakan.
Dampak terhadap sistem.
Jika ditemukan kesalahan atau indikasi halusinasi, rekomendasi AI dapat diperbaiki atau ditolak.
4. Persetujuan
Setelah hasil dinilai benar dan aman, operator memberikan persetujuan untuk melanjutkan tindakan.
5. Dokumentasi
Seluruh proses dicatat untuk mendukung audit, evaluasi, dan peningkatan kualitas model AI di masa mendatang.
Penerapan Human-in-the-Loop pada Keamanan Siber
Strategi HITL dapat diterapkan pada berbagai sistem keamanan, antara lain:
1. Security Operations Center (SOC)
Analis memverifikasi hasil deteksi ancaman sebelum sistem melakukan respons otomatis.
2. Analisis Kerentanan
AI mengidentifikasi potensi kerentanan, sedangkan pakar keamanan memastikan hasil tersebut benar sebelum tindakan mitigasi dilakukan.
3. Konfigurasi Infrastruktur
Administrator memeriksa konfigurasi firewall, VPN, atau server yang dihasilkan AI sebelum diterapkan.
4. Respons Insiden
AI memberikan rekomendasi langkah penanganan, tetapi keputusan akhir tetap dilakukan oleh tim keamanan.
5. Audit Keamanan
AI membantu mengidentifikasi penyimpangan, kemudian auditor melakukan pemeriksaan terhadap hasil analisis tersebut.
Contoh Skenario
Sebuah perusahaan menggunakan AI untuk membantu tim Security Operations Center (SOC) dalam menganalisis log keamanan dan memberikan rekomendasi pemblokiran alamat IP yang dianggap berbahaya.
Suatu hari, AI menyarankan agar sebuah alamat IP internal diblokir karena dianggap sebagai sumber aktivitas mencurigakan. Sebelum aturan tersebut diterapkan, sistem Human-in-the-Loop mengirimkan rekomendasi kepada analis keamanan.
Setelah melakukan pemeriksaan terhadap log jaringan dan membandingkannya dengan dokumentasi internal, analis menemukan bahwa alamat IP tersebut merupakan server cadangan perusahaan yang sedang melakukan sinkronisasi data. Rekomendasi AI kemudian ditolak sehingga pemblokiran yang dapat mengganggu operasional perusahaan berhasil dicegah.
Manfaat Human-in-the-Loop
Penerapan Human-in-the-Loop memberikan berbagai manfaat, antara lain:
Mengurangi risiko keputusan akibat halusinasi AI.
Meningkatkan akurasi hasil analisis.
Mencegah kesalahan konfigurasi sistem.
Menjamin kepatuhan terhadap kebijakan organisasi.
Meningkatkan kepercayaan pengguna terhadap AI.
Mendukung proses audit dan evaluasi model.
Tantangan Implementasi
Beberapa tantangan dalam menerapkan Human-in-the-Loop meliputi:
Membutuhkan tenaga ahli untuk melakukan validasi.
Menambah waktu pada proses pengambilan keputusan.
Menentukan jenis keputusan yang memerlukan persetujuan manusia.
Menjaga konsistensi penilaian antar operator.
Menyesuaikan kapasitas tim ketika jumlah permintaan sangat tinggi.
Strategi Mengoptimalkan Human-in-the-Loop
Agar strategi HITL berjalan secara efektif, organisasi dapat menerapkan beberapa langkah berikut:
Menentukan kategori keputusan yang wajib melalui persetujuan manusia.
Menggunakan Confidence Score untuk menentukan prioritas validasi.
Mengintegrasikan Retrieval-Augmented Generation (RAG) agar AI menggunakan referensi resmi.
Menerapkan Context Filtering dan Guardrails AI untuk mengurangi potensi halusinasi sebelum output dihasilkan.
Melakukan Red Teaming secara berkala guna menguji efektivitas proses validasi manusia.
Memberikan pelatihan kepada analis agar mampu mengenali indikasi halusinasi AI.
Kesimpulan
Strategi Human-in-the-Loop (HITL) merupakan salah satu pendekatan paling efektif untuk mengurangi dampak keputusan AI yang berhalusinasi, khususnya pada lingkungan keamanan siber. Dengan melibatkan manusia dalam proses validasi, organisasi dapat memastikan bahwa setiap rekomendasi AI telah diperiksa sebelum diterapkan. Pendekatan ini tidak hanya meningkatkan akurasi dan keamanan keputusan, tetapi juga memperkuat transparansi, akuntabilitas, dan kepercayaan terhadap sistem AI. Jika dipadukan dengan Retrieval-Augmented Generation (RAG), Guardrails AI, Context Filtering, serta Monitoring Otomatis, Human-in-the-Loop menjadi lapisan pertahanan penting dalam membangun sistem AI yang aman, andal, dan bertanggung jawab.
