Seiring dengan pesatnya adopsi kecerdasan buatan (AI) di berbagai sektor, muncul pertanyaan fundamental: bagaimana memastikan bahwa AI yang semakin otonom tetap aman, selaras dengan nilai-nilai manusia, dan tidak menimbulkan risiko sistemik? Di sinilah konsep Human-in-the-Loop (HITL) memainkan peran vital. HITL bukan sekadar prosedur formalitas, melainkan sebuah lapisan keamanan strategis yang menempatkan manusia sebagai pengawas, pengendali, dan penentu akhir dalam rantai keputusan AI.
Memahami Konsep Human-in-the-Loop
Human-in-the-Loop merujuk pada paradigma interaksi manusia-mesin di mana manusia terlibat secara aktif dalam proses pengambilan keputusan AI. Dalam konteks keamanan, HITL berfungsi sebagai mekanisme kontrol yang mengharuskan persetujuan eksplisit dari manusia sebelum AI menjalankan tindakan sensitif. Berbeda dengan pendekatan Human-out-of-the-Loop (HOOTL) yang memberikan otonomi penuh kepada AI, HITL memastikan bahwa setiap langkah kritis tetap berada di bawah pengawasan manusia.
Paradigma ini menjadi semakin krusial seiring dengan meningkatnya kemampuan AI untuk melakukan tindakan berdampak nyata—mulai dari eksekusi transaksi keuangan hingga pengambilan keputusan klinis. Riset menunjukkan bahwa kepercayaan global terhadap AI otonom penuh mengalami penurunan dari 43% menjadi 27% pada tahun 2025, mengindikasikan kebutuhan mendesak akan mekanisme pengawasan manusia yang efektif.
Salah satu risiko terbesar dari AI otonom adalah potensi kesalahan yang berlipat ganda dengan kecepatan mesin. AI dapat menghasilkan rekomendasi yang terdengar masuk akal namun didasarkan pada penalaran yang keliru. Dalam skenario ini, tanpa intervensi manusia, kesalahan tersebut dapat terakumulasi dan menimbulkan konsekuensi serius sebelum ada yang menyadarinya. HITL bertindak sebagai “rem darurat” yang memungkinkan manusia untuk meninjau, memvalidasi, dan jika perlu, menolak keputusan AI sebelum dieksekusi.
2. Konteks dan Pertimbangan Etis
AI, secanggih apa pun, tidak dapat sepenuhnya memahami nuansa kontekstual, budaya organisasi, atau dampak jangka panjang dari keputusan bisnis. Manusia membawa pertimbangan yang tidak dapat direduksi menjadi data semata: “Apakah keputusan ini akan mempengaruhi moral karyawan? Apakah ini sejalan dengan nilai-nilai perusahaan? Apa pesan yang disampaikan kepada pelanggan?” HITL memastikan bahwa dimensi-dimensi etis dan kontekstual ini tetap menjadi bagian dari proses pengambilan keputusan.
3. Akuntabilitas dan Tanggung Jawab Hukum
Ketika sebuah keputusan berakibat buruk, harus ada jawaban yang jelas mengenai siapa yang membuat keputusan tersebut—dan jawaban itu harus merujuk pada manusia, bukan algoritma. HITL menciptakan rantai akuntabilitas yang jelas: manusia yang memberikan persetujuan bertanggung jawab atas konsekuensinya. Hal ini sejalan dengan kerangka hukum seperti GDPR dan EU AI Act yang menekankan transparansi dan akuntabilitas dalam penggunaan AI.
4. Validasi dan Umpan Balik untuk Peningkatan AI
Proses HITL juga menciptakan loop umpan balik yang berharga. Ketika ahli manusia memvalidasi atau mengoreksi output AI, interaksi ini menghasilkan data berkualitas tinggi yang dapat digunakan untuk menyempurnakan model AI di masa depan. Di HackerOne Code, misalnya, validasi HITL menciptakan dua jenis loop umpan balik: memori spesifik sistem yang membuat AI lebih pintar dalam konteks tertentu, dan pembelajaran lintas-sistem yang meningkatkan akurasi umum AI.
Kerangka Kerja HITL dalam Keamanan AI
Berbagai kerangka kerja telah dikembangkan untuk mengimplementasikan HITL secara sistematis. Salah satunya adalah kerangka AURA (Agent aUtonomy Risk Assessment) yang menyediakan proses tujuh langkah untuk menilai dan memitigasi risiko dari AI agen, dengan HITL sebagai mekanisme penyempurnaan kritis ketika sistem mengidentifikasi ketidakpastian. Kerangka ini mencakup:
Dekomposisi—memecah agen AI menjadi tindakan-tindakan individual
Kontekstualisasi—memahami konteks operasional setiap tindakan
Identifikasi Dimensi Risiko—mengidentifikasi faktor-faktor risiko yang relevan
Penilaian Risiko—mengukur tingkat risiko
Profil Risiko—mengagregasi penilaian menjadi profil risiko terstruktur
Mitigasi—mengidentifikasi dan menerapkan langkah-langkah perlindungan
Observabilitas dan Kontrol—memastikan transparansi melalui mekanisme kontrol manusia
Penelitian lain mengusulkan kerangka HITL yang membedakan tiga tingkatan keterlibatan manusia: dari pengawasan pasif hingga interaksi aktif, dengan implikasi yang berbeda terhadap keamanan dan tanggung jawab hukum.
Ancaman terhadap HITL dan Cara Mengatasinya
Meskipun HITL dirancang sebagai lapisan keamanan, mekanisme ini sendiri memiliki kerentanan yang dapat dieksploitasi. Salah satu ancaman yang paling signifikan adalah serangan Lies-in-the-Loop (LITL), di mana penyerang memanipulasi konten dan presentasi dialog persetujuan HITL untuk menipu pengguna agar mengotorisasi operasi berbahaya yang tampak jinak.
Riset menunjukkan bahwa pada tingkat otonomi tertentu (seperti SAE Level 3 pada kendaraan otonom), eksploitasi kognitif seperti manipulasi kepercayaan dan degradasi kesadaran situasional menimbulkan risiko yang lebih besar daripada ancaman teknis murni.
Untuk mengatasi kerentanan ini, beberapa praktik terbaik direkomendasikan:
Kejelasan Dialog HITL—dialog persetujuan harus dirancang dengan jelas sehingga pengguna dapat dengan mudah mendeteksi perilaku mencurigakan
Sanitasi Markdown/HTML—output LLM yang digunakan dalam dialog HITL harus di-sanitasi untuk mencegah injeksi kode
Validasi Input—terutama dari sumber-sumber yang tidak terpercaya seperti halaman web atau email
Pencegahan Manipulasi Metadata—deskripsi ringkas tentang apa yang akan dilakukan AI tidak boleh dapat dimanipulasi
Implementasi HITL di Dunia Nyata
Keamanan Kode
HackerOne Code menerapkan metodologi HITL di mana AI melakukan analisis kode awal, dan jika keyakinan AI tidak mencapai ambang batas yang tinggi, kasus tersebut akan dieskalasi untuk validasi manual oleh lebih dari 600 ahli keamanan. Pendekatan ini memungkinkan penyelesaian sebagian besar validasi manual dalam waktu 90 menit sejak permintaan pull atau merge diajukan.
Pusat Operasi Keamanan (SOC)
Dalam konteks SOC, kerangka HITL memungkinkan distribusi tugas yang adaptif berdasarkan kompleksitas dan risiko operasional. AI membantu dalam pemantauan, deteksi ancaman, dan triase peringatan, sementara manusia tetap terlibat dalam keputusan kritis dan respons insiden.
Sistem Keselamatan Industri
Dalam kerangka SETTE untuk keselamatan operator di lingkungan Industry 5.0, HITL memastikan bahwa aturan keselamatan yang dihasilkan oleh AI divalidasi oleh ahli keselamatan sebelum diterapkan, melalui simulasi realitas tertambah yang memungkinkan penilaian kelayakan praktis.
Kesimpulan
Human-in-the-Loop bukanlah pengakuan atas kelemahan AI, melainkan strategi cerdas yang memanfaatkan kekuatan komplementer dari manusia dan mesin. Manusia membawa konteks, pertimbangan etis, kreativitas, dan akuntabilitas; AI memberikan kecepatan, skala, dan analisis data yang tak tertandingi. Dengan mengintegrasikan HITL sebagai lapisan keamanan, organisasi dapat memperoleh manfaat dari otonomi AI sambil mempertahankan kendali manusia atas keputusan-keputusan yang berdampak besar.
Namun, implementasi HITL tidak boleh bersifat seremonial. Diperlukan desain yang cermat, kejelasan dialog, mekanisme validasi yang robust, dan pemahaman tentang kerentanan yang mungkin muncul dari interaksi manusia-mesin. Ketika dirancang dengan baik, HITL menjadi lebih dari sekadar lapisan keamanan—ia menjadi fondasi bagi kolaborasi manusia-AI yang aman, bertanggung jawab, dan dapat dipercaya di era kecerdasan buatan yang semakin maju
