Semakin berkembangnya Artificial Intelligence (AI) telah mendorong terciptanya sistem yang mampu mengambil keputusan dan menjalankan berbagai tugas secara otomatis. Pada awalnya, AI hanya berfungsi sebagai alat bantu yang memberikan rekomendasi kepada manusia. Namun, saat ini AI telah berkembang menjadi sistem yang mampu mengelola proses bisnis, mengendalikan mesin, mengatur lalu lintas, hingga membantu pengambilan keputusan di berbagai sektor secara lebih mandiri.
Perkembangan tersebut memunculkan berbagai model interaksi antara manusia dan AI. Salah satu model yang paling dikenal adalah Human-in-the-Loop (HITL), yaitu pendekatan di mana manusia terlibat langsung dalam setiap keputusan penting yang diambil AI. Namun, seiring meningkatnya kemampuan AI, muncul pula dua konsep lain, yaitu Human-on-the-Loop (HOTL) dan Human-out-of-the-Loop (HOOTL). Ketiga konsep ini menggambarkan tingkat keterlibatan manusia yang berbeda dalam mengawasi dan mengendalikan sistem AI.
Pada model Human-on-the-Loop, AI menjalankan tugas secara otomatis, tetapi manusia tetap mengawasi jalannya sistem dan dapat melakukan intervensi apabila diperlukan. Sebaliknya, pada model Human-out-of-the-Loop, AI beroperasi sepenuhnya secara mandiri tanpa keterlibatan manusia selama proses pengambilan keputusan berlangsung. Meskipun model terakhir menawarkan efisiensi yang tinggi, pendekatan tersebut juga menimbulkan berbagai tantangan etika, terutama terkait keselamatan, akuntabilitas, transparansi, dan perlindungan hak manusia.
Dalam kerangka Responsible AI, pemilihan model interaksi antara manusia dan AI harus mempertimbangkan tingkat risiko dari tugas yang dilakukan. Semakin besar dampak keputusan terhadap kehidupan manusia, semakin penting keterlibatan manusia dalam proses tersebut. Oleh karena itu, organisasi perlu menentukan tingkat pengawasan yang sesuai agar AI dapat memberikan manfaat secara optimal tanpa mengurangi keselamatan dan kepercayaan masyarakat.
Artikel ini membahas konsep Human-on-the-Loop dan Human-out-of-the-Loop, perbedaannya dengan Human-in-the-Loop, manfaat dan tantangannya, serta penerapan prinsip Responsible AI dalam menentukan tingkat pengawasan manusia terhadap sistem AI.
Pengertian Human-on-the-Loop
Human-on-the-Loop (HOTL) adalah model penggunaan AI di mana sistem AI dapat mengambil keputusan dan menjalankan tindakan secara otomatis, sementara manusia bertugas mengawasi jalannya sistem dan memiliki kemampuan untuk melakukan intervensi apabila diperlukan.
Pada model ini, manusia tidak menyetujui setiap keputusan AI satu per satu, tetapi tetap memantau kinerja AI secara keseluruhan.
Pengertian Human-out-of-the-Loop
Human-out-of-the-Loop (HOOTL) adalah model penggunaan AI di mana sistem AI mengambil keputusan dan menjalankan tindakan secara mandiri tanpa keterlibatan manusia selama proses operasional berlangsung.
Dalam model ini, manusia biasanya hanya berperan pada tahap perancangan, pengembangan, atau pemeliharaan sistem, bukan pada proses pengambilan keputusan sehari-hari.
Perbedaan Human-in-the-Loop, Human-on-the-Loop, dan Human-out-of-the-Loop
Model
Peran Manusia
Tingkat Otonomi AI
Human-in-the-Loop (HITL)
Manusia terlibat langsung dalam setiap keputusan penting.
Rendah hingga sedang
Human-on-the-Loop (HOTL)
Manusia mengawasi AI dan dapat melakukan intervensi jika diperlukan.
Sedang hingga tinggi
Human-out-of-the-Loop (HOOTL)
AI bekerja secara mandiri tanpa campur tangan manusia selama operasional.
Sangat tinggi
Manfaat Human-on-the-Loop
1. Efisiensi Tinggi
AI dapat bekerja secara otomatis tanpa harus menunggu persetujuan manusia pada setiap tindakan.
2. Tetap Memiliki Pengawasan
Manusia masih dapat menghentikan atau mengoreksi AI apabila terjadi kesalahan.
3. Cocok untuk Sistem Skala Besar
HOTL sesuai digunakan pada sistem yang membutuhkan respons cepat tetapi tetap memerlukan pengawasan.
4. Mengurangi Beban Operator
Operator hanya menangani situasi yang tidak dapat diselesaikan oleh AI.
Risiko Human-on-the-Loop
1. Pengawasan Kurang Optimal
Operator mungkin tidak mampu memantau seluruh aktivitas AI secara terus-menerus.
2. Reaksi Terlambat
Pada kondisi tertentu, manusia mungkin terlambat melakukan intervensi ketika AI melakukan kesalahan.
3. Ketergantungan pada Otomatisasi
Pengguna dapat menjadi terlalu percaya terhadap keputusan AI sehingga kurang melakukan evaluasi secara kritis.
Manfaat Human-out-of-the-Loop
1. Kecepatan Maksimal
AI dapat mengambil keputusan dalam waktu yang sangat singkat.
2. Efisiensi Operasional
Seluruh proses dapat berjalan secara otomatis tanpa memerlukan operator.
3. Konsistensi
AI menjalankan aturan yang sama secara terus-menerus tanpa dipengaruhi kelelahan atau emosi.
Risiko Human-out-of-the-Loop
1. Tidak Ada Pengawasan Langsung
Kesalahan AI dapat berlangsung tanpa segera diketahui oleh manusia.
2. Sulit Menentukan Tanggung Jawab
Apabila terjadi kerugian, proses penentuan pihak yang bertanggung jawab menjadi lebih kompleks.
3. Risiko Keselamatan
Pada sektor yang berdampak tinggi, kesalahan AI dapat membahayakan manusia.
4. Potensi Bias
AI dapat terus menghasilkan keputusan yang bias apabila tidak dilakukan evaluasi secara berkala.
Contoh Penerapan
Human-in-the-Loop
diagnosis medis oleh dokter dengan bantuan AI;
seleksi akhir calon pegawai;
keputusan pemberian kredit bernilai besar.
Human-on-the-Loop
robot industri yang diawasi operator;
pengaturan lalu lintas cerdas;
sistem keamanan jaringan yang diawasi administrator.
Human-out-of-the-Loop
sistem pendingin otomatis pada pusat data;
pengaturan pencahayaan otomatis;
sistem irigasi otomatis berdasarkan sensor lingkungan.
Kapan Masing-Masing Model Digunakan?
Risiko Rendah
Untuk tugas yang memiliki risiko rendah, seperti pengaturan suhu ruangan atau penyiraman otomatis, Human-out-of-the-Loop dapat menjadi pilihan yang efisien.
Risiko Menengah
Untuk proses bisnis yang memerlukan pemantauan tetapi tidak selalu membutuhkan persetujuan manusia, Human-on-the-Loop lebih sesuai.
Risiko Tinggi
Untuk keputusan yang memengaruhi keselamatan, kesehatan, hak hukum, atau masa depan seseorang, Human-in-the-Loop merupakan pendekatan yang paling aman.
Hubungan dengan Responsible AI
Ketiga model tersebut harus menerapkan prinsip Responsible AI.
Human Oversight
Tingkat pengawasan manusia harus disesuaikan dengan tingkat risiko penggunaan AI.
Transparency
Organisasi harus memahami bagaimana AI mengambil keputusan.
Accountability
Tanggung jawab tetap berada pada organisasi dan manusia yang mengembangkan maupun menggunakan AI.
Fairness
AI harus menghasilkan keputusan yang adil tanpa diskriminasi.
Safety
Sistem AI harus diuji dan dipantau agar tidak membahayakan manusia.
Privacy
Penggunaan data tetap harus menghormati hak privasi pengguna.
Strategi Menentukan Model yang Tepat
1. Analisis Tingkat Risiko
Evaluasi dampak yang mungkin terjadi apabila AI melakukan kesalahan.
2. Pertimbangkan Keselamatan
Semakin tinggi risiko terhadap manusia, semakin besar kebutuhan pengawasan manusia.
3. Evaluasi Kemampuan AI
Pastikan AI telah melalui pengujian yang memadai sebelum diberikan tingkat otonomi yang lebih tinggi.
4. Siapkan Mekanisme Intervensi
Walaupun menggunakan HOTL atau HOOTL, organisasi tetap perlu memiliki prosedur untuk menghentikan sistem apabila terjadi kondisi yang tidak diharapkan.
5. Lakukan Audit Berkala
Seluruh sistem AI perlu dievaluasi secara rutin untuk memastikan kinerja, keamanan, dan kepatuhan terhadap standar etika.
Masa Depan Interaksi Manusia dan AI
Di masa depan, penggunaan Human-in-the-Loop, Human-on-the-Loop, dan Human-out-of-the-Loop akan semakin disesuaikan dengan tingkat risiko dan kompleksitas tugas. Sistem AI diperkirakan akan menjadi semakin mandiri, tetapi pengawasan manusia tetap menjadi bagian penting dalam menjaga keamanan, keadilan, dan kepercayaan masyarakat.
Pendekatan yang paling efektif bukanlah menggantikan manusia sepenuhnya, melainkan membangun kolaborasi yang seimbang antara kemampuan analisis AI dan pertimbangan etika serta pengalaman manusia. Dengan demikian, AI dapat dimanfaatkan secara maksimal tanpa mengurangi tanggung jawab manusia terhadap keputusan yang diambil.
Kesimpulan
Human-on-the-Loop dan Human-out-of-the-Loop merupakan dua model penting dalam pengelolaan sistem AI yang memiliki tingkat otonomi tinggi. Human-on-the-Loop memungkinkan AI bekerja secara otomatis dengan pengawasan manusia, sedangkan Human-out-of-the-Loop memberikan kewenangan penuh kepada AI selama proses operasional.
Pemilihan model yang tepat harus mempertimbangkan tingkat risiko, dampak terhadap manusia, serta kebutuhan akan keselamatan dan akuntabilitas. Dengan menerapkan prinsip Responsible AI, seperti Human Oversight, Transparency, Accountability, Fairness, Safety, dan Privacy, organisasi dapat menentukan tingkat keterlibatan manusia yang sesuai sehingga AI menjadi teknologi yang aman, andal, dan memberikan manfaat bagi masyarakat.
