Perkembangan Artificial Intelligence (AI), khususnya Large Language Model (LLM), telah mendorong transformasi besar dalam pengelolaan Infrastruktur Informasi Vital (IIV) atau Critical Information Infrastructure (CII). AI kini digunakan untuk membantu mendeteksi ancaman siber, memantau jaringan secara real-time, menganalisis log keamanan, mengidentifikasi anomali, hingga mendukung pengambilan keputusan pada sektor-sektor penting seperti energi, perbankan, telekomunikasi, kesehatan, transportasi, dan pemerintahan.
Penggunaan AI mampu meningkatkan kecepatan analisis dan efisiensi operasional. Namun, di sisi lain, AI masih memiliki kelemahan berupa halusinasi (AI Hallucination), yaitu kondisi ketika model menghasilkan informasi yang tampak benar dan meyakinkan, tetapi sebenarnya tidak akurat atau tidak memiliki dasar fakta. Pada lingkungan infrastruktur informasi vital, kesalahan tersebut dapat berdampak jauh lebih besar dibandingkan sistem biasa karena dapat mengganggu layanan publik, menyebabkan kegagalan operasional, hingga mengancam keamanan nasional.
Oleh karena itu, pengelolaan risiko halusinasi AI harus menjadi bagian dari strategi keamanan siber organisasi. Berbagai pedoman internasional, termasuk NIST AI Risk Management Framework (AI RMF) dan panduan keamanan AI untuk infrastruktur kritis, menekankan pentingnya tata kelola AI, validasi output, pemantauan berkelanjutan, serta pengawasan manusia dalam lingkungan yang berisiko tinggi.
Infrastruktur Informasi Vital
Infrastruktur Informasi Vital merupakan sistem teknologi informasi yang mendukung layanan penting bagi masyarakat dan negara.
Contohnya meliputi:
Sistem kelistrikan nasional.
Jaringan telekomunikasi.
Sistem perbankan dan pembayaran.
Rumah sakit dan layanan kesehatan.
Transportasi udara, laut, dan darat.
Pusat data pemerintah.
Sistem pengelolaan air bersih.
Gangguan pada sektor-sektor tersebut dapat menimbulkan dampak ekonomi, sosial, bahkan keamanan nasional.
Risiko Halusinasi AI pada Infrastruktur Vital
Ketika AI digunakan dalam lingkungan kritis, halusinasi dapat menyebabkan berbagai risiko, antara lain:
Kesalahan mendeteksi ancaman siber.
Salah mengidentifikasi kondisi sistem.
Rekomendasi mitigasi yang tidak sesuai.
Konfigurasi keamanan yang keliru.
Alarm palsu (false positive) maupun ancaman yang tidak terdeteksi (false negative).
Gangguan terhadap layanan publik.
Karena itu, setiap rekomendasi AI harus diperlakukan sebagai masukan yang perlu diverifikasi, bukan keputusan final.
Faktor Penyebab Risiko
Beberapa faktor yang meningkatkan risiko halusinasi AI pada infrastruktur vital meliputi:
1. Data Tidak Lengkap
Model menerima informasi yang tidak memadai sehingga menghasilkan kesimpulan yang salah.
2. Informasi Tidak Terbarui
Basis pengetahuan AI yang sudah usang dapat menghasilkan rekomendasi yang tidak lagi sesuai dengan kondisi operasional.
3. Prompt yang Ambigu
Instruksi yang tidak jelas membuat AI menafsirkan permintaan secara keliru.
4. Integrasi Otomatis
Sistem yang langsung mengeksekusi rekomendasi AI tanpa validasi meningkatkan risiko kesalahan.
5. Kurangnya Pengawasan
Tidak adanya proses verifikasi oleh manusia menyebabkan kesalahan AI lebih mudah masuk ke sistem produksi.
Strategi Pengelolaan Risiko
1. Human-in-the-Loop (HITL)
Keputusan yang berdampak terhadap layanan vital harus melalui persetujuan analis keamanan atau operator yang berwenang.
2. Retrieval-Augmented Generation (RAG)
Model dihubungkan dengan dokumentasi teknis, prosedur operasional, dan basis data resmi agar jawaban lebih akurat.
3. Output Validation
Seluruh rekomendasi AI diverifikasi sebelum diterapkan pada sistem operasional.
4. Continuous Monitoring
Organisasi memantau performa AI, tingkat halusinasi, serta perubahan perilaku model secara berkelanjutan.
5. Audit dan Logging
Seluruh aktivitas AI dicatat sehingga proses investigasi dapat dilakukan apabila terjadi insiden.
6. Zero Trust terhadap Output AI
Output AI tidak langsung dipercaya. Setiap rekomendasi harus melalui proses validasi sebelum digunakan pada infrastruktur penting.
Contoh Skenario
Sebuah perusahaan penyedia listrik menggunakan LLM untuk membantu tim Security Operations Center (SOC) menganalisis log keamanan dari jaringan SCADA dan pusat data.
Suatu hari, AI mendeteksi aktivitas tertentu sebagai serangan siber dan merekomendasikan pemutusan koneksi salah satu sistem kontrol. Sebelum tindakan dilakukan, mekanisme Output Validation dan Human-in-the-Loop mengharuskan analis keamanan memeriksa kembali data log serta membandingkannya dengan dokumentasi operasional.
Hasil pemeriksaan menunjukkan bahwa aktivitas tersebut merupakan proses pemeliharaan terjadwal, bukan serangan. Karena organisasi menerapkan pengendalian berlapis, keputusan otomatis dibatalkan sehingga layanan kelistrikan tetap berjalan normal. Skenario seperti ini menunjukkan bahwa pengawasan manusia tetap menjadi komponen penting dalam pengelolaan AI pada infrastruktur vital.
Manfaat Pengelolaan Risiko
Penerapan strategi mitigasi memberikan berbagai manfaat, antara lain:
Mengurangi dampak halusinasi AI.
Meningkatkan keandalan sistem AI.
Memperkuat keamanan infrastruktur vital.
Mengurangi risiko gangguan layanan publik.
Mendukung kepatuhan terhadap standar keamanan.
Meningkatkan kepercayaan terhadap teknologi AI.
Tantangan Implementasi
Beberapa tantangan yang masih dihadapi organisasi meliputi:
Kompleksitas infrastruktur yang sangat besar.
Integrasi AI dengan sistem lama (legacy systems).
Perubahan ancaman siber yang cepat.
Sulit mengukur seluruh bentuk halusinasi AI.
Keterbatasan tenaga ahli yang memahami AI sekaligus keamanan infrastruktur kritis.
Rekomendasi
Agar risiko halusinasi AI dapat dikelola secara efektif pada infrastruktur informasi vital, organisasi disarankan untuk:
Menggunakan Retrieval-Augmented Generation (RAG) yang terhubung dengan sumber data operasional resmi.
Menerapkan Human-in-the-Loop (HITL) pada seluruh keputusan yang berdampak terhadap layanan kritis.
Mengintegrasikan Output Validation, Guardrails AI, dan Context Filtering sebelum rekomendasi AI diterapkan.
Mengadopsi NIST AI Risk Management Framework (AI RMF) sebagai dasar pengelolaan risiko AI, terutama untuk lingkungan infrastruktur kritis.
Melakukan audit, Red Teaming, dan continuous monitoring secara berkala untuk mengevaluasi ketahanan sistem AI.
Menyusun rencana respons insiden khusus untuk sistem AI sehingga organisasi siap menghadapi gangguan yang melibatkan model AI maupun output yang berhalusinasi. Panduan terbaru juga menekankan perlunya tata kelola AI, kontrol hak akses, pemantauan berkelanjutan, dan pengawasan manusia pada sistem AI yang digunakan di lingkungan infrastruktur kritis.
Kesimpulan
Penggunaan AI pada infrastruktur informasi vital memberikan manfaat besar dalam meningkatkan efisiensi operasional dan kemampuan deteksi ancaman siber. Namun, risiko halusinasi AI dapat menimbulkan konsekuensi serius apabila hasil yang tidak akurat langsung digunakan untuk mengambil keputusan pada sistem yang mendukung layanan penting. Oleh karena itu, organisasi perlu menerapkan pendekatan yang menggabungkan Human-in-the-Loop, Retrieval-Augmented Generation (RAG), Output Validation, Zero Trust, audit, serta monitoring berkelanjutan. Dengan tata kelola yang baik dan pengendalian yang tepat, AI dapat dimanfaatkan secara optimal tanpa mengurangi keandalan, keamanan, dan ketersediaan infrastruktur informasi vital.
