Perkembangan Large Language Model (LLM) telah membawa perubahan besar dalam berbagai sektor, seperti industri, transportasi, energi, dan layanan kesehatan. Teknologi ini mampu membantu pengguna dalam menganalisis data, menyusun dokumentasi teknis, membuat konfigurasi sistem, hingga memberikan rekomendasi untuk mendukung pengambilan keputusan. Berkat kemampuannya memahami bahasa alami, LLM menjadi salah satu teknologi yang banyak diterapkan dalam lingkungan kerja modern.
Namun, di balik berbagai keunggulannya, LLM memiliki kelemahan yang dikenal sebagai AI Hallucination atau halusinasi AI. Halusinasi terjadi ketika model menghasilkan informasi yang tampak benar dan meyakinkan, tetapi sebenarnya tidak akurat atau tidak sesuai dengan fakta. Jika kondisi ini dimanfaatkan oleh pelaku kejahatan siber, halusinasi LLM dapat menjadi celah keamanan yang berpotensi digunakan untuk menyerang Cyber-Physical System (CPS) dan mengganggu operasional sistem yang mengendalikan perangkat fisik.
Apa Itu Cyber-Physical System?
Cyber-Physical System (CPS) adalah sistem yang menggabungkan teknologi komputasi, jaringan komunikasi, dan perangkat fisik sehingga dapat bekerja secara otomatis serta saling bertukar informasi secara real-time. Sistem ini banyak digunakan pada infrastruktur penting karena mampu meningkatkan efisiensi, akurasi, dan kecepatan dalam proses pengendalian.
Beberapa contoh penerapan Cyber-Physical System antara lain:
Sistem kontrol pembangkit listrik.
Otomasi pabrik (Smart Factory).
Rumah sakit dengan perangkat medis pintar.
Sistem transportasi cerdas.
Kendaraan otonom.
Pada sistem tersebut, kesalahan informasi tidak hanya memengaruhi data digital, tetapi juga dapat berdampak langsung terhadap perangkat fisik, proses produksi, dan keselamatan operasional.
Halusinasi LLM dalam Lingkungan Cyber-Physical
LLM sering dimanfaatkan untuk membantu operator memahami konfigurasi perangkat, membuat skrip otomatisasi, menganalisis log sistem, maupun memberikan solusi ketika terjadi gangguan operasional. Penggunaan AI dapat mempercepat penyelesaian masalah dan meningkatkan produktivitas kerja.
Namun, apabila LLM mengalami halusinasi, model dapat memberikan instruksi atau rekomendasi yang salah. Misalnya, AI menyarankan konfigurasi jaringan industri yang keliru, memberikan langkah pemulihan sistem yang tidak sesuai prosedur, atau menghasilkan skrip yang mengandung kesalahan konfigurasi. Jika operator langsung menerapkan rekomendasi tersebut tanpa melakukan verifikasi, sistem dapat mengalami gangguan, berhenti beroperasi, bahkan menyebabkan kerusakan pada perangkat yang dikendalikan.
Cara Eksploitasi Halusinasi oleh Penyerang
Pelaku kejahatan siber dapat memanfaatkan kelemahan LLM melalui beberapa metode berikut.
1. Prompt Injection
Prompt Injection merupakan teknik dengan memberikan instruksi tertentu kepada AI agar menghasilkan jawaban yang menyimpang dari aturan keamanan. Penyerang dapat memanfaatkan teknik ini untuk membuat AI memberikan konfigurasi yang salah atau menghasilkan informasi yang menyesatkan operator.
2. Data Poisoning
Data Poisoning dilakukan dengan memanipulasi data pelatihan atau sumber informasi yang digunakan AI. Akibatnya, model mempelajari informasi yang tidak benar dan menghasilkan rekomendasi yang berpotensi membahayakan sistem.
3. Manipulasi Dokumentasi
Penyerang dapat menyisipkan informasi palsu ke dalam dokumentasi teknis yang menjadi referensi AI. Ketika pengguna meminta bantuan kepada LLM, model akan menghasilkan jawaban berdasarkan informasi yang telah dimanipulasi sehingga meningkatkan risiko kesalahan konfigurasi.
Dampak terhadap Cyber-Physical System
Eksploitasi halusinasi LLM dapat memberikan dampak yang serius terhadap Cyber-Physical System, antara lain:
Gangguan operasional pada sistem industri.
Kesalahan konfigurasi perangkat kontrol.
Terhentinya proses produksi.
Kerusakan mesin atau peralatan akibat pengaturan yang tidak tepat.
Meningkatnya risiko kecelakaan kerja.
Kerugian finansial akibat terganggunya operasional.
Penurunan kepercayaan terhadap sistem berbasis AI.
Pada infrastruktur penting seperti pembangkit listrik, rumah sakit, maupun sistem transportasi, kesalahan rekomendasi dari AI dapat mengganggu pelayanan dan berdampak langsung terhadap masyarakat.
Upaya Pencegahan
Untuk mengurangi risiko eksploitasi halusinasi LLM pada Cyber-Physical System, beberapa langkah yang dapat dilakukan antara lain:
Memverifikasi setiap rekomendasi AI sebelum diterapkan.
Menggunakan sumber data dan dokumentasi yang telah divalidasi.
Membatasi akses AI terhadap sistem kontrol yang bersifat kritis.
Melakukan pengujian keamanan secara berkala terhadap model AI.
Menerapkan mekanisme human-in-the-loop, yaitu keputusan akhir tetap berada pada operator atau ahli keamanan.
Memberikan pelatihan kepada pengguna agar memahami keterbatasan LLM dan tidak langsung mempercayai seluruh output AI.
Kesimpulan
Halusinasi pada Large Language Model (LLM) merupakan salah satu tantangan baru dalam keamanan Cyber-Physical System. Informasi yang tidak akurat dapat dimanfaatkan oleh pelaku kejahatan siber untuk mengganggu sistem industri, infrastruktur penting, maupun perangkat yang terhubung dengan dunia fisik. Oleh karena itu, penggunaan LLM dalam lingkungan kritis harus disertai proses verifikasi, pengawasan manusia, serta penerapan mekanisme keamanan yang kuat agar manfaat AI dapat dimaksimalkan tanpa meningkatkan risiko terhadap operasional sistem.
