Large Language Model (LLM) menjadi salah satu teknologi yang paling banyak dibicarakan dalam perkembangan Artificial Intelligence (AI). Kemampuannya memahami bahasa alami dan menghasilkan respons yang menyerupai percakapan manusia membuat LLM dimanfaatkan di berbagai bidang, seperti layanan pelanggan, pengembangan perangkat lunak, pendidikan, riset, hingga analisis dokumen.
Seiring meningkatnya penggunaan LLM, tantangan keamanannya juga semakin kompleks. Model tidak hanya menerima masukan dari pengguna, tetapi sering kali terhubung dengan basis pengetahuan, API, layanan penyimpanan, maupun aplikasi lain. Kondisi tersebut menciptakan lebih banyak titik yang perlu diperhatikan agar sistem tetap aman dan informasi yang diproses tidak disalahgunakan.
Karena itu, organisasi perlu memandang keamanan LLM sebagai bagian dari proses pengembangan, bukan sekadar tahap tambahan setelah aplikasi selesai dibuat. Salah satu pendekatan yang dapat membantu adalah threat modelling, yaitu proses mengidentifikasi potensi ancaman berdasarkan arsitektur sistem, alur data, dan interaksi antar komponen sebelum layanan digunakan.
1. Memahami Cara Kerja Large Language Model
Large Language Model bekerja dengan memproses masukan berupa teks, kemudian menghasilkan respons berdasarkan pola yang dipelajari selama proses pelatihan. Dalam implementasinya, LLM sering menjadi bagian dari sebuah aplikasi yang lebih besar.
Sebuah sistem berbasis LLM umumnya terdiri atas antarmuka pengguna, layanan autentikasi, API, model bahasa, basis data, layanan pencarian dokumen (retrieval), sistem pencatatan aktivitas, hingga layanan pemantauan.
Karena seluruh komponen tersebut saling terhubung, keamanan harus diterapkan pada setiap bagian agar risiko dapat diminimalkan.
2. Mengapa Threat Modelling Penting untuk LLM?
Berbeda dengan aplikasi tradisional yang menjalankan fungsi tertentu, LLM menerima masukan yang sangat beragam dari pengguna. Respons yang dihasilkan juga bergantung pada data yang tersedia, konfigurasi sistem, serta layanan lain yang digunakan.
Jika tidak dirancang dengan baik, berbagai komponen tersebut dapat membuka peluang terjadinya penyalahgunaan, kebocoran informasi, maupun gangguan terhadap layanan.
Threat modelling membantu tim memahami hubungan antar komponen sehingga potensi ancaman dapat dikenali sebelum sistem digunakan.
3. Ancaman yang Sering Ditemukan pada Sistem Berbasis LLM
Berikut beberapa ancaman yang umum ditemukan saat melakukan threat modelling.
Penyalahgunaan Prompt
Pengguna dapat memberikan masukan yang dirancang untuk memengaruhi perilaku model sehingga menghasilkan jawaban yang tidak sesuai dengan tujuan aplikasi.
Kebocoran Informasi
LLM yang memiliki akses terhadap dokumen internal atau data pengguna perlu dibatasi agar tidak menampilkan informasi yang bersifat rahasia kepada pihak yang tidak berwenang.
Penyalahgunaan API
Sebagian besar layanan LLM diakses melalui API. Jika mekanisme autentikasi, otorisasi, maupun pembatasan penggunaan tidak diterapkan dengan baik, API dapat dimanfaatkan secara tidak semestinya.
Akses yang Tidak Terkendali
Hak akses yang tidak diatur dengan baik dapat memungkinkan pengguna mengakses fitur, data, atau sumber informasi yang seharusnya dibatasi.
Manipulasi Sumber Informasi
Jika LLM menggunakan dokumen eksternal atau basis pengetahuan sebagai sumber jawaban, perubahan yang tidak sah pada data tersebut dapat memengaruhi kualitas dan keakuratan respons.
Gangguan terhadap Ketersediaan Layanan
Permintaan dalam jumlah besar atau penggunaan yang tidak terkendali dapat memengaruhi performa layanan sehingga pengguna lain mengalami keterlambatan atau kesulitan mengakses sistem.
4. Langkah-Langkah Threat Modelling
Threat modelling pada sistem berbasis LLM dapat dilakukan melalui beberapa tahapan berikut.
Petakan Seluruh Arsitektur
Identifikasi seluruh komponen, mulai dari aplikasi pengguna, API, model bahasa, basis data, layanan pencarian informasi, hingga sistem pemantauan.
Analisis Alur Data
Pahami bagaimana permintaan pengguna diterima, diproses oleh model, menggunakan sumber informasi tambahan, dan menghasilkan respons.
Tentukan Aset yang Perlu Dilindungi
Model LLM, data pengguna, dokumen internal, API, kredensial, serta konfigurasi sistem merupakan aset yang perlu mendapatkan perlindungan.
Evaluasi Potensi Ancaman
Analisis kemungkinan penyalahgunaan prompt, kebocoran informasi, penyalahgunaan API, manipulasi sumber data, maupun gangguan terhadap layanan.
Susun Strategi Mitigasi
Tentukan langkah pengamanan berdasarkan hasil analisis agar risiko dapat dikurangi sebelum aplikasi digunakan.
5. Praktik Keamanan untuk Sistem Berbasis LLM
Threat modelling akan memberikan manfaat yang lebih besar jika didukung oleh praktik keamanan yang diterapkan secara konsisten.
Beberapa langkah yang dapat dilakukan antara lain:
menerapkan autentikasi dan otorisasi pada seluruh layanan;
membatasi akses model terhadap data berdasarkan kebutuhan;
memvalidasi masukan pengguna sebelum diproses oleh model;
mengamankan API menggunakan autentikasi, pembatasan permintaan, dan pemantauan aktivitas;
melakukan pencatatan aktivitas untuk mendukung proses audit;
menguji sistem secara berkala untuk menemukan potensi kerentanan;
memperbarui model maupun komponen pendukung sesuai kebutuhan keamanan.
Langkah-langkah tersebut membantu menjaga keamanan tanpa mengurangi kualitas layanan yang diberikan kepada pengguna.
6. Contoh Penerapan
Sebuah perusahaan mengembangkan asisten virtual berbasis Large Language Model untuk membantu karyawan mencari informasi dari dokumentasi internal perusahaan.
Saat melakukan threat modelling, tim menemukan bahwa model masih dapat mengakses seluruh dokumen internal tanpa pembatasan berdasarkan hak akses pengguna. Selain itu, layanan API belum menerapkan pembatasan jumlah permintaan sehingga berpotensi dimanfaatkan secara berlebihan.
Berdasarkan hasil analisis, perusahaan membatasi akses dokumen berdasarkan peran pengguna, memperkuat autentikasi API, menerapkan rate limiting, serta menambahkan pemantauan terhadap aktivitas yang tidak biasa.
Setelah perubahan tersebut diterapkan, sistem tetap mampu memberikan jawaban yang relevan, sekaligus mengurangi risiko kebocoran informasi dan penyalahgunaan layanan.
7. Threat Modelling Perlu Mengikuti Perkembangan LLM
Model bahasa terus berkembang melalui pembaruan versi, penambahan sumber data, integrasi dengan layanan baru, maupun perubahan kebutuhan organisasi.
Setiap perubahan tersebut dapat menghadirkan risiko baru yang sebelumnya belum ada. Oleh karena itu, threat modelling sebaiknya dilakukan secara berkala agar strategi keamanan tetap mengikuti perkembangan sistem.
Dengan evaluasi yang dilakukan secara berkelanjutan, organisasi dapat memanfaatkan kemampuan LLM tanpa mengabaikan aspek keamanan.
KESIMPULAN
Large Language Model telah menjadi fondasi bagi banyak layanan AI modern. Agar teknologi ini dapat dimanfaatkan secara optimal, keamanan harus menjadi bagian dari proses pengembangan sejak awal, bukan hanya sebagai langkah tambahan ketika sistem sudah berjalan.
Melalui threat modelling, organisasi dapat memahami bagaimana model bahasa, data, API, dan layanan pendukung saling berinteraksi, mengenali titik-titik yang berpotensi menjadi sasaran ancaman, serta menentukan langkah mitigasi sebelum layanan digunakan. Dengan pendekatan ini, sistem berbasis LLM dapat dikembangkan menjadi solusi yang lebih aman, andal, serta mampu memberikan manfaat jangka panjang bagi pengguna maupun organisasi.
