Generative AI berkembang dengan sangat cepat dalam beberapa tahun terakhir. Teknologi ini dimanfaatkan untuk membantu menulis dokumen, membuat kode program, menghasilkan gambar, merangkum informasi, hingga mendukung layanan pelanggan melalui chatbot. Kemampuan tersebut membuat banyak organisasi mulai mengintegrasikan Generative AI ke dalam produk dan proses bisnis mereka.
Di balik berbagai kemudahan yang ditawarkan, aplikasi Generative AI memiliki tantangan keamanan yang berbeda dibandingkan aplikasi konvensional. Selain harus melindungi aplikasi dan infrastrukturnya, pengembang juga perlu memperhatikan keamanan model, data yang digunakan, interaksi pengguna, serta layanan pendukung yang terhubung melalui API. Jika aspek-aspek tersebut tidak diperhatikan, risiko penyalahgunaan maupun kebocoran informasi dapat meningkat.
Karena itu, keamanan tidak sebaiknya ditambahkan setelah aplikasi selesai dibangun. Risiko perlu dipetakan sejak tahap perancangan agar langkah perlindungan dapat diterapkan lebih awal. Salah satu pendekatan yang dapat digunakan adalah threat modelling, yaitu proses mengidentifikasi potensi ancaman berdasarkan arsitektur sistem, alur data, dan interaksi antar komponen.
1. Memahami Arsitektur Aplikasi Generative AI
Aplikasi Generative AI umumnya terdiri atas beberapa komponen yang saling terhubung. Pengguna berinteraksi melalui antarmuka aplikasi, kemudian permintaan dikirim ke layanan AI melalui API. Model AI memproses masukan tersebut dan menghasilkan respons yang selanjutnya dikirim kembali kepada pengguna.
Selain model AI, aplikasi juga dapat menggunakan basis data, penyimpanan dokumen, sistem autentikasi, layanan pencarian (retrieval), layanan pemantauan, hingga integrasi dengan aplikasi lain.
Karena banyaknya komponen yang saling berinteraksi, keamanan perlu diterapkan pada setiap bagian, bukan hanya pada model AI.
2. Mengapa Threat Modelling Penting?
Aplikasi Generative AI memiliki karakteristik yang berbeda dari aplikasi biasa karena menerima masukan bebas dari pengguna dan menghasilkan respons secara dinamis.
Kondisi tersebut membuka peluang munculnya risiko baru, seperti penyalahgunaan masukan, kebocoran informasi, penggunaan model di luar tujuan yang dirancang, maupun penyalahgunaan layanan melalui API.
Threat modelling membantu tim memahami bagaimana setiap komponen saling berinteraksi sehingga potensi ancaman dapat dikenali lebih awal.
3. Ancaman yang Sering Ditemukan pada Aplikasi Generative AI
Beberapa ancaman berikut sering muncul saat melakukan threat modelling.
Penyalahgunaan Prompt
Masukan yang diberikan pengguna dapat dirancang untuk memengaruhi perilaku model sehingga menghasilkan respons yang tidak sesuai dengan tujuan aplikasi.
Kebocoran Informasi
Jika aplikasi memiliki akses ke dokumen internal atau data pengguna, respons AI perlu dirancang agar tidak menampilkan informasi yang seharusnya tidak dapat diakses.
Penyalahgunaan API
API yang menghubungkan aplikasi dengan layanan AI perlu dilindungi agar tidak digunakan secara berlebihan atau oleh pihak yang tidak memiliki izin.
Akses Tanpa Izin
Pengelolaan autentikasi dan hak akses yang kurang baik dapat memungkinkan pengguna mengakses fitur atau data di luar kewenangannya.
Manipulasi Data Pendukung
Apabila aplikasi menggunakan basis pengetahuan atau dokumen sebagai sumber informasi, perubahan yang tidak sah pada data tersebut dapat memengaruhi kualitas jawaban yang dihasilkan AI.
Gangguan terhadap Ketersediaan Layanan
Lonjakan permintaan atau penyalahgunaan layanan dapat menyebabkan aplikasi menjadi lambat atau tidak dapat digunakan oleh pengguna lain.
4. Langkah-Langkah Threat Modelling
Threat modelling pada aplikasi Generative AI dapat dilakukan melalui beberapa tahapan berikut.
Petakan Seluruh Arsitektur
Identifikasi seluruh komponen, mulai dari antarmuka pengguna, API, model AI, basis data, layanan pendukung, hingga sistem pemantauan.
Analisis Alur Data
Pahami bagaimana permintaan pengguna diproses, bagaimana data digunakan oleh model, dan bagaimana respons dikirim kembali kepada pengguna.
Tentukan Aset yang Perlu Dilindungi
Model AI, data pengguna, dokumen internal, API, kredensial, dan konfigurasi sistem merupakan aset penting yang perlu diamankan.
Evaluasi Potensi Ancaman
Analisis kemungkinan penyalahgunaan prompt, kebocoran informasi, akses tanpa izin, penyalahgunaan API, maupun gangguan terhadap layanan.
Susun Strategi Mitigasi
Tentukan langkah pengamanan berdasarkan hasil analisis agar risiko dapat dikurangi sebelum aplikasi digunakan.
5. Praktik Keamanan untuk Aplikasi Generative AI
Threat modelling akan memberikan hasil yang lebih baik jika didukung oleh praktik keamanan yang diterapkan secara konsisten.
Beberapa langkah yang dapat dilakukan antara lain:
- menerapkan autentikasi dan otorisasi pada setiap layanan;
- membatasi akses model terhadap data sesuai kebutuhan;
- memvalidasi masukan pengguna sebelum diproses;
- mengamankan API menggunakan autentikasi, pembatasan permintaan, dan pemantauan aktivitas;
- mencatat aktivitas penting untuk mendukung proses audit;
- menguji aplikasi secara berkala guna menemukan potensi kerentanan;
- memperbarui model dan komponen pendukung sesuai kebutuhan keamanan.
Penerapan langkah-langkah tersebut membantu menjaga keamanan tanpa mengurangi pengalaman pengguna dalam memanfaatkan layanan AI.
6. Contoh Penerapan
Sebuah perusahaan mengembangkan chatbot berbasis Generative AI untuk membantu menjawab pertanyaan pelanggan mengenai produk dan layanan.
Saat melakukan threat modelling, tim menemukan bahwa chatbot memiliki akses ke seluruh dokumen internal perusahaan, meskipun sebagian informasi bersifat khusus untuk penggunaan internal. Selain itu, API yang digunakan belum memiliki pembatasan jumlah permintaan sehingga berpotensi disalahgunakan.
Berdasarkan hasil analisis, perusahaan membatasi akses chatbot hanya pada dokumen yang memang diperlukan, menerapkan autentikasi pada API, menambahkan pembatasan jumlah permintaan (rate limiting), serta melakukan pemantauan terhadap aktivitas yang tidak biasa.
Setelah perubahan tersebut diterapkan, chatbot tetap mampu memberikan jawaban yang relevan, sekaligus mengurangi risiko kebocoran informasi dan penyalahgunaan layanan.
7. Threat Modelling Perlu Mengikuti Perkembangan Aplikasi AI
Aplikasi Generative AI biasanya terus berkembang melalui pembaruan model, penambahan sumber data, integrasi dengan layanan baru, maupun penambahan fitur.
Setiap perubahan tersebut dapat menghadirkan risiko yang berbeda dari sebelumnya. Oleh karena itu, threat modelling perlu dilakukan secara berkala agar strategi keamanan selalu mengikuti perkembangan aplikasi.
Dengan evaluasi yang berkelanjutan, organisasi dapat mengembangkan layanan AI yang tetap aman tanpa menghambat proses inovasi.
KESIMPULAN
Generative AI menawarkan banyak peluang untuk meningkatkan produktivitas dan kualitas layanan. Namun, manfaat tersebut hanya dapat diperoleh secara optimal jika keamanan menjadi bagian dari proses pengembangannya sejak awal.
Melalui threat modelling, organisasi dapat memahami bagaimana aplikasi, model AI, data, dan layanan pendukung saling berinteraksi, mengenali titik-titik yang berpotensi menjadi sasaran ancaman, serta menentukan langkah mitigasi sebelum sistem digunakan. Dengan pendekatan ini, aplikasi Generative AI dapat berkembang menjadi solusi yang lebih aman, andal, dan mampu memberikan manfaat secara berkelanjutan bagi pengguna maupun organisasi.
