Perkembangan Artificial Intelligence tidak lagi berhenti pada chatbot atau sistem yang hanya memberikan jawaban berdasarkan pertanyaan pengguna. Kini mulai banyak organisasi mengembangkan Agentic AI, yaitu sistem AI yang mampu merencanakan langkah, mengambil keputusan, menggunakan berbagai alat (tools), hingga menyelesaikan suatu tugas secara lebih mandiri.
Sebagai contoh, sebuah agen AI dapat menerima permintaan untuk membuat laporan penjualan. Untuk menyelesaikannya, sistem dapat mengambil data dari basis data, mengolah informasi, membuat ringkasan, lalu mengirimkan hasilnya melalui email tanpa memerlukan campur tangan pengguna pada setiap tahap. Kemampuan tersebut membuka banyak peluang untuk meningkatkan efisiensi kerja, tetapi juga menghadirkan tantangan keamanan yang lebih kompleks.
Berbeda dengan aplikasi AI biasa, Agentic AI memiliki lebih banyak interaksi dengan sistem lain. Agen dapat mengakses API, basis data, layanan penyimpanan, aplikasi bisnis, hingga menjalankan tindakan tertentu atas nama pengguna. Karena itu, setiap kemampuan tambahan juga memperluas potensi risiko yang perlu dipahami sejak tahap perancangan.
1. Memahami Cara Kerja Agentic AI
Agentic AI dirancang untuk menjalankan serangkaian tugas secara otomatis berdasarkan tujuan yang diberikan oleh pengguna.
Dalam praktiknya, sistem ini biasanya terdiri atas beberapa komponen seperti antarmuka pengguna, model AI, planner yang menentukan langkah kerja, memori, layanan API, berbagai alat (tools), basis data, serta sistem pemantauan.
Seluruh komponen tersebut saling berinteraksi untuk membantu agen mengambil keputusan dan menyelesaikan tugas yang diberikan.
2. Mengapa Threat Modelling Penting?
Semakin banyak kemampuan yang dimiliki agen AI, semakin besar pula tanggung jawab dalam mengelola risikonya.
Kesalahan konfigurasi, hak akses yang terlalu luas, atau integrasi yang kurang aman dapat menyebabkan agen menjalankan tindakan yang tidak semestinya, mengakses informasi sensitif, atau memengaruhi sistem lain.
Threat modelling membantu tim memahami hubungan antar komponen sehingga potensi ancaman dapat dikenali sebelum sistem digunakan di lingkungan produksi.
3. Ancaman yang Sering Ditemukan pada Sistem Agentic AI
Berikut beberapa ancaman yang umum ditemukan saat melakukan threat modelling.
Hak Akses yang Terlalu Luas
Agen AI sebaiknya hanya memiliki izin yang benar-benar diperlukan. Hak akses yang berlebihan dapat meningkatkan dampak apabila sistem mengalami penyalahgunaan.
Penyalahgunaan Tool
Agentic AI sering menggunakan berbagai alat seperti layanan email, sistem penyimpanan, API, atau basis data. Jika penggunaan alat tersebut tidak dibatasi, agen dapat menjalankan tindakan yang tidak diinginkan.
Manipulasi Instruksi
Instruksi yang diterima agen dapat dirancang untuk memengaruhi proses pengambilan keputusan sehingga agen melakukan tindakan di luar tujuan awal.
Kebocoran Informasi
Agen yang memiliki akses terhadap dokumen internal, data pelanggan, atau informasi bisnis perlu dibatasi agar tidak mengungkapkan data kepada pihak yang tidak berwenang.
Penyalahgunaan API
API yang digunakan oleh agen perlu dilindungi dengan autentikasi, otorisasi, dan pembatasan penggunaan agar tidak dimanfaatkan secara tidak sah.
Gangguan terhadap Operasional
Karena Agentic AI dapat menjalankan banyak proses secara otomatis, gangguan pada satu komponen dapat memengaruhi keseluruhan alur kerja yang dijalankan oleh agen.
4. Langkah-Langkah Threat Modelling
Threat modelling pada sistem Agentic AI dapat dilakukan melalui beberapa tahapan berikut.
Petakan Seluruh Arsitektur
Identifikasi seluruh komponen, termasuk model AI, planner, memori, API, tool, basis data, layanan eksternal, dan pengguna.
Analisis Alur Kerja Agen
Pahami bagaimana agen menerima tujuan, menyusun rencana, mengakses tool, memproses data, dan menghasilkan tindakan.
Tentukan Aset yang Perlu Dilindungi
Model AI, kredensial API, data pengguna, dokumen internal, konfigurasi sistem, serta layanan yang digunakan agen merupakan aset penting yang perlu diamankan.
Evaluasi Potensi Ancaman
Analisis kemungkinan penyalahgunaan tool, manipulasi instruksi, akses tanpa izin, kebocoran data, maupun gangguan terhadap operasional sistem.
Susun Strategi Mitigasi
Tentukan langkah pengamanan berdasarkan hasil analisis agar risiko dapat dikurangi sebelum sistem diterapkan.
5. Praktik Keamanan untuk Sistem Agentic AI
Threat modelling akan memberikan hasil yang lebih baik jika diikuti dengan penerapan praktik keamanan secara konsisten.
Beberapa langkah yang dapat diterapkan antara lain:
- memberikan hak akses sesuai prinsip least privilege sehingga agen hanya memperoleh izin yang diperlukan;
- membatasi tindakan yang dapat dilakukan oleh setiap tool;
- menerapkan autentikasi dan otorisasi pada seluruh API;
- memverifikasi setiap tindakan yang memiliki dampak besar sebelum dieksekusi;
- mencatat seluruh aktivitas agen untuk mendukung proses audit;
- memantau penggunaan tool dan layanan secara berkelanjutan;
- melakukan pengujian keamanan setiap kali terdapat perubahan pada model, workflow, maupun integrasi baru.
Langkah-langkah tersebut membantu mengurangi risiko tanpa menghambat kemampuan agen dalam menyelesaikan tugasnya.
6. Contoh Penerapan
Sebuah perusahaan mengembangkan Agentic AI untuk membantu tim operasional. Agen tersebut dapat mengambil data penjualan, membuat laporan, mengirimkan email kepada manajer, serta memperbarui status pekerjaan melalui aplikasi internal.
Saat melakukan threat modelling, tim menemukan bahwa agen memiliki akses ke seluruh basis data perusahaan meskipun hanya membutuhkan sebagian informasi. Selain itu, agen dapat mengirim email tanpa mekanisme persetujuan untuk tindakan tertentu.
Berdasarkan hasil analisis, perusahaan membatasi akses data berdasarkan kebutuhan tugas, menerapkan autentikasi yang lebih kuat pada layanan API, menetapkan proses persetujuan untuk tindakan yang berdampak tinggi, serta mengaktifkan pencatatan aktivitas agar setiap tindakan agen dapat ditelusuri.
Perubahan tersebut membuat agen tetap mampu bekerja secara otomatis, tetapi dengan kontrol keamanan yang lebih baik.
7. Threat Modelling Harus Mengikuti Perkembangan Agentic AI
Kemampuan Agentic AI akan terus berkembang melalui penambahan tool, integrasi dengan sistem baru, pembaruan model, maupun peningkatan kemampuan dalam mengambil keputusan.
Setiap perubahan tersebut dapat memunculkan risiko yang sebelumnya belum ada. Oleh karena itu, threat modelling perlu menjadi bagian dari siklus pengembangan dan pemeliharaan sistem agar strategi keamanan selalu mengikuti perkembangan teknologi.
Dengan evaluasi yang dilakukan secara berkala, organisasi dapat memanfaatkan otomatisasi yang ditawarkan Agentic AI tanpa mengabaikan aspek keamanan.
KESIMPULAN
Agentic AI menawarkan cara baru dalam mengotomatisasi pekerjaan dengan kemampuan merencanakan dan menjalankan tugas secara lebih mandiri. Namun, semakin besar tingkat otonomi yang dimiliki sebuah sistem, semakin penting pula memastikan bahwa setiap tindakan dilakukan dalam batas yang telah ditentukan.
Melalui threat modelling, organisasi dapat memahami bagaimana agen AI berinteraksi dengan pengguna, data, layanan, dan berbagai alat pendukung, mengenali titik-titik yang berpotensi menjadi sasaran ancaman, serta menentukan langkah mitigasi sebelum sistem digunakan. Dengan pendekatan tersebut, Agentic AI dapat dikembangkan menjadi solusi yang lebih aman, terkendali, dan mampu memberikan manfaat jangka panjang tanpa mengorbankan keamanan organisasi.
