Perkembangan Artificial Intelligence (AI), khususnya Large Language Model (LLM), telah membantu pengembang perangkat lunak dalam menulis kode, mencari referensi, dan merekomendasikan pustaka (software package) yang diperlukan dalam proses pengembangan aplikasi. Meskipun memberikan banyak manfaat, LLM juga memiliki kelemahan berupa Package Hallucination, yaitu kondisi ketika AI merekomendasikan nama paket perangkat lunak yang sebenarnya tidak ada atau memberikan informasi yang tidak akurat mengenai sebuah pustaka.
Kelemahan ini mulai dimanfaatkan oleh pelaku kejahatan siber sebagai teknik baru untuk menyerang rantai pasok perangkat lunak (Software Supply Chain). Peretas dapat membuat paket berbahaya menggunakan nama yang direkomendasikan AI, sehingga pengembang yang tidak melakukan verifikasi berisiko menginstal perangkat lunak berbahaya ke dalam proyek mereka.
Apa Itu Package Hallucination?
Package Hallucination adalah kondisi ketika AI menghasilkan nama pustaka, library, atau package yang tampak meyakinkan tetapi sebenarnya tidak tersedia pada repositori resmi atau tidak pernah dibuat oleh pengembang asli.
Sebagai contoh, seorang pengembang meminta AI merekomendasikan library untuk melakukan enkripsi data. AI kemudian menyebutkan nama package yang terdengar valid, tetapi package tersebut sebenarnya tidak ada. Apabila peretas lebih dahulu membuat package dengan nama tersebut dan mengunggahnya ke repositori publik, pengembang dapat secara tidak sengaja menginstalnya.
Hubungan Package Hallucination dengan Supply Chain Attack
Software Supply Chain Attack adalah serangan yang menargetkan komponen atau dependensi yang digunakan dalam proses pengembangan perangkat lunak. Ketika AI menghasilkan nama package yang salah, pelaku kejahatan siber dapat memanfaatkan kondisi tersebut dengan membuat package palsu yang mengandung malware atau kode berbahaya.
Jika package tersebut diunduh dan digunakan dalam proyek, kode berbahaya dapat ikut dijalankan saat aplikasi dikompilasi atau dijalankan sehingga meningkatkan risiko kompromi sistem.
Cara Peretas Memanfaatkan Package Hallucination
Beberapa teknik yang dapat digunakan pelaku kejahatan siber antara lain:
1. Membuat Package Palsu
Peretas membuat package dengan nama yang mirip atau sama dengan nama yang sering dihasilkan oleh AI, kemudian mengunggahnya ke repositori publik.
2. Menyisipkan Malware
Package palsu dapat berisi malware, backdoor, spyware, atau script yang mencuri data ketika diinstal oleh pengembang.
3. Memanfaatkan Kepercayaan terhadap AI
Pengembang yang terlalu mengandalkan rekomendasi AI tanpa melakukan verifikasi berpotensi langsung menggunakan package yang sebenarnya berbahaya.
4. Menargetkan Rantai Pasok Perangkat Lunak
Ketika package berbahaya digunakan dalam suatu proyek, ancaman dapat menyebar ke aplikasi lain yang bergantung pada proyek tersebut sehingga memperluas dampak serangan.
Dampak terhadap Keamanan Perangkat Lunak
Eksploitasi Package Hallucination dapat menimbulkan berbagai dampak, antara lain:
Terpasangnya package berbahaya pada proyek pengembangan.
Kebocoran kode sumber dan data sensitif.
Penyisipan malware atau backdoor ke dalam aplikasi.
Kompromi terhadap rantai pasok perangkat lunak.
Gangguan terhadap proses pengembangan dan distribusi aplikasi.
Kerugian finansial dan reputasi organisasi.
Menurunnya kepercayaan terhadap penggunaan AI dalam proses pengembangan perangkat lunak.
Serangan ini sangat berbahaya karena dapat memengaruhi tidak hanya satu aplikasi, tetapi juga seluruh ekosistem perangkat lunak yang menggunakan dependensi tersebut.
Upaya Pencegahan
Untuk mengurangi risiko Package Hallucination, beberapa langkah yang dapat diterapkan antara lain:
Memverifikasi nama package melalui repositori resmi sebelum menginstalnya.
Menggunakan package yang memiliki dokumentasi, riwayat pembaruan, dan komunitas yang jelas.
Memeriksa jumlah unduhan, reputasi, dan identitas pengembang package.
Melakukan pemindaian keamanan (security scanning) terhadap setiap dependensi yang digunakan.
Menggunakan alat Software Composition Analysis (SCA) untuk memantau keamanan package.
Tidak langsung mempercayai rekomendasi AI tanpa proses validasi.
Memperbarui dependensi secara berkala untuk mengurangi risiko eksploitasi.
Kesimpulan
Package Hallucination merupakan salah satu risiko baru yang muncul seiring meningkatnya penggunaan AI dalam pengembangan perangkat lunak. Dengan memanfaatkan nama package yang dihasilkan secara keliru oleh AI, pelaku kejahatan siber dapat melakukan serangan terhadap rantai pasok perangkat lunak (Software Supply Chain) melalui penyebaran package berbahaya. Oleh karena itu, pengembang perlu melakukan verifikasi terhadap setiap package yang direkomendasikan AI, menggunakan repositori resmi, serta menerapkan proses pemeriksaan keamanan agar aplikasi yang dikembangkan tetap aman dari ancaman supply chain attack.
