Pengantar

Perkembangan teknologi Artificial Intelligence (AI) telah membawa banyak manfaat bagi berbagai bidang, termasuk keamanan siber. Saat ini AI digunakan untuk mendeteksi ancaman, menganalisis malware, hingga membantu tim keamanan merespons insiden dengan lebih cepat.

Namun, seperti teknologi lainnya, AI juga dapat dimanfaatkan oleh pihak yang tidak bertanggung jawab. Sebuah laporan terbaru mengungkap bagaimana penyerang menggunakan LLM (Large Language Model) Agent untuk membantu aktivitas serangan setelah berhasil menembus sistem korban. Kasus ini menunjukkan bahwa AI tidak lagi sekadar alat bantu produktivitas, tetapi mulai digunakan untuk mendukung operasi serangan siber secara nyata.

Apa Itu LLM Agent?

LLM atau Large Language Model adalah teknologi yang digunakan pada berbagai chatbot AI modern. Teknologi ini mampu memahami bahasa manusia, menjawab pertanyaan, membuat ringkasan, hingga menghasilkan kode program.

Namun, LLM Agent berbeda dengan chatbot biasa.

Jika chatbot hanya memberikan jawaban berdasarkan pertanyaan pengguna, LLM Agent dapat melakukan tindakan tertentu secara otomatis. Agent dapat menggunakan berbagai alat (tools), menjalankan perintah, mengakses sistem, membaca data, dan membuat keputusan berdasarkan informasi yang ditemukan.

Dengan kata lain, AI Agent tidak hanya “berpikir”, tetapi juga dapat “bertindak”.

Kronologi Serangan

Dalam insiden yang dilaporkan, penyerang pertama kali mengeksploitasi kerentanan pada platform Marimo yang digunakan sebagai target awal.

Setelah mendapatkan akses ke server korban, penyerang memanfaatkan LLM Agent untuk membantu menjalankan berbagai aktivitas lanjutan yang biasanya dilakukan secara manual oleh seorang hacker.

Aktivitas tersebut meliputi:

• Mengumpulkan informasi sistem.
• Mencari kredensial cloud.
• Mengakses layanan AWS.
• Mengambil SSH private key.
• Menghubungkan diri ke server internal.
• Mengekstrak data dari database.

Seluruh proses dilakukan dengan bantuan AI Agent sehingga pekerjaan yang biasanya membutuhkan analisis manual dapat dilakukan lebih cepat.

Memahami Tahap Post-Exploitation

Dalam dunia keamanan siber, serangan tidak berhenti ketika penyerang berhasil masuk ke sistem.

Setelah memperoleh akses awal, biasanya terdapat tahapan yang disebut post-exploitation.

Tahap ini bertujuan untuk:

• Mengumpulkan informasi lebih lanjut.
• Mencari data sensitif.
• Mendapatkan hak akses yang lebih tinggi.
• Bergerak ke sistem lain dalam jaringan.
• Mencuri data yang bernilai.

Pada banyak kasus, justru tahap post-exploitation inilah yang menyebabkan kerugian terbesar bagi organisasi.

Bagaimana AI Agent Digunakan dalam Serangan?

Biasanya seorang hacker harus menjalankan berbagai perintah secara manual untuk memahami lingkungan target.

Dengan bantuan AI Agent, proses tersebut dapat diotomatisasi.

AI Agent dapat:

Mengidentifikasi Kredensial

Agent mencari file konfigurasi, token akses, atau kredensial yang tersimpan pada server.

Melakukan Discovery

Agent mengumpulkan informasi mengenai:

• Sistem operasi.
• Jaringan internal.
• Layanan cloud yang digunakan.
• Database yang tersedia.

Menganalisis Temuan

Setelah menemukan informasi, Agent dapat menentukan langkah berikutnya secara otomatis.

Menjalankan Perintah

Agent dapat menjalankan command yang diperlukan untuk mencapai tujuan yang diinginkan penyerang.

Hal ini membuat serangan menjadi lebih cepat dan lebih efisien dibandingkan metode tradisional.

Tahapan Serangan yang Dilakukan

1. Initial Access

Penyerang mengeksploitasi kerentanan pada server Marimo yang dapat diakses melalui internet.

Langkah ini memberikan akses awal ke lingkungan korban.

2. Credential Harvesting

Setelah masuk ke server, penyerang mencari kredensial cloud yang tersimpan.

Kredensial ini dapat digunakan untuk mengakses layanan lain yang terhubung dengan server tersebut.

3. Cloud Reconnaissance

Selanjutnya dilakukan pemetaan terhadap lingkungan cloud.

Penyerang mencari informasi seperti:

• Akun cloud yang aktif.
• Secret yang tersedia.
• Resource yang dapat diakses.

4. Secret Extraction

Dari hasil pemetaan, penyerang menemukan dan mengambil SSH private key yang tersimpan pada layanan manajemen secret.

SSH key tersebut kemudian digunakan untuk mengakses sistem lain.

5. Lateral Movement

Dengan SSH key yang diperoleh, penyerang berhasil masuk ke server bastion yang menjadi pintu masuk menuju jaringan internal.

Teknik ini dikenal sebagai lateral movement atau pergerakan lateral.

6. Data Exfiltration

Tahap terakhir adalah pengambilan data.

Dalam kasus ini, penyerang berhasil mengekstrak database PostgreSQL yang berisi data penting milik organisasi.

Mengapa Kasus Ini Penting?

Kasus ini menarik perhatian komunitas keamanan karena menunjukkan perubahan cara kerja serangan siber.

Dulu AI hanya digunakan sebagai alat bantu.

Sekarang AI mulai berperan aktif dalam membantu proses serangan.

Meskipun AI Agent masih membutuhkan arahan dari manusia, kemampuannya dalam menganalisis lingkungan dan menjalankan tugas secara otomatis dapat mempercepat seluruh rantai serangan.

Yang lebih mengkhawatirkan, proses pengambilan data dilaporkan berlangsung dalam waktu yang sangat singkat setelah sistem berhasil dikompromikan.

Risiko bagi Organisasi

Penggunaan AI dalam serangan dapat meningkatkan risiko bagi organisasi.

Risiko Teknis

• Pencurian data sensitif.
• Kebocoran kredensial cloud.
• Pengambilalihan server internal.
• Penyebaran malware lebih cepat.
• Eksploitasi sistem secara otomatis.

Risiko Bisnis

• Kehilangan kepercayaan pelanggan.
• Gangguan operasional.
• Kerugian finansial.
• Pelanggaran regulasi perlindungan data.
• Kerusakan reputasi perusahaan.

Munculnya Era AI-Powered Cyber Attack

Para pakar keamanan memperkirakan bahwa penggunaan AI oleh pelaku ancaman akan terus meningkat.

Jika sebelumnya kita mengenal istilah:

• AI-Assisted Attack (AI membantu manusia)

Kini mulai muncul konsep:

• AI-Driven Attack (AI menjalankan sebagian proses serangan secara otomatis)

Perubahan ini dapat membuat serangan menjadi:

• Lebih cepat.
• Lebih murah.
• Lebih sulit dideteksi.
• Lebih mudah dilakukan oleh pelaku dengan kemampuan teknis terbatas.

Analisis Berdasarkan MITRE ATT&CK

Jika dilihat dari framework MITRE ATT&CK, tahapan serangan pada kasus ini meliputi:

Initial Access

• Exploit Public-Facing Application.

Credential Access

• Credential Discovery.
• Secret Discovery.

Discovery

• Cloud Service Discovery.
• System Information Discovery.

Lateral Movement

• SSH Remote Services.

Collection

• Data Collection dari database internal.

Exfiltration

• Pengiriman data ke luar lingkungan korban.

Rantai serangan ini menunjukkan bagaimana satu kerentanan dapat berkembang menjadi kompromi yang jauh lebih besar.

Langkah Mitigasi

Untuk mengurangi risiko serangan serupa, organisasi dapat menerapkan beberapa langkah berikut.

1. Lakukan Patch Management

Pastikan seluruh aplikasi dan layanan selalu diperbarui dengan patch keamanan terbaru.

Banyak serangan berhasil karena adanya kerentanan yang belum diperbaiki.

2. Terapkan Prinsip Least Privilege

Berikan hak akses minimum yang diperlukan oleh pengguna maupun aplikasi.

Jika sebuah akun berhasil dikompromikan, dampaknya dapat diminimalkan.

3. Lindungi Kredensial Cloud

Hindari menyimpan token, password, atau SSH key secara sembarangan pada server aplikasi.

Gunakan layanan manajemen secret yang aman dan lakukan rotasi kredensial secara berkala.

4. Perkuat Monitoring

Pantau aktivitas:

• Login SSH.
• Akses database.
• Penggunaan kredensial cloud.
• Aktivitas yang tidak biasa pada server.

5. Terapkan Zero Trust

Jangan langsung mempercayai pengguna atau perangkat hanya karena berada di dalam jaringan internal.

Semua akses harus diverifikasi secara terus-menerus.

Pelajaran bagi Tim Security dan DevOps

Kasus ini memberikan beberapa pelajaran penting:

• AI dapat digunakan oleh pihak penyerang maupun pihak bertahan.
• Kerentanan kecil dapat menjadi pintu masuk menuju kompromi besar.
• Penyimpanan kredensial yang tidak aman masih menjadi masalah umum.
• Monitoring dan deteksi dini sangat penting.
• Organisasi harus mulai mempersiapkan diri menghadapi ancaman berbasis AI.

Kesimpulan

Penggunaan LLM Agent dalam aktivitas post-exploitation menunjukkan bahwa dunia keamanan siber sedang memasuki fase baru. AI tidak lagi hanya menjadi alat produktivitas atau pendukung analisis, tetapi mulai dimanfaatkan untuk mempercepat dan mengotomatisasi berbagai tahapan serangan.

Meskipun manusia masih menjadi pengendali utama, kemampuan AI Agent dalam menemukan informasi, menganalisis lingkungan, dan menjalankan tugas secara otomatis membuat proses serangan menjadi lebih cepat dan lebih efektif.

Bagi organisasi, kasus ini menjadi pengingat bahwa keamanan tidak hanya berfokus pada perlindungan aplikasi dan data, tetapi juga harus mempertimbangkan bagaimana teknologi AI dapat dimanfaatkan oleh pelaku ancaman. Dengan penerapan patch management yang baik, pengelolaan kredensial yang aman, monitoring yang ketat, dan pendekatan Zero Trust, risiko serangan berbasis AI dapat diminimalkan sebelum menimbulkan dampak yang lebih besar.