Melihat AI dari Luar Saja Tidak Cukup
Bayangkan Anda sedang mengendarai mobil. Tiba-tiba lampu indikator mesin menyala. Anda tahu ada sesuatu yang tidak beres, tetapi Anda belum tahu penyebabnya. Bisa jadi karena oli berkurang, suhu mesin terlalu tinggi, atau ada komponen yang rusak.
Situasi seperti ini juga bisa terjadi pada Agentic AI.
Kadang AI menghasilkan jawaban yang kurang tepat, prosesnya menjadi lebih lambat dari biasanya, atau gagal menyelesaikan sebuah tugas. Jika kita hanya melihat hasil akhirnya, kita hanya tahu ada masalah, tetapi tidak tahu mengapa masalah itu terjadi.
Di sinilah observability berperan.
Observability membantu pengembang memahami apa yang sebenarnya terjadi di dalam sistem AI. Bukan hanya mengetahui bahwa ada kesalahan, tetapi juga menemukan penyebabnya sehingga perbaikan dapat dilakukan dengan lebih cepat dan tepat.
Monitoring dan Observability, Apa Bedanya?
Pada artikel sebelumnya kita membahas tentang monitoring, yaitu proses memantau aktivitas AI seperti penggunaan tools, waktu respons, atau jumlah permintaan yang diproses.
Monitoring dapat menjawab pertanyaan seperti:
“Apakah sistem sedang berjalan?”
“Berapa lama AI menyelesaikan sebuah tugas?”
“Apakah ada error yang muncul?”
Namun observability melangkah lebih jauh.
Observability mencoba menjawab pertanyaan seperti:
“Mengapa AI membutuhkan waktu lebih lama hari ini?”
“Mengapa AI mengambil keputusan tersebut?”
“Komponen mana yang menyebabkan proses gagal?”
Dengan kata lain, monitoring memberi tahu apa yang terjadi, sedangkan observability membantu menjelaskan mengapa hal itu terjadi.
š” Insight
Monitoring membantu kita menemukan gejala, sedangkan observability membantu menemukan penyebabnya.
Mengapa Observability Penting pada Agentic AI?
Agentic AI biasanya tidak hanya terdiri dari satu model AI.
Dalam satu proses, AI dapat:
- menerima pertanyaan pengguna,
- mengambil data dari database,
- mencari dokumen menggunakan RAG,
- memanggil API,
- menggunakan tools,
- melakukan analisis,
- kemudian menghasilkan jawaban.
Jika salah satu langkah mengalami gangguan, hasil akhirnya bisa ikut terpengaruh.
Tanpa observability, pengembang harus memeriksa setiap komponen satu per satu.
Sebaliknya, dengan observability, sistem dapat menunjukkan bagian mana yang menyebabkan masalah sehingga proses investigasi menjadi lebih cepat.
Apa yang Diamati dalam Observability?
Observability tidak hanya melihat hasil akhir.
Beberapa informasi yang biasanya dianalisis antara lain:
- urutan langkah yang dijalankan AI,
- tools yang digunakan,
- waktu yang dihabiskan pada setiap proses,
- data atau dokumen yang diambil,
- komunikasi antar layanan,
- serta error yang muncul selama workflow berlangsung.
Semua informasi tersebut membantu pengembang memahami perjalanan sebuah permintaan dari awal hingga selesai.
Semakin lengkap data yang tersedia, semakin mudah pula menemukan sumber masalah.
Contoh dalam Dunia Nyata
Bayangkan sebuah rumah sakit menggunakan Agentic AI untuk membantu membuat ringkasan rekam medis pasien.
Suatu hari, AI membutuhkan waktu hampir dua menit untuk menyelesaikan satu permintaan, padahal biasanya hanya memerlukan beberapa detik.
Jika hanya mengandalkan monitoring, tim IT hanya mengetahui bahwa waktu respons meningkat.
Namun melalui observability, mereka menemukan bahwa penyebabnya bukan model AI.
Ternyata server database sedang lambat merespons sehingga AI harus menunggu lebih lama sebelum dapat melanjutkan proses.
Masalah pun dapat diperbaiki tanpa perlu mengubah model AI.
Contoh ini menunjukkan bahwa tidak semua masalah berasal dari kecerdasan AI. Kadang penyebabnya justru berada pada komponen lain yang mendukung workflow.
Trace: Mengikuti Jejak Keputusan AI
Salah satu konsep penting dalam observability adalah trace.
Trace dapat diibaratkan seperti jejak perjalanan sebuah paket.
Ketika kita memesan barang secara online, kita bisa melihat kapan paket diproses, dikirim, tiba di gudang, hingga akhirnya sampai di rumah.
Pada Agentic AI, trace bekerja dengan cara yang serupa.
Pengembang dapat melihat urutan aktivitas AI, mulai dari menerima permintaan pengguna, mengambil data, menggunakan tools, hingga menghasilkan respons.
Jika terjadi kesalahan, trace membantu menunjukkan langkah mana yang bermasalah.
Pendekatan ini jauh lebih efektif dibandingkan hanya melihat hasil akhir.
Observability Membantu Pengembangan Jangka Panjang
Selain mempercepat pencarian kesalahan, observability juga memberikan banyak informasi untuk meningkatkan kualitas sistem.
Misalnya, pengembang menemukan bahwa AI selalu membutuhkan waktu lebih lama ketika mengambil data dari satu layanan tertentu.
Informasi ini dapat menjadi dasar untuk mengoptimalkan infrastruktur atau mengubah workflow agar lebih efisien.
Observability juga membantu mengetahui apakah perubahan yang dilakukan benar-benar meningkatkan performa atau justru menimbulkan masalah baru.
Karena itu, banyak perusahaan menjadikan observability sebagai bagian dari proses pengembangan yang berlangsung terus-menerus.
ā ļø Hal yang Sering Disalahpahami
Observability bukan sekadar menyimpan log sebanyak mungkin. Yang lebih penting adalah menghubungkan berbagai informasi sehingga pengembang dapat memahami hubungan antara penyebab dan dampak yang terjadi di dalam sistem.
Fondasi AI yang Dapat Dipercaya
Semakin banyak tugas yang diberikan kepada AI, semakin besar pula kebutuhan untuk memahami bagaimana AI bekerja.
Pengguna mungkin hanya melihat jawaban yang diberikan AI.
Namun di balik jawaban tersebut terdapat banyak proses yang saling berkaitan.
Observability membantu memastikan bahwa seluruh proses tersebut dapat dipahami, dievaluasi, dan diperbaiki ketika diperlukan.
Inilah salah satu alasan mengapa observability menjadi bagian penting dalam implementasi Agentic AI di perusahaan.
Penutup
Observability membantu kita melihat lebih dalam daripada sekadar hasil akhir yang diberikan AI. Dengan memahami setiap langkah yang dilakukan AI selama menyelesaikan tugas, pengembang dapat menemukan penyebab masalah, meningkatkan performa sistem, dan membangun AI yang lebih stabil.
Di masa depan, Agentic AI akan menangani workflow yang semakin kompleks dan melibatkan banyak layanan sekaligus. Oleh karena itu, kemampuan untuk memahami kondisi internal sistem melalui observability bukan lagi menjadi nilai tambah, melainkan kebutuhan agar AI tetap dapat diandalkan dalam berbagai situasi.
