Perkembangan kecerdasan buatan (AI) yang pesat telah membawa manfaat besar di berbagai sektor, namun juga menghadirkan risiko unik yang tidak ditemukan pada perangkat lunak konvensional. Menyadari hal ini, National Institute of Standards and Technology (NIST) Amerika Serikat mengembangkan Artificial Intelligence Risk Management Framework (AI RMF 1.0) sebagai panduan sukarela untuk membantu organisasi mengelola risiko AI dan mendorong pengembangan serta penggunaan AI yang bertanggung jawab dan dapat dipercaya .
Mengapa AI Membutuhkan Manajemen Risiko Khusus?
AI bukan sekadar perangkat lunak biasa. Sistem AI bersifat socio-technical, artinya risikonya muncul dari interaksi antara aspek teknis dan faktor sosial, seperti cara sistem digunakan dan konteks sosial di mana ia diterapkan . Beberapa karakteristik yang membuat risiko AI unik antara lain:
Perubahan Data: Data pelatihan AI dapat berubah seiring waktu secara signifikan dan tak terduga, mempengaruhi fungsi dan keandalan sistem dengan cara yang sulit dipahami .
Kompleksitas: Sistem AI dan konteks penerapannya seringkali kompleks, sehingga sulit mendeteksi dan merespons kegagalan .
Risiko Amplifikasi: Tanpa kontrol yang tepat, AI dapat memperkuat, melanggengkan, atau memperburuk hasil yang tidak adil bagi individu dan komunitas .
AI RMF hadir untuk menjawab tantangan ini dengan menyediakan pendekatan praktis yang dapat diadaptasi oleh organisasi dari berbagai ukuran dan sektor .
Karakteristik AI yang Terpercaya
AI RMF mendefinisikan karakteristik yang harus dimiliki sistem AI untuk dapat dipercaya. Sistem AI yang terpercaya harus memiliki sifat-sifat berikut :
Valid and Reliable (Valid dan Andal)
Safe (Aman)
Secure and Resilient (Aman dan Tangguh)
Accountable and Transparent (Akuntabel dan Transparan)
Explainable and Interpretable (Dapat Dijelaskan dan Diinterpretasikan)
Privacy Enhanced (Meningkatkan Privasi)
Fair (Adil, dengan bias berbahaya yang dikelola)
Inti (Core) AI RMF: Empat Fungsi Utama
Kerangka ini dioperasionalkan melalui empat fungsi utama yang membentuk inti (Core) AI RMF :
1. Govern (Tata Kelola)
Fungsi ini menjadi fondasi dari seluruh proses manajemen risiko. Govern berfokus pada penetapan kebijakan, proses, dan struktur akuntabilitas untuk memastikan bahwa praktik manajemen risiko AI terintegrasi ke dalam tata kelola organisasi secara keseluruhan . Ini mencakup penetapan budaya, insentif, dan mekanisme tanggung jawab yang mendukung manajemen risiko yang efektif .
2. Map (Pemetaan)
Fungsi Map bertujuan untuk memahami konteks sistem AI dan risiko yang terkait. Ini melibatkan identifikasi :
Aktor AI yang terlibat dalam siklus hidup sistem.
Kemampuan dan tujuan sistem.
Konteks penggunaan dan potensi dampak (positif dan negatif).
Sumber daya dan data yang digunakan.
3. Measure (Pengukuran)
Fungsi Measure berfokus pada penilaian, evaluasi, dan pengukuran risiko serta karakteristik keandalan sistem AI . Ini adalah tantangan tersendiri karena kurangnya konsensus metode pengukuran yang kuat dan terverifikasi untuk risiko dan kepercayaan AI, terutama terkait risiko dari pihak ketiga, risiko yang muncul, dan ketidakjelasan sistem .
4. Manage (Pengelolaan)
Fungsi Manage berkaitan dengan perencanaan, implementasi, dan pemantauan tindakan untuk mengelola dan mengurangi risiko yang telah diidentifikasi dan diukur . Ini termasuk prioritisasi risiko berdasarkan tingkat keparahan dan kemungkinan terjadinya, serta dokumentasi risiko sisa (residual risk) setelah tindakan mitigasi dilakukan .
Keempat fungsi ini bersifat siklik dan berkelanjutan, memungkinkan organisasi untuk terus meningkatkan praktik manajemen risiko AI mereka seiring dengan perkembangan teknologi dan pemahaman tentang risiko.
Penerapan dan Relevansi untuk Indonesia
AI RMF bukan hanya standar internasional, tetapi juga telah menjadi acuan dalam diskusi tata kelola AI di Indonesia. Sebuah studi konseptual mengusulkan kerangka tata kelola AI etis yang menyelaraskan standar internasional seperti OECD AI Principles, EU AI Act, dan NIST AI RMF dengan lingkungan kelembagaan dan regulasi Indonesia . Hal ini menunjukkan relevansi AI RMF bagi Indonesia yang sedang mempercepat transformasi digital melalui program seperti INA Digital dan Identitas Digital Kependudukan.
Lembaga-lembaga seperti Kementerian Komunikasi dan Digital (Komdigi), BSSN, dan BRIN dapat memanfaatkan kerangka ini untuk membangun tata kelola AI yang adaptif dan kolaboratif, memastikan bahwa pengembangan AI di Indonesia tidak hanya inovatif tetapi juga aman, etis, dan dapat dipercaya . Penerapan AI RMF juga dapat membantu institusi di Indonesia, termasuk di sektor pendidikan, untuk mengelola risiko AI seperti pelanggaran privasi dan bias .
NIST sendiri terus mengembangkan AI RMF. Saat ini, AI RMF 1.0 sedang dalam proses pembaruan, termasuk penyesuaian dengan arahan dari kebijakan baru . NIST juga mengembangkan “Cyber AI Profile” yang menghubungkan AI RMF dengan Cybersecurity Framework (CSF) untuk membantu organisasi mengatasi risiko keamanan siber yang spesifik terkait AI
