Mengenal Regresi Logistik dan Penerapannya

Pengantar

Dalam analisis statistik, tidak semua variabel yang ingin diprediksi berbentuk angka kontinu seperti pendapatan, nilai ujian, atau tinggi badan. Banyak penelitian justru berfokus pada hasil yang bersifat kategorikal, misalnya apakah seorang pasien menderita penyakit atau tidak, apakah mahasiswa lulus atau tidak lulus, atau apakah pelanggan akan membeli produk atau tidak.

Pada kondisi seperti ini, regresi linear tidak sesuai karena dapat menghasilkan prediksi di luar rentang probabilitas, misalnya nilai negatif atau lebih dari satu. Untuk mengatasi masalah tersebut digunakan metode regresi logistik (logistic regression), yaitu teknik statistik yang dirancang khusus untuk memodelkan probabilitas suatu kejadian.

Regresi logistik banyak digunakan dalam berbagai bidang, mulai dari kesehatan, pendidikan, ekonomi, pemasaran, perbankan, hingga kecerdasan buatan (artificial intelligence). Selain mampu memprediksi hasil kategorikal, metode ini juga membantu mengidentifikasi faktor-faktor yang paling berpengaruh terhadap suatu kejadian.

Artikel ini membahas secara lengkap konsep regresi logistik, jenis-jenisnya, persamaan dasar, asumsi, cara kerja, interpretasi hasil, serta contoh penerapannya.

---

Apa Itu Regresi Logistik?

Pengertian Regresi Logistik

Regresi logistik adalah metode statistik yang digunakan untuk menganalisis hubungan antara satu atau lebih variabel independen dengan variabel dependen yang bersifat kategorikal, terutama kategori biner seperti “ya/tidak”, “berhasil/gagal”, atau “positif/negatif”.

Berbeda dengan regresi linear yang memprediksi nilai numerik, regresi logistik menghasilkan probabilitas suatu kejadian yang nilainya berada pada rentang 0 hingga 1. Probabilitas tersebut kemudian dapat dikonversi menjadi kelas berdasarkan suatu ambang (threshold), misalnya 0,5.

Mengapa Disebut “Logistik”?

Nama “logistik” berasal dari penggunaan fungsi logistik atau fungsi sigmoid, yaitu fungsi berbentuk huruf S yang mengubah kombinasi linear dari variabel independen menjadi nilai probabilitas.

Fungsi ini memastikan bahwa hasil prediksi selalu berada dalam rentang yang valid, yaitu antara 0 dan 1.

---

Jenis-Jenis Regresi Logistik

1. Binary Logistic Regression

Digunakan ketika variabel dependen hanya memiliki dua kategori.

Contoh:

• Lulus atau tidak lulus.
• Sakit atau sehat.
• Membeli atau tidak membeli.

2. Multinomial Logistic Regression

Digunakan ketika variabel dependen memiliki lebih dari dua kategori yang tidak memiliki urutan.

Contoh:

• Memilih merek A, B, atau C.
• Memilih moda transportasi: mobil, motor, atau bus.

3. Ordinal Logistic Regression

Digunakan ketika kategori memiliki urutan tertentu.

Contoh:

• Tingkat kepuasan: rendah, sedang, tinggi.
• Tingkat pendidikan: SD, SMP, SMA, Perguruan Tinggi.

---

Komponen Regresi Logistik

1. Variabel Dependen

Variabel dependen bersifat kategorikal.

Contoh:

• Status kelulusan.
• Status penyakit.
• Keputusan pembelian.

2. Variabel Independen

Variabel independen dapat berupa data numerik maupun kategorikal yang telah dikodekan dengan benar.

3. Probabilitas Kejadian

Output utama model adalah probabilitas terjadinya suatu kejadian, misalnya peluang seorang mahasiswa lulus.

4. Logit (Log Odds)

Regresi logistik memodelkan logit, yaitu logaritma dari odds suatu kejadian. Pendekatan ini memungkinkan hubungan linear antara prediktor dan logit.

5. Odds Ratio

Odds Ratio (OR) menunjukkan perubahan odds suatu kejadian untuk setiap kenaikan satu satuan variabel independen, dengan asumsi variabel lain tetap.

• OR > 1 menunjukkan peningkatan odds.
• OR < 1 menunjukkan penurunan odds.
• OR = 1 menunjukkan tidak ada perubahan odds.

---

Persamaan Regresi Logistik

Regresi logistik menggunakan fungsi logistik untuk mengubah kombinasi variabel independen menjadi probabilitas.

Secara konseptual, model menghubungkan variabel independen dengan logit dari probabilitas kejadian. Dari logit tersebut kemudian dihitung probabilitas yang berada pada rentang 0 hingga 1.

Dalam praktiknya, perangkat lunak statistik akan melakukan seluruh proses estimasi sehingga peneliti lebih banyak berfokus pada interpretasi koefisien, odds ratio, dan hasil pengujian.

---

Tujuan Analisis Regresi Logistik

Regresi logistik digunakan untuk:

1. Mengklasifikasikan Data

Menentukan apakah suatu observasi termasuk dalam kategori tertentu.

2. Menghitung Probabilitas

Mengestimasi peluang terjadinya suatu kejadian berdasarkan karakteristik yang dimiliki.

3. Mengidentifikasi Faktor Risiko

Mengetahui variabel mana yang meningkatkan atau menurunkan peluang suatu kejadian.

4. Membantu Prediksi

Mendukung pengambilan keputusan berbasis data di berbagai bidang.

---

Asumsi Regresi Logistik

Beberapa asumsi penting yang perlu diperhatikan meliputi:

1. Variabel Dependen Bersifat Kategorikal

Regresi logistik digunakan untuk variabel dependen berupa kategori, bukan nilai kontinu.

2. Observasi Independen

Setiap pengamatan harus saling bebas.

3. Tidak Terjadi Multikolinearitas

Variabel independen tidak boleh memiliki korelasi yang sangat tinggi satu sama lain.

4. Hubungan Linear antara Prediktor Kontinu dan Logit

Untuk prediktor kontinu, hubungan yang diasumsikan adalah linear terhadap logit, bukan langsung terhadap probabilitas.

5. Ukuran Sampel Memadai

Jumlah data yang cukup membantu menghasilkan estimasi koefisien yang lebih stabil dan andal.

---

Cara Kerja Regresi Logistik

Secara umum, langkah-langkah analisis meliputi:

1. Mengumpulkan dan menyiapkan data.
2. Menentukan variabel dependen dan independen.
3. Mengestimasi parameter model menggunakan metode Maximum Likelihood Estimation (MLE).
4. Menghitung probabilitas setiap observasi.
5. Mengklasifikasikan hasil berdasarkan nilai ambang yang ditetapkan, misalnya 0,5.

---

Interpretasi Hasil Regresi Logistik

1. Koefisien Regresi

Koefisien menunjukkan arah hubungan antara variabel independen dan logit peluang suatu kejadian.

2. Odds Ratio

Odds Ratio memudahkan interpretasi koefisien.

Sebagai contoh, jika OR = 1,8, maka setiap kenaikan satu satuan pada variabel tersebut berkaitan dengan peningkatan odds kejadian sebesar 80%, dengan asumsi variabel lain tetap.

3. Nilai p

Nilai p digunakan untuk menguji apakah suatu variabel memiliki hubungan yang signifikan dengan peluang kejadian.

4. Pseudo R²

Berbeda dengan regresi linear, regresi logistik menggunakan ukuran seperti Cox & Snell atau Nagelkerke R² untuk menggambarkan kecocokan model. Nilai ini tidak memiliki interpretasi yang sama persis dengan R² pada regresi linear.

5. Akurasi Model

Akurasi menunjukkan proporsi observasi yang berhasil diklasifikasikan dengan benar oleh model.

---

Evaluasi Model Regresi Logistik

Kinerja model tidak hanya dinilai dari akurasi, tetapi juga melalui beberapa metrik penting.

1. Confusion Matrix

Confusion Matrix menunjukkan jumlah prediksi yang benar dan salah pada setiap kategori sehingga memberikan gambaran menyeluruh mengenai performa model.

2. Accuracy

Mengukur persentase prediksi yang benar dari seluruh observasi.

3. Precision

Menunjukkan proporsi prediksi positif yang benar-benar positif.

4. Recall (Sensitivity)

Mengukur kemampuan model mendeteksi seluruh kasus positif yang sebenarnya.

5. Specificity

Mengukur kemampuan model mengenali kasus negatif dengan benar.

6. ROC Curve dan AUC

ROC Curve menggambarkan hubungan antara true positive rate dan false positive rate pada berbagai ambang klasifikasi. Nilai Area Under the Curve (AUC) yang lebih tinggi menunjukkan kemampuan model membedakan dua kelas dengan lebih baik.

---

Contoh Analisis Regresi Logistik

Prediksi Kelulusan Mahasiswa

Seorang peneliti ingin memprediksi apakah mahasiswa akan lulus tepat waktu berdasarkan:

• IPK;
• tingkat kehadiran;
• jumlah SKS yang telah ditempuh.

Hasil analisis menunjukkan bahwa IPK dan jumlah SKS memiliki hubungan yang signifikan dengan peluang kelulusan, sedangkan kehadiran tidak menunjukkan bukti yang cukup signifikan pada taraf 5%.

Model kemudian dapat digunakan untuk memperkirakan peluang kelulusan setiap mahasiswa sehingga pihak kampus dapat memberikan pendampingan lebih dini kepada mahasiswa yang diperkirakan berisiko tidak lulus tepat waktu.

---

Perbedaan Regresi Linear dan Regresi Logistik

---

Kelebihan dan Kekurangan

Kelebihan

• Cocok untuk data kategorikal.
• Menghasilkan probabilitas yang mudah diinterpretasikan.
• Dapat melibatkan banyak variabel independen.
• Banyak digunakan dalam penelitian dan pembelajaran mesin.

Kekurangan

• Mengasumsikan hubungan linear antara prediktor kontinu dan logit.
• Sensitif terhadap multikolinearitas.
• Memerlukan ukuran sampel yang memadai.
• Interpretasi koefisien lebih kompleks dibanding regresi linear.

---

Penerapan Regresi Logistik

Bidang Kesehatan

Memprediksi risiko penyakit, keberhasilan terapi, atau kemungkinan pasien mengalami komplikasi.

Bidang Pendidikan

Memprediksi kelulusan, putus studi, atau keberhasilan mengikuti sertifikasi.

Bidang Bisnis

Menganalisis kemungkinan pelanggan melakukan pembelian atau berhenti menggunakan layanan (customer churn).

Bidang Perbankan

Menilai risiko kredit, kemungkinan gagal bayar, dan deteksi penipuan.

Bidang Teknologi

Digunakan dalam sistem klasifikasi, penyaringan spam, analisis sentimen, dan berbagai aplikasi pembelajaran mesin.

---

Tips Menggunakan Regresi Logistik

Agar hasil analisis lebih akurat:

• gunakan regresi logistik ketika variabel dependen bersifat kategorikal;
• pastikan ukuran sampel memadai dan kualitas data baik;
• periksa multikolinearitas antarvariabel independen;
• evaluasi model menggunakan confusion matrix, precision, recall, specificity, dan ROC-AUC, bukan hanya akurasi;
• interpretasikan odds ratio bersama interval kepercayaan dan konteks penelitian.

---

Kesimpulan

Regresi logistik merupakan metode statistik yang sangat penting untuk menganalisis dan memprediksi variabel dependen yang bersifat kategorikal. Berbeda dengan regresi linear yang digunakan untuk nilai kontinu, regresi logistik menghasilkan probabilitas suatu kejadian sehingga sangat sesuai untuk masalah klasifikasi.

Keunggulan utama regresi logistik terletak pada kemampuannya mengidentifikasi faktor-faktor yang memengaruhi peluang suatu kejadian sekaligus memberikan model prediksi yang mudah diterapkan dalam berbagai bidang. Dengan memperhatikan asumsi, kualitas data, dan evaluasi model yang tepat, regresi logistik menjadi alat yang andal dalam penelitian, pengambilan keputusan, dan pengembangan sistem berbasis data.