PERBANDINGAN DECISION TREE DAN RANDOM FOREST BERBASIS GRID SEARCH HYPERPARAMETER TUNING UNTUK PREDIKSI KELAYAKAN BEASISWA
DOI:
https://doi.org/10.70248/jrsit.v4i1.4552Keywords:
data mining, decision tree, Random Forest, hyperparameter tuning, KlasifikasiAbstract
Penentuan kelayakan mahasiswa penerima beasiswa merupakan salah satu proses pengambilan keputusan yang membutuhkan pengolahan data secara sistematis agar bantuan dapat diberikan kepada mahasiswa yang sesuai dengan kriteria. Pemanfaatan data mining dan machine learning dapat digunakan untuk menemukan pola dari data mahasiswa dan membangun model prediksi kelayakan penerima beasiswa. Penelitian ini bertujuan untuk membandingkan kinerja algoritma Decision Tree dan Random Forest dalam memprediksi kelayakan mahasiswa penerima beasiswa serta menganalisis pengaruh hyperparameter tuning terhadap performa kedua algoritma. Dataset yang digunakan terdiri atas karakteristik mahasiswa dan kondisi sosial ekonomi keluarga, meliputi jenis kelamin, alamat, program studi yang dipilih, alat transportasi, penghasilan ayah, dan pekerjaan ayah, dengan status layak atau tidak layak menerima beasiswa sebagai variabel target. Tahapan penelitian menggunakan pendekatan data mining yang meliputi data understanding, data preparation, exploratory data analysis, pembagian data, pemodelan, hyperparameter tuning, dan evaluasi. Empat model dibandingkan, yaitu Decision Tree tanpa tuning, Decision Tree dengan hyperparameter tuning, Random Forest tanpa tuning, dan Random Forest dengan hyperparameter tuning. Proses optimasi dilakukan menggunakan pencarian kombinasi hyperparameter dengan cross-validation. Evaluasi model menggunakan accuracy, precision, recall, dan F1-score, serta analisis confusion matrix. Hasil penelitan membuktikan bahwa kedua Algoritma Random Forest dan Decision Tree dengan hyperparameter tuning dapat meingkatkan akurasinya sehingga memberikan performa terbaik. Akan tetapi algoritma random forest dengan hyperparamater tuning menjadi yang paling tinggi nilai akurasinya yaitu sebesar 87.38% dengan F1-score 84%, Precision 85% dan recall 87% dalam memprediksi kelayakan mahasiswa penerima beasiswa serta mengidentifikasi karakteristik yang paling berkontribusi terhadap hasil klasifikasi
References
Achsanuddin, A., Khaerunnisa, F., Violin, V., & Yusuf, M. (2023). Faktor-faktor yang Memengaruhi Produksi Tempe di Kecamatan Burau Kabupaten Luwu Timur. Kompeten: Jurnal Ilmiah Ekonomi Dan Bisnis, 2(2), 568–577.
Amanda, W., & Voutama, A. (2025). Klasifikasi pendapatan menggunakan algoritma random forest: Studi kasus dataset adult income. Jurnal Ilmiah Informatika Global, 16(2), 79–84.
Elim, M. I., & Utami, E. (2025). Performance Comparison of Child Stunting Prediction Support Vector Machine vs Random Forest with Grid Search Optimization. Jurnal Teknik Informatika (Jutif), 6(5), 5305–5319.
Firnanda, P. A., Shofwatillah, L., Rahma, F., & Fauzi, F. (2025). Analisis Perbandingan Decision Tree dan Random Forest dalam Klasifikasi Penjualan Produk pada Supermarket: Analisis Perbandingan Decision Tree dan Random Forest dalam Klasifikasi Penjualan Produk pada Supermarket. Emerging Statistics and Data Science Journal, 3(1), 445–461.
Gori, T., Sunyoto, A., & Al Fatta, H. (2024). Preprocessing data dan klasifikasi untuk prediksi kinerja akademik siswa. Jurnal Teknologi Informasi Dan Ilmu Komputer, 11(1), 215–224.
Hermawan, L. A., Engkeng, S., & Sekeon, S. S. (2020). HUBUNGAN ANTARA PENGETAHUAN DAN SIKAP PESERTA DIDIK PEREMPUAN DENGAN TINDAKAN PENCEGAHAN KEPUTIHAN DI SMP NEGERI 3 TAHUNA. KESMAS, 9(6).
Madani, M. N., Naila, N. F., & Rasyad, R. Z. (2025). Efektivitas beasiswa pendidikan dalam meningkatkan akses pendidikan tinggi bagi masyarakat berpenghasilan rendah di Kalimantan Timur. Nusantara Innovation Journal, 3(2), 122–130.
N. Santuni, D. Irfan, Y. Hendriyani, and Y. H. (2025). Klasifikasi Penerima Beasiswa Program Indonesia Pintar (PIP) Menggunakan Algoritma Decision Tree. Jurnal Pendidikan Tambusai, 9.
Ramadhan, M. G. I. (2024). Implementasi Algoritma Random Forest Untuk Identifikasi Citra Kayu Makroskopik Dengan Ekstraksi Fitur Gray Level Co-occurrence Matrix (GLCM). Universitas Sangga Buana YPKP.
Sari, I. K., Hermawan, A., & Avianto, D. (2026). Klasifikasi Kelayakan Bantuan Pendidikan Menggunakan Metode Decision Tree. INSOLOGI: Jurnal Sains Dan Teknologi, 5(3), 914–925.
Setyowati, S. L., Qalbi, A., Aristawidya, R., Sartono, B., & Firdawanti, A. R. (2025). Optimizing random forest parameters with hyperparameter tuning for classifying school-age KIP eligibility in West Java. Jambura Journal of Mathematics, 7(1), 40–48.
Sobari, S., Purnamasari, A. I., Bahtiar, A., & Kaslani, K. (2025). Meningkatkan model prediksi kelulusan santri tahfidz di Pondok Pesantren Al-Kautsar menggunakan algoritma Random Forest. Jurnal Informatika Dan Teknik Elektro Terapan, 13(1).
Surip, A., Pratama, M. A., Ali, I., Dikananda, A. R., & Purnamasari, A. I. (2021). Penerapan Machine Learning menggunakan algoritma C4. 5 berbasis PSO dalam Menganalisa Data Siswa Putus Sekolah. Informatics For Educators And Professional: Journal of Informatics, 5(2), 147–155.
Bischl, B., Binder, M., Lang, M., Pielok, T., Richter, J., Coors, S., Thomas, J., Ullmann, T., Becker, M., Boulesteix, A.-L., Deng, D., & Lindauer, M. (2023). Hyperparameter optimization: Foundations, algorithms, best practices, and open challenges. WIREs Data Mining and Knowledge Discovery, 13(2), e1484.
Brazdil, P., van Rijn, J. N., Soares, C., & Vanschoren, J. (2022). Metalearning for hyperparameter optimization. In P. Brazdil, J. N. van Rijn, C. Soares, & J. Vanschoren, Metalearning: Applications to data mining (2nd ed., pp. 103–122). Springer.
