Optimasi Hyperparameter pada Neural Network (Studi Kasus: Identifikasi Komentar Cyberbullying Instagram)

Nur Fajriyani, Enda Esyudha Pratama, Rina Septiriana

Abstract


Instagram adalah salah satu media sosial yang populer di Indonesia dan memiliki resiko terjadinya cyberbullying, sehingga klasifikasi komentar cyberbullying perlu dilakukan menggunakan text mining. Model klasifikasi yang dibangun pada penelitian ini menggunakan Neural Network dengan arsitektur Multilayer Perceptron dan dilatih dengan algoritma Backpropagation. Bayesian Optimization digunakan untuk melakukan optimasi hyperparameter, dengan hyperparameter yang dioptimasi adalah hidden layer, learning rate, dan momentum. Dilihat dari hasil evaluasi, performa dari model Neural Network dengan optimasi hyperparameter lebih baik daripada Neural Network yang hanya menggunakan default hyperparameter. Dimana model Neural Network dengan default hyperparameter mengalami overfitting dan menghasilkan nilai akurasi sebesar 81,38%, sedangkan model dengan optimasi hyperparameter tidak mengalami overfitting dan mengalami kenaikan akurasi dibandingkan dengan model Neural Network tanpa optimasi hyperparameter dengan model dengan tiga hyperparameter yang dioptimasi yaitu hidden layer, learning rate, dan momentum mengalami kenaikan akurasi sebesar 2,5%, model dengan optimasi hyperparameter pada hidden layer dan pada learning rate masing-masing mengalami kenaikan akurasi yang sama, yaitu sebesar 2,37%, dan model dengan optimasi hyperparameter pada momentum mengalami kenaikan akurasi sebesar 2%. Hasil penelitian ini menunjukkan bahwa hidden layer, learning rate, dan momentum ketika di optimasi secara bersamaan memiliki pengaruh besar dalam mencegah overfitting, menaikan akurasi, dan memiliki waktu eksekusi yang baik daripada dioptimasi secara terpisah.

Keywords


Klasifikasi; Neural Network; Optimasi Hyperparameter; Bayesian Optimization

Full Text:

PDF

References


A. M. Rizati, "Pengguna Internet di Indonesia Sentuh 212 Juta pada 2023," [Online]. Available: https://dataindonesia.id/digital/detail/pengguna-internet-di-indonesia-sentuh-212-juta-pada-2023. [Accessed 20 Februari 2023].

S Kemp, "Digital Indonesia: 2023," [Online]. Available: https://datareportal.com. [Accessed 20 Februari 2023].

A. S. Hutagalung, "Aplikasi Pendeteksi Cyberbullying Terhadap Komentar Postingan Media Sosial Instagram dengan Metode Naïve Bayes Classifier Berbasis Website," Jurnal Sistem dan Teknologi Informasi (Justin), vol. 9, no. 3, pp. 364-371, 2021.

A. Rachmatullah, "Optimasi Hyperparameter pada Gradient Boosted Trees Menggunakan Bayesian Optimization," 2019.

F. Sajid, “Perbandingan Algoritma Klasifikasi terhadap Emosi Tweet Berbahasa Indonesia,” Jurnal Sistem dan Teknologi Informasi (Jepin), vol. 7, no. 2, pp. 242-249, 2021.

W. A. Luqyana, "Analisis Sentimen Cyberbullying pada Komentar Instagram dengan Metode Klasifikasi Support Vector Machine," Jurnal Pengembangan Teknologi Informasi dan Ilmu Komputer e-ISSN: 2548-964X, vol. 2, no. 11, pp. 4704-4713, 2018.

I. T. A. Nur, "Perbandingan Performa Metode Klasifikasi SVM, Neural Network, dan Naive Bayes untuk Mendeteksi Kualitas Pengajuan Kredit di Koperasi Simpan Pinjam," Jurnal Teknologi Informasi dan Ilmu Komputer, vol. 6, no. 4, p. 444, 2019.

M. H. Sultan, "Optimasi Parameter Neural Network Pada Data Time Series ( Studi Kasus Gempa Bumi di Maluku Utara)," Ps Its, vol. 3, no. 2, pp. 59-71, 2014.

Van Rijn, Jan N., "Hyperparameter importance across datasets," Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp. 2367-2376, August 2018.

P. Murugan, "Hyperparameter Optimization in Deep Convolutional Neural Network/Bayesian Optimization with Gaussian Prior Process," December 2017.

I. Kholis, S. Alam, "Analisis Variasi Parameter Backpropagation Artificial Neural Network dann Principal Component Analysis Terhadap Sistem Pengenalan Wajah," Electrans, vol. 14, no. 1, pp. 12-19, 2016.

I. Agustina, "Analisis Pengembangan Model Prediksi Kesuksesan Kickstrarter Menggunakan Algoritma Backpropagation Artificial Neural Network (ANN) da Random Forest," 2022.

H. Najjichah, A. Syukur, dan H. Subagyo, "Pengaruh Text Preprocessing dan Kombinasinya pada Peringkas Dokumen Otomatis Teks Berbahasa Indonesia,"Jurnal Teknologi Informasi, vol. 15, no. 1, pp. 1-11, 2019.

H. marifah, A. P. Wibawa, dan M. I. Akbar, "Klasifikasi artikel ilmiah dengan berbagai skenario preprocesing,"Sains, Aplikasi, Komputasi, dan Teknologi Informasi, vol. 2, no. 2, pp. 70-78, 2020..

R. D. Syarif, "Identifikasi Cyberbullying Pada Komentar Instagram Menggunakan Metode Lexicon-based Dan Naïve Bayes Classifier (studi Kasus: Pemilihan Presiden Indonesia Tahun 2019," eProceeding of Engineering, vol. 6, no. 2, pp. 8838-8851, 2019.

Y. Ramdhani, "Penerapan Algoritma Neural Network Untuk Klasifikasi Kardiotokografi," Jurnal Informatika, vol. 5, no. 1, pp. 43-49, 2018.

Skcikit-learn.org, "Neural Network Models(Supervised)" [Online]. Available: https://skcikit-learn.org. [Accessed 20 Februari 2023].

J. Snoek, H. Larochelle, R. Adams, ”Practical Bayesian Optimization of Machine Learning Algoritms,” Advances in Neural Information Processing System, vol 4, pp. 2951-2959, 2012.

S. Morar, M.T., Knowles,J., dan Sampaio, “ Initialization of Bayesian Optimization Viewed as Part of a Larger Algoritm Potofolio,” 2017.

I. Dewancker, M. McCourt, S. Clark et al. “Evaluation System for a Bayesian Optimization Service,” 2016.




DOI: https://doi.org/10.26418/jp.v9i2.68319

Refbacks

  • There are currently no refbacks.