Perbandingan Model BERT dan RNN-LSTM pada Analisis Sentimen Aplikasi BRI Mobile

Abstract

Penelitian ini dimaksudkan untuk mengevaluasi serta membandingkan performa dari dua arsitektur deep learning, yakni BERT (Bidirectional Encoder Representations from Transformers) dan RNN-LSTM (Recurrent Neural Network – Long Short-Term Memory), dalam mengklasifikasikan sentimen pada tanggapan pengguna aplikasi BRImo. Kumpulan data diperoleh melalui teknik web scraping di platform Google Play dengan metode pengambilan acak (random sampling), sehingga terkumpul 10.000 ulasan dari total sekitar satu juta ulasan yang tersedia. Proses preprocessing awal mencakup pembersihan teks, penghapusan simbol, angka, URL, serta tokenisasi. Evaluasi awal menunjukkan bahwa model BERT memiliki akurasi sebesar 54%, sedangkan RNN-LSTM memperoleh akurasi 53%. Selanjutnya, dilakukan eksperimen lanjutan dengan menghilangkan proses tokenisasi tambahan pada preprocessing. Hasilnya, akurasi meningkat secara signifikan menjadi 73% untuk BERT dan 70% untuk RNN-LSTM. Peningkatan ini menunjukkan bahwa tokenisasi ganda dapat menurunkan kualitas input ke dalam model. Secara keseluruhan, model BERT terbukti lebih unggul dalam memahami konteks linguistik dalam bahasa Indonesia, terutama dalam menangani ambiguitas dan struktur kalimat kompleks dalam teks ulasan pengguna aplikasi.