IMPROVING SENTIMENT ANALYSIS BASED DEEP LEARNING BY USING FEATURE SELECTION

Abstract

Son yıllarda, çevrimiçi sosyal medya kullanımındaki çarpıcı artış nedeniyle duyarlılık analizi çok fazla araştırma kazandı. Öğrenmeye dayalı yöntemler için, formların performansını iyileştirmek için birçok teknik olarak gelişmiş strateji kullanılmıştır. Duygu analizi sistemi, doğal dil işleme tekniklerini ve duygusal bir kelime ağını kullanır ve NLP'deki derin öğrenmenin uygulamalarından biri duygu analizidir. En popüler ve başarılı RNN türü LSTM ağıdır. Duyguları analiz etmek için LSTM yeteneğini kullanan çok fazla araştırma var. Ancak, büyük veri hacimleri, test verilerinde LSTM ağ sonuçlarının doğruluğunu azaltır; başka bir deyişle, aşırı uydurma meydana gelir. Bu sorun, bağımsız değişkenler arasında yüksek bir korelasyon olduğunda ortaya çıkar. Bağımsız ve bağımlı değişkenler arasındaki korelasyon katsayısının yüksek değerine rağmen model yüksek geçerliliğe sahip olmayabilir. Diğer bir deyişle, model iyi görünmesine rağmen, önemli bağımsız değişkenlere sahip değildir. LSTM ağını özellik seçim yöntemleriyle birleştirmek, etkili özellikleri seçmek ve çözmek için duyarlılık analizi doğruluğunu artırabilir. Bu çalışmada, üç karşılaştırma veri setini (YELP, US Airline ve IMDB) kullandık, ardından özellik seçme yöntemini kullanarak sınıflandırma doğruluğunu iyileştirmek için bir derin öğrenme modeli (LSTM, Bi-LSTM ve GRU) önerdik. , filtre tabanlı özellik seçim yöntemi Ki-kare ve Prensip bileşen analiz yöntemi PCA, özelliklerin optimum bir alt kümesini seçmek ve her birinin performansı doğruluk, kesinlik, geri çağırma ve F1 skoru açısından ölçülür ve karşılaştırılır. (LSTM, Bi-LSTM ve GRU) modellerini (Chi-2 ve PCA) seçilen özelliklerle ve ayrıca orijinal özellik setiyle karşılaştırdıktan sonra, sonuçlar, özellik seçim yöntemlerinin tüm durumlarda sınıflandırma doğruluğunu önemli ölçüde artırdığını göstermektedir. . Yelp veri setinde Bi-LSTM'nin elde edilen maksimum doğruluğu, ki-kare kullanılarak% 100'dür. ABD Havayolu veri kümesinde, GRU-LSTM'nin elde edilen maksimum doğruluğu ki-kare kullanılarak% 97,9'dur. IMDB veri kümesinde, Bi-LSTM'nin elde edilen maksimum doğruluğu ki-kare kullanılarak% 99,9'dur

In recent years, sentiment analysis has gained a great deal of research due to the dramatic growth in online social media use. For learning-based methods, many technically advanced strategies have been used to improve the performance of the forms. The sentiment analysis system uses natural language processing techniques and a sentimental vocabulary network, and one of the applications of deep learning in NLP is sentiment analysis. The most popular and successful type of RNN is the LSTM network. There is much research that uses the LSTM ability to analyze sentiment. However, large data volumes reduce the accuracy of LSTM network results in test data; in other words, over-fitting occurs. This problem occurs when there is a high correlation between independent variables. The model may not have high validity despite the high value of the correlation coefficient between the independent and dependent variables. In other words, although the model looks good, it does not have significant independent variables. Combining the LSTM network with feature selection methods can increase sentiment analysis accuracy to select effective features and solve them. In this study, we used the three benchmark datasets, namely (YELP, US Airline, and IMDB), then proposed a deep learning model (LSTM, Bi-LSTM, and GRU) to improve classification accuracy through using the feature selection method, namely, filter-based feature selection method Chi-square and Principle component analysis method PCA to select an optimal subset of features, and the performance of each measured and compared in terms of accuracy, precision, recall, and F1 score. After comparing the (LSTM, Bi-LSTM, and GRU) models with (Chi-2 and PCA) selected features, and also with the original feature set, the results show that feature selection methods significantly increase classification accuracy in all cases. . In the Yelp dataset, the maximum attained an accuracy of Bi-LSTM is 100% using chi-square. In the US Airline dataset, the maximum achieved accuracy of GRU-LSTM is 97.9% using chi-square. In the IMDB dataset, the maximum achieved accuracy of Bi-LSTM is 99.9% using chi-square.