GENETİK ALGORİTMA İLE YAPAY SİNİR AĞLARINDA YAPI VE PARAMETRE OPTİMİZASYONU

Abstract

Katmanlı yapay sinir ağları (YSA) herhangi bir doğrusal olmayan sürekli fonksiyonu arzu edilen doğrulukta yaklaştırma yeteneğine sahiptir. Bu özelliğinden dolayı YSA sistem modelleme, sinyal işleme ve tahmini, örüntü tanıma ve kontrol gibi uygulamalarda yaygın olarak kullanılmaktadır. Genellikle uygulamalarda sabit bir orta katman hücresine sahip ve katmanlar arasında tam bağlantıların yapıldığı ileri beslemeli katmanlı YSA kullanılır ve geriye yayılım algoritması ile eğitilir. Daha az hücre ve kısmi bağlantıya sahip olan küçük ağlar, sınırlı bilgi işleme kapasitesi nedeniyle iyi bir performans sağlamazken fazla hücre ve tam bağlantılı büyük ağlar gereksiz bağlantılara, işlem yoğunluğuna ve eğitim sürecinin yavaşlamasına neden olur. Ayrıca, YSA' nın parametre sayısı arttıkça eğitim sürecinde amaç fonksiyonunun yerel minimumlarına yakalanma olasılığı artar. Bu nedenlerle, yapay sinir ağlarının yapı ve parametre optimizasyonu önemli bir sorundur.Bu tez çalışmasında, yapay sinir ağlarının yapısının ve parametrelerinin genetik algoritma (GA) ile ayarlanması incelenmiştir. Bu amaçla, ileri beslemeli YSA' nın optimizasyonu için kullanılan GA da gerçek kodlama tekniği kullanılmış ve her bir kromozom, YSA' nın ağırlıklarını, polarmalarını ve bu ağırlık ve polarmaların bağlantı anahtarlarını ihtiva eden bir vektör olarak kodlanmıştır. Bu ağlar, genetik-yapay sinir ağı (GYSA) olarak söylenir ve bağlantı anahtarları ile GYSA' nın etkisiz ağırlıkları ve hücreleri elimine edilebilir. Bu tezde önerilen GYSA' nın sistem modelleme problemindeki performansları incelenmiştir. Doğrusal olmayan dinamik sistemlerin modellenmesinden elde edilen sonuçlar, optimize edilmiş GYSA' nın iyi bir modelleme performansına sahip olduğunu göstermiştir.Anahtar Kelimeler: Yapay Sinir Ağları, Genetik Algoritma, Sistem Modelleme, Optimizasyon

A multilayer neural network (NN) can approximate any nonlinear continuous function at the desired accuracy. Hence, neural network are widely used for applications such as system identification, signal processing and prediction, pattern recognition and control. In the applications, fully connected feed forward neural networks including the fixed hidden layer units are commonly used and it is trained using the back propagation algorithm. Small networks having the less units and partial connection may not provide the good performance owing to its limited information processing power. On the other hand, large networks having the more units and full connection between layers may have unnecessary connections, more calculations time and slow convergence of the training process. Furthermore, if the NN has more parameters, the probability of trapping the local minimum of the performance criteria increases. Therefore, structure and parameter optimization of the NN is an important problem.In this thesis, genetic algorithm (GA) is applied to solve the problem of tuning the structure and parameters of the neural networks. For this purpose, the real coding technique of GA is used for optimization of the feed forward neural network and each chromosome is encoded as a vector including the neural network weights, biases and switches for weights and biases. These networks are called as genetic-neural networks (GNN) and ineffective weights and units of GNN can be eliminated with the switches. System identification performance of the GNN proposed in this thesis is investigated. Results obtained from the identification of nonlinear dynamic systems show that the optimized GNN has good identification performance.Keywords: Artificial Neural Networks, Genetic Algorithms, System Identification, Optimization.