İNCE AYAR İLE ETKİNLİĞİ ARTIRILMIŞ CNN VE TRANSFER ÖĞRENME YÖNTEMLERİYLE PROSTAT KANSERİNİN TESPİTİ - SARIATEŞ, MURAT (Fırat Üniveristesi, 2025)
Kanser insanlar için yüksek riskli hastalıkların başındadır. Prostat vakaları, akciğer kanserinden sonra erkeklerde ikinci sırada yer almakta ve erken teşhisi hayati önem taşımaktadır. Prostat kanserinin teşhisinde yapay zeka teknolojilerinden faydalanılmaya başlanmış, daha etkili ve hassas sonuçlar elde edilerek insan odaklı yöntemlerdeki potansiyel hatalarının önüne geçilmiştir. Bu çalışmada prostat kanserinin teşhisinde sınıflandırma performansını arttırabilmek adına makine öğrenmesi yöntemlerinden farklı olarak daha az eğitim verisi ile daha yüksek başarı ve öğrenme kabiliyetine sahip transfer öğrenme yöntemi ve ince-ayar işlemleri uygulanmıştır. Prostat kanseri MR görüntülerinden oluşan 'significant' ve 'not-significant' olmak üzere iki sınıflı veri setine, özellik çıkarımı yaklaşımıyla çeşitli CNN mimarileri ile doğruluk sonuçları elde edilmiş, bu oranları arttırabilmek adına ön-eğitimli transfer öğrenme modelleri kullanılmış ve Densenet201 modelinde çapraz-doğrulama yöntemi ve RMSProp optimizasyon yöntemi kombinasyonuyla %98,63 ile en yüksek doğruluk sonucuna ulaşmıştır. Önerilen transfer öğrenme modeli, özellik çıkarımı yöntemine kıyasla yaklaşık %26 oranında bir iyileştirme sağlamıştır. Bunun üzerine farklı bir prostat veri seti üzerinde yapılan çalışma kapsamında, öncelikle temel bir Sequential model geliştirilmiş, geliştirdiğimiz temel modelin katmanlarındaki nöron sayıları değiştirilerek piramit benzeri bir mimari tasarlanmış ve bu modelde ince ayarlama ve transfer öğrenme yapılarak performans artışı gözlemlenmiştir. Ayrıca, sonuçların mukayese edilebilmesi amacıyla son dönemlerde popülerlik kazanmış olan Vision Transformer (ViT) ve CNN ile Vision Transformer'ın hibrit bir kombinasyonu olan MaxViT v2 modeli ile de değerlendirmeler yapılmıştır. Bu karşılaştırmalar neticesinde en yüksek sınıflandırma doğruluğunun %96.77 ile ince ayarlı geliştirilmiş modelden elde edilmiştir. Çalışmanın sonuçları, derin öğrenme modelinin farklı hastalıkları tanıma yeteneğinin transfer öğrenme ve ince ayar etkinliği ile önemli ölçüde arttığını göstermektedir.

Cancer is one of the most high-risk diseases for humans. Prostate cancer is the second most common cancer in men after lung cancer and early diagnosis is vital. Artificial intelligence technologies have begun to be utilized in the diagnosis of prostate cancer, obtaining more effective and accurate results and avoiding potential errors in human-oriented methods. In this study, in order to improve the classification performance in prostate cancer diagnosis, transfer learning method and fine-tuning processes are applied, which have higher success and learning capability with less training data, unlike machine learning methods. Accuracy results were obtained with various CNN architectures with a feature extraction approach to a two-class dataset consisting of prostate cancer MRI images with 'significant' and 'not-significant' classes. In order to increase these rates, pre-trained transfer learning models were used and the Densenet201 model achieved the highest accuracy result with 98.63% with the combination of cross-validation method and RMSProp optimization method. The proposed transfer learning model achieved an improvement of about 26% compared to the feature extraction method. As part of the study on a different prostate dataset, we first developed a basic Sequential model, designed a pyramid-like architecture by changing the number of neurons in the layers of the basic model we developed, and observed performance improvement by fine-tuning and transfer learning in this model. In addition, in order to compare the results, the recently popular Vision Transformer (ViT) and the MaxViT v2 model, which is a hybrid combination of CNN and Vision Transformer, were also evaluated. As a result of these comparisons, the highest classification accuracy of 96.77% was obtained from the Fine-tuned Enhanced model. The results of the study show that the ability of the deep learning model to recognize different diseases increases significantly with transfer learning and fine-tuning.
Detection of prostate cancer with CNN and transfer learning methodsenhanced with fine tuning
Keywords: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol