Şeffaf ve kara kutu makine öğrenmesi yöntemleri için nitelik analizi temelli gelişmiş açıklanabilir yapay zekâ modellerin geliştirilmesi

Abstract

Yapay zekâ modellerinin yüksek doğruluk üretmesine karşın karar süreçlerinin çoğu zaman şeffaf olmaması, özellikle kritik uygulamalarda açıklanabilirliği zorunlu hâle getirmektedir. Bu tezde, şeffaf ve kara kutu makine öğrenmesi yöntemleri için nitelik analizi temelli gelişmiş açıklanabilir yapay zekâ modellerinin geliştirilmesi amaçlanmıştır. Tezin temel hipotezi, tabular veriler için önerilen fiXAIt çerçevesinin klasik özellik önemi tabanlı yöntemlere göre daha güçlü açıklama doğruluğu, öz değerlendirme ve hesaplama-verimlilik dengesi sağlayacağıdır. İkinci hipotez ise görüntü verileri için önerilen FİST-CAM ve FİTS yaklaşımlarının, mevcut CAM tabanlı yöntemlere göre hedef nesneyle daha uyumlu ve daha odaklı açıklamalar üreteceğidir. Çalışmada tabular veri ekseninde farklı alanlara ait beş veri seti üzerinde toplam 41.599 kayıt kullanılmıştır. Görüntü verisi ekseninde ise CUB-200-2011 veri setinin 20 sınıflık alt kümesinden elde edilen 1.170 görüntü ile LC25000 veri setindeki 25.000 histopatolojik görüntü değerlendirilmiştir. Yöntem olarak, tabular veriler için ÖVE, ÖDE, STİNSA, ÖT ve DENK bileşenlerinden oluşan fiXAIt yaklaşımı geliştirilmiş; görüntü verileri için ise filtre seçimi tabanlı FİST-CAM ve filtre tabanlı skorlama yaklaşımı önerilmiştir. Bulgular, fiXAIt'in klasik yöntemlere göre daha güçlü şeffaflık göstergeleri sunduğunu ve anlamlı performans kazanımları sağlayabildiğini göstermiştir. Görüntü deneylerinde ConvNeXt-Tiny modeli en dengeli sınıflandırma performansını vermiş, FİST-CAM ise GRAD-CAM ve GRAD-CAM++ yöntemlerine kıyasla daha odaklı açıklamalar üretmiştir. FİTS yaklaşımı da karar bölgelerini bölgesel skorlarla nicel ve izlenebilir biçimde sunmuştur. Sonuç olarak tez, tabular ve görsel veriler için ortak bir önem odaklı bakış açısı altında, daha şeffaf, sorgulanabilir ve güvenilir yapay zekâ modelleri geliştirilmesine yönelik bütüncül bir açıklanabilirlik çerçevesi ortaya koymuştur.

Although artificial intelligence models can achieve high predictive performance, their decision processes are often not transparent, which makes explainability essential, especially in critical applications. This thesis aims to develop advanced explainable artificial intelligence models based on attribute analysis for transparent and black-box machine learning methods. The main hypothesis of the thesis is that the proposed fiXAIt framework for tabular data can provide stronger explanation accuracy, self-evaluation capability, and a better balance between interpretability and computational efficiency than conventional feature importance based methods. The second hypothesis is that the proposed FIST-CAM and FITS approaches for image data can generate explanations that are more focused and better aligned with target objects than existing CAM-based methods. In the tabular data axis of the study, a total of 41,599 records from five datasets belonging to different domains were used. In the image data axis, 1,170 images obtained from a 20-class subset of the CUB-200-2011 dataset and 25,000 histopathological images from the LC25000 dataset were evaluated. Methodologically, the fiXAIt approach, consisting of FPE, FVE, CBFSA, SC, and CEFC components, was developed for tabular data, while the FIST-CAM and FITS approaches were proposed for image data. The findings showed that fiXAIt provided stronger transparency indicators and meaningful performance gains compared with conventional methods. In image-based experiments, the ConvNeXt-Tiny model achieved the most balanced classification performance, while FIST-CAM produced more focused explanations than GRAD-CAM and GRAD-CAM++. In addition, FITS presented decision regions quantitatively and traceably through regional scoring. As a result, this thesis introduces a holistic explainability framework for developing more transparent, interpretable, and trustworthy artificial intelligence models for both tabular and visual data.