DERİN ÖĞRENME ALGORİTMALARI İLE İNCE İĞNE ASPİRASYON SİTOLOJİSİ ÖRNEKLERİNDEN TİROİD PAPİLLER KARSİNOMUN BÖLÜTLENMESİ

Abstract

Tiroid papiller karsinomu (PTK), endokrin sistem tümörleri arasında en sık karşılaşılan malignite olup dünya genelinde tiroid kanserlerinin büyük bir kısmını oluşturmaktadır. Erken teşhis ve doğru tanı, hastalığın tedavi başarısını doğrudan etkileyen en kritik unsurlardandır. Özellikle sitolojik örneklerden elde edilen görüntülerin yorumlanmasında uzman yorumu kadar hızlı ve güvenilir karar destek sistemlerinin de önemi giderek artmaktadır. Son yıllarda dijital patolojideki ilerlemeler ve yapay zekâ tabanlı algoritmaların gelişimiyle birlikte, tıbbi görüntülerde otomatik analiz uygulamaları ön plana çıkmaktadır. Bu kapsamda hazırlanan bu tez çalışmasında, İİA (ince iğne aspirasyon) sitoloji görüntülerinden elde edilen PTK örneklerinin segmentasyonu hedeflenmiştir. Araştırmada kullanılan veri seti, çalışmanın yürütücüsü tarafından oluşturulmuş ve patoloji uzmanı ile biyomühendis desteğiyle detaylı şekilde etiketlenmiştir. Görseller, 2448x1920 çözünürlüğe sahip olup iyi huylu (benign) ve kötü huylu (malign) olarak ayrılmıştır. Segmentasyon işlemi yalnızca malign vakalar üzerinde gerçekleştirilmiş, böylece hedef bölgenin belirgin olarak sınırlarının çizilmesi amaçlanmıştır. Derin öğrenme tabanlı segmentasyon için YOLO mimarisine dayanan YOLOv8-seg ve yeni nesil YOLOv11-seg modelleri tercih edilmiş, her iki model de ayrı ayrı eğitilerek mAP50 ve mAP50-95 gibi performans metrikleriyle değerlendirilmiştir. Elde edilen sonuçlara göre YOLOv11-seg modeli, %97.8 mAP50ve %70.1 mAP050-95 değerleriyle daha başarılı bir segmentasyon performansı göstermiştir. Bu çalışma, dijital patoloji alanında yapay zekâ destekli tanı sistemlerinin kullanımına katkı sağlayacak, özgün ve uygulanabilir bir yöntem ortaya koymaktadır.

Papillary thyroid carcinoma (PTC) is the most common malignancy among endocrine system tumors and accounts for a large proportion of thyroid cancers worldwide. Early diagnosis and accurate diagnosis are among the most critical factors directly affecting the success of treatment. In particular, the importance of rapid and reliable decision support systems is increasing, as much as expert interpretation, in the interpretation of images obtained from cytological samples. In recent years, with advances in digital pathology and the development of artificial intelligence-based algorithms, automatic analysis applications in medical images have come to the fore. In this thesis study, the segmentation of PTC samples obtained from FNA (fine needle aspiration) cytology images was targeted. The dataset used in the study was created by the study's principal investigator and labeled in detail with the support of a pathologist and a biomedical engineer. The images have a resolution of 2448x1920 and are classified as benign or malignant. The segmentation process was performed only on malignant cases, with the aim of clearly delineating the boundaries of the target region. For deep learning-based segmentation, the YOLOv8-seg and new-generation YOLOv11-seg models based on the YOLO architecture were preferred, and both models were trained separately and evaluated using performance metrics such as mAP50 and mAP50-95. According to the results obtained, the YOLOv11-seg model demonstrated more successful segmentation performance with values of 97.8% mAP50 and 70.1% mAP50-95. This study presents an original and applicable method that will contribute to the use of AI-supported diagnostic systems in the field of digital pathology.