In recent years, deaths caused by cancer and diseases are more prominent than deaths caused by other diseases. Early diagnosis of cancer is very crucial for the treatment of this disease. With the development of imaging devices, it has become possible to treat the disease, follow-up and treat with the help of Computer Aided Diagnostic (CAD) systems. Particularly with high resolution scanners, it is possible to automatically detect changes in tissues and organs by CAD systems.This thesis consists of two main sections, namely the segmentation and classification of high resolution histopathological images. Superpixels based and deep learning based semantic segmentation algorithms are used for the segmentation of cellular structures. The performance of SLIC, SLIC-DBSCAN, ERS and TPRS superpixels segmentation algorithms, which are frequently used in computer vision, have been tried to be obtained in the segmentation of cellular structures. For segmentation purpose, a new segmentation algorithm is proposed in order to segment the cellular structures in the histopathological images by combining the SLIC superpixels segmentation algorithm and clustering-based algorithms such as k-means and fuzzy c-means. The performance of the proposed method was compared with other well known methods used in the literature. In addition, deep learning-based semantic segmentation (SEGNET) method, which is a very successful method in object detection, tracking of moving objects, segmentation of objects in outdoor, is used in the segmentation of cellular structures. In the `classification of histopathological images` section, the detection of mitotic cells and tumor regions located in the lymph nodes was carried out by using the convolutional neural network method which is very popular in recent years. In the detection of mitotic cells, performance analysis is performed by comparing the conventional shape, color, texture and statistical based feature extraction methods with the deep learning based methods. When the results are examined, it is observed that the ESA model perform better classification accuracy than the conventional methods. In addition, it is observed that the performance can be increased by using sampling based classification methods which are robust against unbalanced data such as RusBoost. Finally, in cooperation with Istanbul Medipol University Hospital, Istanbul Technical University and Yildiz Technical University, one of the largest whole slide image data set in the literature regarding the grading of cervical cancer precursor lesions has been created and classified.

Son yıllarda kanser ve ona bağlı hastalıkların neden olduğu ölümler diğer hastalıkların sebep olduğu ölümlerden daha fazla ön plana çıkmaktadır. Kanser ve ona bağlı hastalıkların erken teşhisi bu hastalığın tedavi edilebilmesi bakımından oldukça önemlidir. Görüntüleme cihazlarının gelişmesi ile birlikte hastalığın görüntülenmesi, takibi ve Bilgisayar Destekli Teşhis (BDT) sistemilerinin de yardımıyla tedavi edilebilmesi mümkün hale gelmiştir. Özellikle yüksek çözünürlüğe sahip tarayıcılar yardımıyla doku ve organlardaki değişimlerin BDT tabanlı sistemler tarafından otomatik olarak tespiti mümkündür.Bu tez çalışması histopatolojik görünütlerin bölütlenmesi ve sınıflandırılması olmak üzere iki ana bölümden oluşmaktadır. Çalışmanın bölütleme başlığında hücresel yapıların bölütlenmesinde süperpiksel yaklaşımı ve derin öğrenme tabanlı semantik bölütleme algoritmaları kullanılmıştır. Özellikle son yıllarda bilgisayarla görü alanında sıkça kullanılan süperpiksel bölütleme yöntemlerinden SLIC, SLIC-DBSCAN, ERS ve TPRS algoritmalarının yüksek çözünürlüklü histopatolojik görüntülerde hücresel yapıların bölütlenmesindeki başarım performansları elde edilmeye çalışılmıştır. Bölütleme amacıyla SLIC süperiksel bölütleme algoritması ve kümeleme tabanlı algoritmalarla birleştirilerek histopatolojik görüntülerde hücresel yapıların bölütlenmesi amacıyla yeni bir bölütleme algoritması önerilmiştir. Elde edilen bölütleme başarıları literatürde sıkça kullanılan yöntemlerle karşılaştırılmıştır. Buna ek olarak literatürde hareketli objelerin takibi, dış ortamdaki nesnelerin bölütlenmesinde oldukça başarılı bir yöntem olan derin öğrenme tabanlı semantik bölütleme (SEGNET) yöntemi hücresel yapıların bölütlenmesinde kullanılmıştır. Bölütleme başarısı incelendiğinde literatürde sıkça kullanılan geleneksel yöntemlerden daha iyi sonuç verdiği gözlemlenmiştir. Histopatolojik görüntülerin sınıflandırılması bölümünde ise hem mitozlu hücrelerin hem de lenf nodlarında yer alan tümörlü bölgelerin özellikle son dönemde oldukça popüler olan evrişimsel sinir ağları yöntemi ile tespiti gerçekleştirilmiştir. Özellikle mitozlu hücrelerin tespitinde geleneksel şekil, renk, doku ve istatistiksel tabanlı özellik çıkarma yöntemleri ile ESA yöntemi karşılaştırılarak performans analizi gerçekleştirilmiştir. Elde edilen sonuçlar incelendiğinde ESA modelinin geleneksel yöntemlerden daha başarılı sonuç verdiği gözlemlenmiştir. Ayrıca verilerin dengesiz olduğu durumlarda dengesiz verilere karşı gürbüz olan sınıflandırma yöntemleri (RusBoost) ile başarımın arttırılabileceği de görülmüştür. Son olarak, Istanbul Medipol Universitesi Hastanesi, İstanbul Teknik Üniversitesi ve Yıldız Teknik Üniversitesi işbirliğiyle rahim ağzı kanseri öncü lezyonlarının derecelendirilmesi ile ilgili literatürde yer alan en geniş veri kümelerinden biri oluşturulmuş ve sınıflandırılmıştır. Elde edilen sınıflandırma başarısı iki patolog tarafından oluşturulan referans verilerle karşılaştırılarak analiz edilmiştir.