Embed Size (px)
Citation preview
İSTANBUL TEKNİK ÜNİVERSİTESİ
ELEKTRİK-ELEKTRONİK FAKÜLTESİ
ELEKTRONİK MÜHENDİSLİĞİ BÖLÜMÜ
BİTİRME PROJESİ
Karar Ağacı ve SOM Ağı ile Doku Bölütleme
Hazırlayan
Cem Mutlu, 040090365
Danışman
Prof. Dr. Zümray DOKUR
MAYIS 2015
ii
ÖNSÖZ
Bu çalışmayı hazırlamamda bana yol gösteren ve benden bilgisini, desteğini ve yardımını
hiçbir zaman esirgemeyen Sayın Prof. Dr. Zümray Dokur’a en içten teşekkürlerimi
sunarım.
Mayıs, 2015
Cem Mutlu
iii
İÇİNDEKİLER
2.1 İstatistiksel Öznitelikler ....................................................................................... 2
2.1.1 Ortalama ....................................................................................................... 3
2.1.2 Medyan ......................................................................................................... 3
2.1.3 Geometrik Ortalama ..................................................................................... 4
2.1.4 Harmonik Ortalama ...................................................................................... 4
2.1.5 Standart Sapma............................................................................................. 5
2.1.6 Basıklık (Kurtosis) ....................................................................................... 6
2.1.7 Çarpıklık (Skewness) ................................................................................... 6
2.2 Dönüşümler İle Elde Edilen Öznitelikler ............................................................ 8
2.2.1 Fourier Dönüşümü ....................................................................................... 8
2.2.2 Canny Kenar Belirleme .............................................................................. 10
2.3 Gri-Ton Dağılımından Elde Edilen Öznitelikler ............................................... 12
2.3.1 Moment ...................................................................................................... 12
iv
2.3.2 Merkezi Moment ........................................................................................ 13
2.3.3 Mutlak Merkezi Moment ........................................................................... 13
2.3.4 Entropi ........................................................................................................ 13
2.3.5 Enerji .......................................................................................................... 14
2.4 Komşuluk Gri-Ton Fark Matrisi ....................................................................... 14
2.4.1 İrilik ............................................................................................................ 14
2.4.2 Kontrast ...................................................................................................... 15
2.4.3 Ani Değişkenlik ( Busyness ) ..................................................................... 15
2.4.4 Karmaşıklık ................................................................................................ 15
2.4.5 Doku Kuvveti ............................................................................................. 16
3.1 Karar Ağacı ....................................................................................................... 17
3.1.1 Karar Ağacı Öğrenmesi.............................................................................. 18
3.1.2 Karar ağacının Avantaj ve Dezavantajları ................................................. 20
3.1.3 Karar Ağacının Sınırlandırılması ............................................................... 21
3.2 Öz-Düzenleyen Harita Ağı (SOM) .................................................................... 21
3.2.1 Öz-Düzenleyen Harita Ağının Avantajları ve Dezavantajları ................... 23
3.3 K-En Yakın Komşu (KNN) Sınıflayıcısı .......................................................... 24
4.1 Bölütlemede Kullanılan Doku Görüntüleri ve Öznitelikler .............................. 26
4.2 Karar Ağacının Benzetim Sonuçları .................................................................. 30
4.3 SOM Ağının Benzetim Sonuçları ...................................................................... 37
4.4 KNN Sınıflayıcısının Benzetim Sonuçları ........................................................ 41
4.5 Sınıflayıcıların Başarımlarının Karşılaştırılması ............................................... 44
v
vi
ŞEKİL LİSTESİ
Şekil 1.1 Doku Bölütleme Adımları................................................................................... 1
Şekil 2.1 Brodatz albümünden örnek dokular [3] .............................................................. 2
Şekil 2.2 Gürültülü medikal doku görüntüsünde harmonik ortalama işlemi [8] ............... 5
Şekil 2.3 Harmonik filtrenin kenar özniteliklerini koruduğu medikal doku görüntüsü [8]5
Şekil 2.4 Negatif Çarpıklık ................................................................................................ 7
Şekil 2.5 Pozitif çarpıklık ................................................................................................... 7
Şekil 2.6 Örnek bir görüntü ve 2 boyutlu Fourier dönüşümü [12]..................................... 9
Şekil 2.7 Sol üst: Örnek görüntü, Sağ üst: Filtrelenmiş görüntü, Sol alt: Orijinal resmin
frekans gösterimi, Orta alt: Filtre, Sağ alt: Filtrelenmiş resmin frekans gösterimi [13] .. 10
Şekil 2.8 Canny Kenar Belirleme yönteminin aşamaları [15] ......................................... 11
Şekil 2.9 NxN boyutundaki alt pencereler [17] ............................................................... 12
Şekil 3.1 Müşterilerin telefon kullanımını gösteren örnek bir karar ağacı ...................... 18
Şekil 3.2 SOM ağında giriş vektörü ile düğümler arasındaki bağlantılar [30] ................ 22
Şekil 3.3 KNN sınıflayıcısının k=3 ve k=6 değerleri için gösterimi [33] ........................ 24
Şekil 4.1 İlk benzetimde kullanılan beş farklı Brodatz dokusu ....................................... 26
Şekil 4.2 İkinci benzetimde kullanılan dört farklı Brodatz dokusu ................................. 27
Şekil 4.3 Üçüncü benzetimde kullanılan Ultrasonik fantom dokular .............................. 27
Şekil 4.4 İlk benzetim için kullanılan test görüntüsü ...................................................... 27
Şekil 4.5 İkinci benzetim için kullanılan test görüntüsü .................................................. 28
Şekil 4.6 Üçüncü benzetim için kullanılan medikal test görüntüsü ................................. 28
Şekil 4.7 İlk benzetimdeki test görüntüsünün bölütlenmiş hali (ideal durum) ................ 29
Şekil 4.8 Karar ağacı ile bölütlenmiş beş sınıflı doku görüntüsü, derinlik 12, en az veri 8,
en az kazanç 2 .................................................................................................................. 31
vii
Şekil 4.9 Beş sınıflı doku görüntüsü için en başarılı Karar Ağacının yapısı ................... 32
Şekil 4.10 Karar ağacı ile bölütlenmiş dört sınıflı doku görüntüsü, derinlik 12, en az veri
2, en az kazanç 8 .............................................................................................................. 35
Şekil 4.11 Karar ağacı ile bölütlenmiş ultrasonik fantom doku görüntüsü, derinlik 12, en
az veri 2, en az kazanç 2................................................................................................... 37
Şekil 4.12 SOM ile bölütlenmiş beş sınıflı doku görüntüsü, düğüm sayısı 900, iterasyon
sayısı 8000, komşuluk 2 ................................................................................................... 38
Şekil 4.13 SOM ile bölütlenmiş dört sınıflı doku görüntüsü, düğüm sayısı 900, iterasyon
sayısı 16000, komşuluk 2 ................................................................................................. 40
Şekil 4.14 SOM ile bölütlenmiş ultrasonik fantom doku görüntüsü, düğüm sayısı 400,
iterasyon sayısı 24000, komşuluk 2 ................................................................................. 41
Şekil 4.15 KNN ile bölütlenmiş beş sınıflı doku görüntüsü, K=4 ................................... 42
Şekil 4.16 KNN ile bölütlenmiş dört sınıflı doku görüntüsü, K=1 .................................. 43
Şekil 4.17 KNN ile bölütlenmiş ultrasonik fantom doku görüntüsü, K=1 ...................... 44
Şekil 4.18 Bölütlenmiş beş sınıflı doku görüntüleri ........................................................ 45
Şekil 4.19 Bölütlenmiş dört sınıflı doku görüntüleri ....................................................... 46
Şekil 4.20 Bölütlenmiş ultrasonik fantom doku görüntüleri ............................................ 47
Şekil 5.1 Bölütlenmiş doku görüntüleri ........................................................................... 49
viii
TABLO LİSTESİ
Tablo 4.1 Çalışmada kullanılan öznitelikler .................................................................... 29
Tablo 4.2 Beş sınıflı doku görüntüsü için karar ağacının başarımları ............................. 30
Tablo 4.3 Karar Ağacının 3 derinliğe kadar olan düğümlerinin doku dağılımları........... 33
Tablo 4.4 Dört sınıflı doku görüntüsü için karar ağacının başarımları ............................ 34
Tablo 4.5 Medikal doku görüntüsü için karar ağacının başarımları ................................ 35
Tablo 4.6 Beş sınıflı doku görüntüsü için SOM ağının başarımları ................................ 37
Tablo 4.7 Dört sınıflı doku görüntüsü için SOM ağının başarımları ............................... 39
Tablo 4.8 Ultrasonik fantom doku görüntüsü için SOM ağının başarımları ................... 40
Tablo 4.9 Beş sınıflı doku görüntüsü için KNN ağı başarımları ..................................... 41
Tablo 4.10 Dört sınıflı doku görüntüsü için KNN ağı başarımları .................................. 42
Tablo 4.11 Ultrasonik fantom doku görüntüsü için KNN başarımları ............................ 43
Tablo 4.12 Sınıflayıcıların beş sınıflı doku görüntüsü için başarımları ........................... 44
Tablo 4.13 Sınıflayıcıların beş sınıflı doku görüntüsü için doku bazında başarımları .... 45
Tablo 4.14 Sınıflayıcıların dört sınıflı doku görüntüsü için doku bazında başarımları ... 46
Tablo 4.15 Sınıflayıcıların Ultrasonik fantom doku görüntüsü için doku bazında
başarımları ........................................................................................................................ 46
Tablo 5.1 Sınıflayıcıların farklı doku görüntüleriyle olan başarımları ............................ 48
Tablo 5.2 Sınıflayıcıların farklı doku görüntülerindeki eğitim süreleri ........................... 50
Tablo 5.3 Sınıflayıcıların farklı doku görüntülerindeki test süreleri................................ 50
ix
ÖZET
Bu bitirme çalışmasında bir görüntü üzerindeki çeşitli dokuların makine öğrenmesi
yöntemleriyle ayırt edilebilmesi amaçlanmıştır. Önceki çalışmalarımda farklı
problemlerin çözümü için kullandığım Karar Ağacı ve Öz-Düzenleyen Harita Ağı
sınıflayıcılarının doku bölütleme probleminin çözümündeki başarımları, avantajları ve
dezavantajları karşılaştırmalı olarak incelenmiştir. Ayrıca bu iki yöntemin daha basit
algoritmalara karşı avantajlarının görülebilmesi için K en yakın komşu algoritması
kullanılmıştır.
Doku bölütleme problemi, tıpta hastalığın tanısı için doku ile ilgili farklılıkların
belirlenmesi, uydu görüntülerinin işlenmesi, görüntüde yüz bulma, görüntüde yazı bulma
ve parmak izi tanıma gibi birçok farklı alanda karşılaşılan bir problemdir. Bölütlenecek
doku karşılaşan alana göre değişiklik göstermektedir ve bölütleme yöntemlerinin başarısı
bölütlenecek dokuya göre değişmektedir. Bu noktada seçilen yöntem önemli olduğu kadar
dokuyu iyi temsil eden özniteliklerin seçilmesi de önemlidir. Bu amaçla literatürde
bulunan öznitelikler araştırılmış ve çeşitli öznitelikler benzetimlerde kullanılmıştır.
Ayrıca görüntü hızlı Fourier dönüşümü ile frekans uzayında da incelenmiş, Canny Kenar
Belirleme algoritması ile çizgisel öznitelikler çıkarılmıştır.
Çalışmada kullanılmak üzere literatürde çok sık kullanılan Brodatz veri tabanından
farklı doku görüntüleri seçilmiştir. Bu doku görüntüleri kullanılan yöntemlere giriş olarak
verilmiştir. Sonra bu dokuların bir arada bulunduğu ek bir görüntü de diğer girişlere
birlikte verilip, görüntünün hangi bölümünde hangi doku olduğunu gösteren bölütlenmiş
nihai görüntü elde edilmiştir. Alınan çıktı gerçek sınırlar ile karşılaştırılıp, çalışma süresi,
kaynak tüketimi gibi etkenler de dikkate alınarak yöntemlerin başarımları incelenmiştir.
1
GİRİŞ VE LİTERATÜR ÖZETİ
Doku bölütlemenin temel amacı görüntüyü dokusal özelliklerine göre farklı
kısımlara ayırmaktır. Bu problemin çözümü için literatürde kullanılmış olan tekniklerin
bir kısmı aşağıda listelenmiştir [1].
K-en yakın komşu kuralı
Diskriminant analizi
Destek vektör makineleri (‘support vector machines’)
Yapay sinir ağları (‘artificial neural networks’)
Genetik algoritmalar
Karar ağacı öğrenmesi
Kullanılan teknikler incelendiğinde doku bölütleme probleminin Şekil 1.1’de
gösterilen temel adımlardan oluştuğu görülür [2]. İlk aşamada gürültü giderme, renk
dengesi gibi ön işlemler uygulanır. Daha sonra görüntüden doku ile ilgili özellikleri temsil
eden öznitelikler çıkarılır. Son olarak bu öznitelikler kullanılarak sınıflama yapılır.
Şekil 1.1 Doku Bölütleme Adımları
Doku bölütleme probleminde kullanılacak özniteliklerin seçimi çok önemlidir.
Öznitelik seçerken dokusal özellikleri en iyi temsil eden öznitelikler seçilmelidir. Bazı
çalışmalarda seçilen özniteliklerin zayıf olanlarının elenmesi veya özniteliklere ağırlık
vermek gerekir. Yapılan çalışmalarda doğru özniteliklerin seçilmesinin sınıflama işlem
süresini azalttığı ve başarımı yükselttiği görülmüştür [3].
Ön İşlemlerÖzniteliklerin
çıkarılmasıSınıflama
2
DOKUYA ÖZGÜ ÖZNİTELİKLERİN ÇIKARILMASI
Doku, bir görüntü üzerindeki bir insanın gözüyle fark edilebilen düzenliliktir. Doğada
karşılaşılan dokular genelde yansıyarak ve dönerek oluşan spiral, kıvrımlar, dalgalar ve
kabarcıklar içerir. Doğada karşılaşılan bu dokuların ve bazı yapay dokuların arka planında
matematiksel yapılar vardır. Matematiksel yapıların parametreleri bir dokuyu diğer
dokulardan ayıran temel karakteristik özelliklerdir.
Doku bölütleme tekniklerinin sınanabilmesi için bazı örnek dokular üzerinde çalışılır.
Bunlardan akademik çalışmalarda en çok kullanılanlardan biri Brodatz albümüdür. Şekil
2.1‘de Brodatz albümünden örnek dokular görülmektedir [4].
Şekil 2.1 Brodatz albümünden örnek dokular [3]
Bu bölümün devamında çalışmada kullanılan öznitelikler ve öznitelik çıkartma
yöntemleri anlatılacaktır. Öncelikle istatistiksel öznitelikler hakkında bilgi verilecektir.
Daha sonra kullanılan dönüşümlerden çıkarılan öznitelikler, gri-ton dağılımından elde
edilen öznitelikler ve gri-ton fark matrisi yöntemiyle elde edilen öznitelikler anlatılacaktır.
2.1 İstatistiksel Öznitelikler
Doku bölütlemede ortalama, standart sapma, çarpıklık ve basıklık gibi istatistiksel
özniteliklerin sınıflayıcı performansını arttırdığı gözlemlenmiştir [5]. İstatistiksel
3
öznitelikler çıkarılırken bir pencere içerisindeki piksellerin genlik değerlerinden temel
istatistiksel ifadeler çıkarılır.
Çalışmada istatistiksel öznitelikler 5, 7, 9, 11, 13 ve 15 olmak üzere 6 farklı pencere
genişliği için hesaplanarak 42 farklı öznitelik elde edilmiştir.
2.1.1 Ortalama
Ortalama, bir pencere içerisindeki piksellerin tümünü temsil eden ortalama gri-ton
değerini belirten özniteliktir. Piksellerin ortalama gri-ton değerinin matematiksel ifadesi
Denklem 2.1’de verilmiştir.
𝑃𝑜𝑟𝑡 =∑ ∑ 𝑃(𝑖, 𝑗)𝑁
𝑗=1𝑁𝑖=1
𝑁 ∗ 𝑁
(2.1)
Port : Piksellerin ortalama gri-ton değeri
N : Pencere boyutu
P(i,j) : i-inci satır j-inci sütundaki pikselin gri-ton değeri
2.1.2 Medyan
Piksel değer dağılımının altında kalan alanın, tüm alanın yarısı olduğu piksel
değerini gösteren özniteliktir. Bir penceredeki medyan değeri penceredeki sinyal-gürültü
oranıyla ilişkilidir [6]. Medyan değerinin matematiksel ifadesi Denklem 2.2’de
verilmiştir.
∑ 𝑄(𝑝) = ∑ 𝑄(𝑝) =1
2∑ 𝑄(𝑝)
255
0
255
𝑃𝑚𝑒𝑑
𝑃𝑚𝑒𝑑
0
(2.2)
Pmed : Medyan piksel değeri
Q(p) : p piksel değerinin pencere içerisindeki sayısı
4
2.1.3 Geometrik Ortalama
Geometrik ortalama filtresi görüntü işlemede özellikle gürültü yok etme amacıyla
kullanılan lineer olmayan bir filtredir [7]. Bir pencere içerisindeki tüm pikselleri temsil
eden oransal orta piksel değerini belirten özniteliktir. Piksel geometrik ortalama değerinin
matematiksel ifadesi Denklem 2.3’te verilmiştir.
𝑃𝑔𝑜𝑟𝑡 = √∏ ∏ 𝑃(𝑖, 𝑗)
𝑁
𝑗=1
𝑁
𝑖=1
𝑁∗𝑁
(2.3)
Pgort : Piksel geometrik ortalama değeri
2.1.4 Harmonik Ortalama
Harmonik ortalama filtresi Şekil 2.2’de gösterilen soldaki medikal doku
görüntüsünde uygulandığında gaussian gürültülerinin gidererek sağdaki görüntünün elde
edilmesini sağlar [8]. Ayrıca bir pencere içerisinde harmonik ortalama alma işleminin
gürültüleri giderirken kenar özelliklerini koruduğu Şekil 2.3’te görülmektedir. Harmonik
ortalama özniteliğinin matematiksel ifadesi Denklem 2.4’te verilmiştir.
𝑃ℎ𝑜𝑟𝑡 =𝑁 ∗ 𝑁
∑ ∑1
𝑃(𝑖, 𝑗)𝑁𝑗=1
𝑁𝑖=1
(2.4)
Phort : Piksel harmonik ortalama değeri
5
Şekil 2.2 Gürültülü medikal doku görüntüsünde harmonik ortalama işlemi [8]
Şekil 2.3 Harmonik filtrenin kenar özniteliklerini koruduğu medikal doku görüntüsü [8]
2.1.5 Standart Sapma
Bir pencere içerisindeki piksel dağılımının ortalama etrafındaki yayılımını belirten
özniteliktir. Bu öznitelik düz bir dokuda sıfıra yakın değerler alırken, piksel değeri değişen
dokularda yüksek değerler alır. Standart sapma değerinin matematiksel ifadesi Denklem
2.5’te verilmiştir.
6
𝑆 = √∑ ∑ (𝑃(𝑖, 𝑗) − 𝑃𝑜𝑟𝑡)2𝑁
𝑗=1𝑁𝑖=1
𝑁 ∗ 𝑁
(2.5)
S : Standart sapma değeri
2.1.6 Basıklık (Kurtosis)
Bir pencere içerisindeki piksel değeri dağılımının basıklığını veya sivriliğini
belirten özniteliktir. Basıklık değerinin matematiksel ifadesi Denklem 2.6’da
belirtilmiştir.
𝐾 = √∑ ∑ (𝑃(𝑖, 𝑗) − 𝑃𝑚𝑒𝑎𝑛)4𝑁
𝑗=1𝑁𝑖=1
𝑁 ∗ 𝑁
(2.6)
K : Basıklık değeri
N : Pencere Genişliği
Pmean : Pencerenin ortalama değeri
P(i,j) : i. satır j. sütundaki piksel değeri
2.1.7 Çarpıklık (Skewness)
Pencere içerisindeki piksellerin değer dağılımı bir doku için belirleyici
olabilmektedir. Bu dağılımın Şekil 2.4 ve Şekil 2.5’te gösterildiği bir tarafa doğru
asimetrik olması negatif çarpıklık (Negative Skew) veya pozitif çarpıklık (Positive Skew)
olarak adlandırılır.
7
Şekil 2.4 Negatif Çarpıklık
Şekil 2.5 Pozitif çarpıklık
Çarpıklık özniteliği dağılımın simetrik olmayışını belirten özniteliktir. Basıklık
değerinin matematiksel ifadesi Denklem 2.7’de verilmiştir.
𝐾 = √∑ ∑ (𝑃(𝑖, 𝑗) − 𝑃𝑚𝑒𝑎𝑛)3𝑁
𝑗=1𝑁𝑖=1
𝑁 ∗ 𝑁
(2.7)
K : Basıklık değeri
N : Pencere Genişliği
Pmean : Pencerenin ortalama değeri
P(i,j) : i. satır j. sütundaki piksel değeri
8
2.2 Dönüşümler İle Elde Edilen Öznitelikler
Bir dokuya ait öznitelikler çıkarılırken görüntünün piksel değerleri doğrudan
kullanılabileceği gibi bazı matematiksel dönüşümler uygulanmış görüntü üzerinden de
öznitelikler elde edilebilir. Bu amaçla çalışmada farklı pencere boyutları için 2 boyutlu
Fourier dönüşümü uygulanmış ve frekans değerleri öznitelik olarak kullanılmıştır. Ayrıca
Canny Kenar Belirleme algoritması ile görüntünün kenar haritası elde edilmiştir. Daha
sonra bu kenar haritası üzerinden farklı pencere boyutları için istatistiksel öznitelikler
çıkarılmıştır.
2.2.1 Fourier Dönüşümü
Fourier dönüşümü ile zaman uzayındaki bir sinyal frekans uzayında ifade
edilebilir. Bir sinyalin Fourier dönüşümü karmaşık değerlidir. Her karmaşık değerin
büyüklüğü o frekans için genlik bilgisini, argümanı ise faz bilgisini verir. Fourier
dönüşümü ayrık ve sürekli verilerde kullanılabilir [9].
Fourier dönüşümünün ayrık uzayda tek boyutlu işaretler ve iki boyutlu görüntü
işaretleri için matematiksel ifadeleri Denklem 2.8’de gösterilmiştir [10].
1
111
1
21
0
11 )()(N
nπkjN
n
enxkX
1
111
1
21
0
1
1
1 )(1
)(N
nπkjN
k
ekXN
nx
2
22
1
112
2
1
1
221
0
21
1
0
21 )()(N
nπkj
N
nπkjN
n
N
n
ee,nnx,kkX
2
22
1
112
2
1
1
221
0
21
1
021
21 )(1
)(N
nπkj
N
nπkjN
k
N
k
ee,kkXNN
,nnx
(2.8)
Denklemde işaret küçük x ile dönüşüm sonucu elde edilen Fourier katsayıları ise
büyük X ile gösterilmiştir. Denklemin içindeki N1 ve N2 parametreleri işaretin incelendiği
pencere boyutunu belirler.
Fourier dönüşümü görüntü işlemede ve doku bölütleme probleminde sıklıkla
kullanılır [11]. Bu çalışmada iki boyutlu ayrık hızlı Fourier dönüşümü ile iki farklı yoldan
öznitelik çıkarılmıştır. İlk olarak görüntüden öznitelik çıkarılacak noktanın merkezde
9
olduğu bir alt pencere alınmıştır. Bu alt pencerenin Fourier dönüşümü ile frekans
bileşenleri elde edilip, her bir frekans değeri bir öznitelik olarak kullanılmıştır. Frekans
bileşenleri yatay veya dikey olarak simetrik olduğu için NxN boyutlu bir altpencereden
NxN/2 öznitelik elde edilmiştir. Çalışmada bu yöntemle 8X8 pencere ile 32, 16x16
pencere ile 128 olmak üzere 160 öznitelik elde edilmiştir.
Şekil 2.6 Örnek bir görüntü ve 2 boyutlu Fourier dönüşümü [12]
Fourier dönüşümü ile öznitelik çıkarılan ikinci yöntemde görüntünün tamamına
Fourier dönüşümü uygulanmıştır. Şekil 2.6’da örnek bir görüntü ve 2 boyutlu Fourier
dönüşümü gösterilmiştir. Daha sonra elde edilen frekanslara filtre uygulanarak alçak
frekanslar korunup, yüksek frekanslar bastırılmıştır. Son olarak ters Fourier dönüşümü
uygulanarak yeni bir görüntü elde edilmiştir. Bu işlemler Şekil 2.7’de örnek bir resme
uygulanmıştır [13]. Filtrelenmiş görüntüden ortalama, medyan ve geometrik ortalama gibi
istatistiksel öznitelikler çıkarılmıştır. Bu yöntem kullanılarak 7 farklı öznitelik
çıkarılmıştır.
10
Şekil 2.7 Sol üst: Örnek görüntü, Sağ üst: Filtrelenmiş görüntü, Sol alt: Orijinal resmin
frekans gösterimi, Orta alt: Filtre, Sağ alt: Filtrelenmiş resmin frekans gösterimi [13]
2.2.2 Canny Kenar Belirleme
Canny Kenar Belirleme çok aşamalı bir algoritmayı kullanarak görüntülerde
kenarları tespit eden bir kenar tespit yöntemidir. 1986 yılında John F. Canny tarafından
geliştirilmiştir. Mümkün olduğunda çok sayıda doğru kenar bulunması, görüntüdeki
gürültünün kenar olarak yanlış işaretlenmemesi, bulunan kenarın işaretlenirken sadece
merkezde işaretlenmesi kenar tespitinde genel ölçütlerdendir. Canny algoritması bu
ölçütleri sağlamak için Şekil 2.8’de gösterilen aşağıdaki adımlardan oluşur [14].
Yumuşatma ( Smoothing )
Kenar belirlerken yapılacak tüm işlemler kolaylıkla görüntüdeki gürültüden
etkilenebilir. Bu nedenle gürültüden oluşan hatayı yok etmek için filtre kullanmak çok
önemlidir. Bu işlem Gauss filtresi kullanılarak yapılır.
11
Gradyanları bulma
Görüntüdeki kenarlar herhangi bir yönde olabileceği için Canny algoritmasında
yatay, dikey ve iki tane diyagonal olmak üzere 4 filtre kullanılır.
Maksimum olmayanları bastırma( Non-maximum suppression )
Bu aşamanın amacı gradyan büyüklüklerini barındıran görüntüdeki bulanık
kenarları keskin kenarlara çevirmektir. Bu işlem basit olarak yerel maksimumlar hariç her
şey silinerek yapılır.
Çift eşik uygulama ( Double thresholding)
Lokal maksimum pikseller hala büyüklüklerini barındırır. Bu büyüklüklere eşik
değer uygulanarak gürültüden veya renk geçişlerinden kaynaklanan hatalı kenarlar
temizlenir. İkinci eşik ile kalan kenarlar güçlü kenar ve zayıf kenar olarak ikiye ayrılır.
Kenar takibi
Güçlü kenarlar kenar olarak işaretlenir. Zayıf kenarlar ise sadece güçlü kenarlara
bağlı ise kenar olarak işaretlenir.
Şekil 2.8 Canny Kenar Belirleme yönteminin aşamaları [15]
Araştırmalara göre Canny ile elde edilen kenar haritasının istatistiksel analizleri
dokunun kenar özelliklerini temsil edebilir [16]. Bu nedenle çalışmada bölütlenecek
görüntünün Canny ile kenar haritası çıkarılmıştır. Daha sonra bu haritada öznitelik
çıkarılcak nokta çevresinde 5, 7, 9, 11, 13 ve 15 genişliklerinde pencereler
oluşturulmuştur. Altı farklı genişlikteki pencerelerin her biri için ortalama, medyan ve
geometrik ortalama gibi 7 farklı istatistiksel özniteliği çıkarılarak 42 tane öznitelik elde
edilmiştir.
12
2.3 Gri-Ton Dağılımından Elde Edilen Öznitelikler
Bu yöntemde NxN boyutundaki alt pencere içindeki piksellerin değer dağılımları
kullanılır. Şekil 2.9’da görüntü içerisinde oluşturulan NxN boyutundaki alt pencereler
gösterilmektedir. i gri-tonu için piksel dağılımı Denklem 2.10’daki ifade yardımıyla
hesaplanır [17].
Şekil 2.9 NxN boyutundaki alt pencereler [17]
(2.10)
p(i) : i gri-tonunun pencere içindeki dağılımı
Qi : i gri-tona sahip piksel sayısı
N : Pencere genişliği
Değer dağılımı fonksiyonu kullanılarak aşağıdaki öznitelikler hesaplanır.
Denklemler farklı k değerleri kullanılarak daha çeşitli öznitelikler elde edilir.
2.3.1 Moment
Moment özniteliği dokunun ağırlıklı ortalama piksel değeri hakkında bilgi verir.
Denklem 2.11’de moment özniteliğinin matematiksel ifadesi verilmiştir. Bu ifadeye göre
k parametresinin 1 değeri için, bir istatistiksel öznitelik olarak bahsedilen ortalama değeri
elde edilir.
13
𝑚𝑘 = ∑ 𝑖𝑘 ∗ p(𝑖)
255
𝑖=0
(2.11)
2.3.2 Merkezi Moment
Merkezi moment özniteliği dokunun ortalama piksel değerine olan momenti
hakkında bilgi verir. Denklem 2.12’de merkezi moment özniteliğinin matematiksel ifadesi
verilmiştir. Bu ifade k parametresinin 2 değeri için standart sapma, 3 değeri için çarpıklık
ve 4 değeri için basıklık özniteliğiyle benzerlik gösterir.
µ𝑘 = 𝐸 {[𝑖 − 𝐸[𝑖]]𝑘
} = ∑(𝑖 − 𝑚1)𝑘 ∗ 𝑝(𝑖)
255
𝑖=0
(2.12)
2.3.3 Mutlak Merkezi Moment
Mutlak merkezi moment özniteliği dokunun ortalama piksel değerine olan mutlak
momentidir. Denklem 2.13’te mutlak merkezi moment özniteliğinin matematiksel ifadesi
verilmiştir.
µ𝑘 = 𝐸{|𝑖 − 𝐸[𝑖]|𝑘} = ∑ |𝑖 − 𝑚1|𝑘 ∗ 𝑝(𝑖)
255
𝑖=0
(2.13)
2.3.4 Entropi
Entropi özniteliği dokudaki iri taneli bölümlerin çevresinde yüksek değer veren
bir özniteliktir. Denklem 2.14’te entropi özniteliğinin matematiksel ifadesi verilmiştir.
𝐻 = 𝐸{−𝑙𝑜𝑔2 ∗ 𝑝(𝑖)} = − ∑ 𝑝(𝑖) ∗ 𝑙𝑜𝑔2(𝑝(𝑖) + 𝜀 )
255
𝑖=0
(2.14)
14
2.3.5 Enerji
Enerji özniteliği aynı tondaki piksellerin miktarı hakkında bilgi veren bir
özniteliktir. Denklem 2.15’te enerji özniteliğinin matematiksel ifadesi verilmiştir.
𝐸 = ∑[𝑝(𝑖)]2
255
𝑖=1
(2.15)
2.4 Komşuluk Gri-Ton Fark Matrisi
Komşuluk gri-ton fark matrisi ton sayısı kadar eleman barındıran doku ile ilgili
özellikleri çıkarmamızı sağlayan bir sütun vektördür [18]. Bu vektörden 5 farklı öznitelik
çıkarılabilir. Komşuluk gri-ton fark matrisinin i. elemanını ( s (i ) ) hesaplamak için K
penceresi içerisinde kenarlardan d uzaklıkta bir Kd alt penceresi tanımlanır. Vektörün
hesaplanması için Denklem 2.16 ve Denklem 2.17 kullanılır.
𝐴(𝑥, 𝑦) =∑ ∑ 𝑓(𝑥, 𝑦)𝑦+𝑑
𝑦−𝑑𝑥+𝑑𝑥−𝑑
4𝑑2
(2.16)
𝑠(𝑖) = ∑ | 𝑓(𝑥, 𝑦) − 𝐴(𝑥, 𝑦) |
𝑥,𝑦 𝐾𝑑
𝑥,𝑦
(2.17)
A(x,y) : {x,y} noktasını merkez alan 2d genişliğindeki pencerenin ortalama gri-ton değeri
f(x,y) : {x,y} noktasının gri-ton değeri
2.4.1 İrilik
İrilik bir dokuda piksel değer değişiminin sıklığının küçük olduğunu gösterir. İrilik
özniteliği Denklem 2.18’deki matematiksel ifade ile hesaplanır.
𝑓𝑖𝑟𝑖 = [ε + ∑ 𝑝𝑖. 𝑠(𝑖)
255
𝑖=0
]
−1
(2.18)
15
2.4.2 Kontrast
Kontrast görüntü içerisindeki gözle fark edilebilen farklı gri-ton değerlerine sahip
bölgeler olduğunu gösteren bir özniteliktir. Bu özellik için Denklem 2.19’daki formül
tanımlanmıştır.
𝑓𝑘𝑜𝑛 = [1
𝐺(𝐺 − 1)∑ ∑ 𝑝𝑖𝑝𝑗(𝑖 − 𝑗)2
255
𝑗=0
255
𝑖=0
] . [1
𝑛∑ 𝑠(𝑖)
255
𝑖=0
]
(2.19)
2.4.3 Ani Değişkenlik ( Busyness )
Gri-ton değerlerinin pikseller arasında sıklıkla değiştiğini gösteren özniteliktir.
Denklem 2.20’deki matematiksel ifadesi ile hesaplanabilir.
𝑓𝑏𝑢𝑠 = [∑ 𝑝𝑖. 𝑠(𝑖)
255
𝑖=0
] / [∑ ∑|𝑖. 𝑝𝑖 − 𝑗. 𝑝𝑗|
255
𝑗=0
255
𝑖=0
] 𝑝𝑖,, 𝑝𝑗 ≠ 0
(2.20)
2.4.4 Karmaşıklık
Ani değişkenlik ve kontrastla kısmı olarak ilişkili olan karmaşıklık görüntünün
keskin kenar ve çizgiler içerdiğini gösterir. Karmaşıklık özniteliği Denklem 2.21’de
gösterildiği gibi hesaplanabilir.
𝑓𝑘𝑎𝑟 = ∑ ∑[|𝑖 − 𝑗|/𝑛(𝑝𝑖 + 𝑝𝑗)]
255
𝑗=0
. [𝑝𝑖. 𝑠(𝑖) + 𝑝𝑗. 𝑠(𝑗)]
255
𝑖=0
(2.21)
16
2.4.5 Doku Kuvveti
Dokuyu oluşturan öğelerin kolay tanımlanabildiğini gösteren özniteliktir. Doku
kuvveti özniteliği Denklem 2.22’de gösterilen matematiksel ifade ile hesaplanabilir.
𝑓𝑑𝑘 = [∑ ∑(𝑝𝑖 + 𝑝𝑗)(𝑖 − 𝑗)2
255
𝑗=0
255
𝑖=0
] [𝜀 + ∑ 𝑠(𝑖)
255
𝑖=0
] 𝑝𝑖, 𝑝𝑗 ≠ 0
(2.22)
17
SINIFLAYICILAR
Sınıflayıcılar bir önceki bölümde elde edilen özniteliklerden yola çıkarak dokuyu
sınıflayan yapılardır. Bu çalışmada sınıflama işlemi Karar Ağacı, Öz-Düzenleyen Harita
Ağı ve K-En yakın komşu sınıflayıcı kullanılarak yapılacaktır.
3.1 Karar Ağacı
Karar Ağacı, her düğümün bir kararı ve olası çıktılarını temsil ettiği, ağaç şeklinde bir
akış diyagramıdır [19]. Karar ağaçları operasyonel araştırmalarda, karar analizlerinde,
algoritma gösteriminde ve başka çeşitli alanlarda sıklıkla kullanılır.
Karar ağacının en başında bir tane ana düğüm vardır. Her düğüm veri tablosunu bir
özelliğe göre parçalar. Tablonun farklı parçaları için farklı alt düğümler oluşur. Düğümler
alt düğümlere ayrıldıkça temsil ettikleri veri miktarı azalır ve olası çıktı değerleri uç
değerlere doğru farklılaşır.
Karar ağacında bir giriş vektörünün olası çıktı değerini bulmak için ana düğümden
başlanarak uygun özelliğe sahip düğümler üzerinden yapraklara doğru ilerlenir. Ulaşılan
yaprak bir olasılığı, sınıfı ya da olasılık dağılımını temsil eder. Şekil 3.1’de müşterilerin
telefon kullanımını gösteren örnek bir karar ağacı verilmiştir.
18
Şekil 3.1 Müşterilerin telefon kullanımını gösteren örnek bir karar ağacı
3.1.1 Karar Ağacı Öğrenmesi
Karar ağacı öğrenmesi karar ağaçlarını öğrenme modeli olarak kullanır. Veri
madenciliğinde, istatistikte ve makine öğrenmesinde kullanılan yaklaşımlardan biridir. Bu
yöntemde temel amaç veriyi iyi temsil eden bir karar ağacı oluşturulmasıdır. Karar
ağacının oluşturulması için çeşitli algoritmalar mevcuttur (ID3, C4.5, CART, CHAID)
[20-23].
Karar ağacı oluşturmak için ana düğümden başlanarak tüm düğümler için en
uygun öznitelik seçilir. Seçilen özniteliğin aldığı değerler düğümün altına yeni düğümler
olarak eklenir. Bu işlem karar ağacını sınırlayan parametreler izin verdiği sürece devam
ettirilir.
Her öznitelik veri tablosunu birden fazla tabloya ayırır. Bir özniteliğin ne kadar
başarılı olduğu hesaplanırken bu tabloların safsız (‘impurity’) olmasına bakılır. Örneğin
bir tablo sadece bir sınıf verilerinden oluşuyor ise o tablo saf ve homojendir. Tabloların
veri sayılarına göre ağırlıklı safsız olma ortalaması bulunur. Bu safsız olma değeri
tablonun parçalanmadan önceki safsız olma değeri ile karşılaştırılarak özniteliğin bilgi
Karar: Yaş
Müşteri Sayısı :12000
Telefon Kullanımı: %40
YAŞ >= 30
Karar: Çocuk Sayısı
Müşteri Sayısı: 4000
Telefon Kullanımı: %20
Çocuk Sayısı>=2
Müşteri Sayısı: 2000
Telefon Kullanımı: %30
Çocuk Sayısı < 2
Müşteri Sayısı: 2000
Telefon Kullanımı: %10
YAŞ < 30
Karar: Medeni Durum
Müşteri Sayısı: 8000
Telefon Kullanımı: %50
EVLİ
Müşteri Sayısı: 4000
Telefon Kullanımı: %10
BEKAR
Müşteri Sayısı: 4000
Telefon Kullanımı: %90
19
kazancı (Information gain) hesaplanır. Bilgi kazancının matematiksel ifadesi Denklem
3.1’de verilmiştir.
ΔI = ∑ 𝑁𝑖 ∗ 𝐼𝑖
𝑛𝑖=0
𝑛− 𝐼
(3.1)
ΔI : Öznitelik bilgi kazancı
Ni : i. Tablodaki veri sayısı
Ii : i. Tablonun safsız olma değeri
I : Ana tablonun safsız olma değeri
Bir tablonun safsızlığı Entropi, Gini katsayısı, sınıflama hatası veya bilgi kazancı
gibi metodlar ile hesaplanır [24].
Entropi
ID3 ve C4.5 algoritmasında kullanılılr. Veri tablosunun safsız olma değerini
ölçmenin bir yoludur. Matematiksel ifadesi Denklem 3.2’de verilmiştir. Çalışmada ID3
ve C4.5 algoritması temel alındığı için safsızlığı ölçmek için entropi kullanılmıştır.
𝐸𝑛𝑡𝑟𝑜𝑝𝑖 = ∑ −𝑝𝑗𝑙𝑜𝑔2𝑝𝑗
𝑛
𝑗=1
(3.2)
Pj : j. Sınıfa ait verilerin tablodaki oranı
n : sınıf sayısı
Gini Index
CART algoritmasında kullanılır. Rastgele seçilen bir verinin ne sıklıkta yanlış
etiketlendiğini ölçer. Matematiksel ifadesi Denklem 3.3’te verilmiştir.
20
𝐺𝑖𝑛𝑖 𝐼𝑛𝑑𝑒𝑥 = 1 − ∑ 𝑝𝑗2
𝑛
𝑗=1
(3.3)
Pj : j. Sınıfa ait verilerin tablodaki oranı
n : sınıf sayısı
Sınıflama hatası ( Classification Error )
Veri tablosunun ne kadar saf olduğunu ölçmenin bir diğer yoludur. Matematiksel
Denklem 3.4’te verilmiştir.
𝐺𝑖𝑛𝑖 𝐼𝑛𝑑𝑒𝑥 = 1 − max{ 𝑝𝑗 }
(3.4)
Pj : j. Sınıfa ait verilerin tablodaki oranı
n : sınıf sayısı
3.1.2 Karar ağacının Avantaj ve Dezavantajları
Model olarak akış diyagramı şekilde bir karar ağacı kullanıldığı için yapay sinir
ağları, destek vektör makinaları gibi alternatiflere göre daha anlaşılırdır. Karar ağacı
diyagramına bakılarak öğrenmenin nasıl gerçekleştiği doğrudan görülebilir.
Karar ağaçları düğümlere öznitelikleri atarken en uygun öznitelikleri seçtiği için
eğitimden önce özniteliklerin başarısına bakılmasına ve seçilmesine gerek yoktur. Ayrıca
veri normalizasyonuna ihtiyaç duymadığı için alternatiflerine göre daha az ön hazırlık
gerektirir.
Olası çıktı değeri olarak sınıf verisi, olasılık değerleri veya sayısal değerler
kullanılabilir. Bu özellik çıkışın N farklı değeri olduğu durumlarda N farklı karar ağacı
oluşturulması yerine tek bir karar ağacı kullanılmasını sağlayarak vakit ve kaynaktan
kazanç sağladığı gibi N farklı karar ağacının kullanılmasından daha yüksek başarım
gösterir. Karar ağacını diğer sınıflandırma araçlarından öne çıkaran bir özelliği de sadece
sınıflama yapmayıp sınıflama güvenilirliğini de istatistiksel olarak vermesidir [25].
21
Karar ağacının bir diğer avantajı kullanılan modelin istatistiksel testlerle
sınanabilir olmasıdır. Örnek bir giriş vektörü için elde edilen olasılık değeri istatistiksel
olarak da sınanabilir.
Algoritmanın kolayca iş parçacıklarına bölünebilmesi nedeniyle karar ağacı
öğrenmesi büyük veri kümelerinde kullanılabilir [26].
Yöntemin en çok karşılaşan sorunu modelin veriyi temsil etmesi yerine
ezberlemesidir (aşırı öğrenme, overfitting). Bu sorun karmaşıklık düşürülerek veya
rastgele orman (Random Forest) yöntemi ile çözülebilir. Karar ağacı öğrenmesi bazı
durumlarda XOR, çoğullayıcı gibi yapıları modellemekte yetersiz kalır. Çok büyük
ağaçların oluşabildiği böyle problemlerde problem uzayını değiştirmek sorunu çözebilir.
3.1.3 Karar Ağacının Sınırlandırılması
Karar ağaçları oluşturulduktan sonra veya oluşturulma aşamasında aşırı
öğrenmeyi önlemek ve gereksiz yapıları yok etmek için budanma (Pruning) işleminden
geçirilir. Budama algoritmalarında literatürdeki yöntemler iki farklı sınıfta toplanabilir.
İlk sınıf eğitim ve budama işlemleri için ayrı veriler kullanırken, ikinci sınıfta tüm veriler
iki işlem içinde kullanılır [27].
Budama işlemi sırasında bazı sınırlayıcı parametreler kullanılır. Derinlik, olasılık,
öznitelik başarısı, veri sayısı, aynı derinlikteki düğüm sayısı kullanılan sınırlayıcı
parametrelerdendir [28]. Çalışmada kullanılacak karar ağacı öğrenmesi algoritmasında
tüm veriler budama ve eğitim işlemlerinin ikisi için de kullanılır.
3.2 Öz-Düzenleyen Harita Ağı (SOM)
Öz-Düzenleyen Harita Ağı (SOM, ‘Self-Organizing Map’) eğiticisiz bir yapay sinir
ağıdır. Çok boyutlu veriyi daha düşük boyutlarda temsil etmeyi sağlayarak vektör
kuantalama olarak bilinen boyut düşürmeyi sağlar [29]. Öz-Düzenleyen ağlar “öğrenme”
ve “haritalama” olmak üzere iki aşamada çalışır. Öğrenme sürecinde haritanın çıkış
düğümleri eğitim verisini daha iyi temsil edecek şekilde konum değiştirirler. Her
iterasyonda konum değiştirme işlemi en uygun birim ve komşularınca gerçekleştirilir.
Böylece çıkış düğümleri veriyi daha iyi temsil edecek şekilde hareket eder. Yeterli
22
iterasyon sonunda çıkış düğümleri son konumlarına ulaşır. Daha sonra çıkış düğümlerine
öğrenme verisi kullanılarak sınıf atanır. Haritalama aşamasında giriş vektörünün sınıfı, bu
vektöre en yakın çıkış düğümünün sınıfı olarak belirlenir.
Öz-Düzenleyen Harita Ağları düğüm ya da nöron olarak adlandırılan birimlerden
oluşur. Bu düğümlerden her birini giriş vektörüne bağlayan bir ağırlık vektörü (wij) vardır.
Şekil 3.2’de düğümler ile giriş vektörü arasındaki bağlantılar gösterilmiştir.
Şekil 3.2 SOM ağında giriş vektörü ile düğümler arasındaki bağlantılar [30]
Düğümlerin dizilimi düğümlerin komşuluk ilişkisini tanımlamasından dolayı
yöntemin başarımı açısından çok önemlidir. Düğümler bir boyut, iki boyut veya üç
boyutta altıgen veya dikdörtgen olarak dizilebilir [31].
Düğümlerin ağırlık vektörlerine rastgele küçük sayılar ile başlangıç değerleri
verilebilir. Fakat bu yöntem bazı durumlarda öğrenmenin yavaş olmasına neden olabilir.
Bu nedenle ikinci bir yol olarak başlangıç ağırlıkları giriş vektörleri arasından
örneklenebilir veya giriş vektörlerine yakın değerlerden seçilebilir. Böylece başlangıçta
düğümlerin bir kısmı zaten giriş uzayında yerleşmiş olduklarından, öğrenme süreci büyük
ölçüde hızlanır [31].
Öğrenme kipi rekabetçi öğrenme yöntemini kullanır. Öğrenme kipinde giriş
vektörünün tüm düğümlerin ağırlık vektörüne uzaklığı hesaplanır. Uzaklık hesaplanırken
23
genel olarak Euclidian mesafesi kullanılır. Giriş vektörüne en yakın ağırlığa sahip düğüm
belirlendikten sonra Denklem 3.5’de gösterilen ifadeye göre bu düğüm ve komşularının
ağırlıkları güncellenir.
𝑊𝑣(𝑠 + 1) = 𝑊𝑣(𝑠) + 𝑁(𝑢, 𝑣, 𝑠) ∗ 𝑎(𝑠) ∗ (𝐷(𝑡) − 𝑊𝑣(𝑠))
(3.5)
Wv(s+1) : v düğümünün güncellenmiş ağırlık vektörü
Wv(s) : v düğümünün ağırlık vektörü
N(u,v,s) : u ve v düğümünün arasındaki komşuluk derecesi
a(s) : Zamanla düzenli azalan öğrenme katsayısı fonksiyonu
D(t) : t. giriş vektörü
Öğrenme işleminin başlarında hızlı bir öğrenme için hızlı değişimler amaçlanırken,
sonlara doğru ağırlıkları ideal değere ulaştıracak küçük değişimler hedeflenir. Bu nedenle
güncellenen düğümün ağırlık vektöründeki değişimin büyüklüğü zamanla azalır.
Öğrenmenin hızlı ve ideal olması için öz örgütlemeli harita öğrenmesinde komşuluk
derecesi fonksiyonu kullanılır. Komşuluk derecesi fonksiyonu iki düğüm arasındaki
çapraz mesafeye bağlıdır. Bazı problemlerde komşuluk fonksiyonu basit olarak yakın
düğümler 1 diğer tüm düğümler 0 değer alırken bazı problemlerde de gauss fonksiyonu
kullanılır. Fonksiyonun yapısından bağımsız olarak komşuluk fonksiyonunun aldığı değer
zamanla azalır. Başlangıçta komşuluk fonksiyonu daha fazla düğüme etki ederek haritanın
giriş uzayına daha hızlı uyum göstermesi sağlanır. Son adımlarda ise düğümler teker teker
ideal değerlerine ulaştırılmak istenir.
3.2.1 Öz-Düzenleyen Harita Ağının Avantajları ve Dezavantajları
Hızlı ve kolay hesaplanabilir olması, ayarlanması gereken parametre olmaması
SOM öğrenmesinin avantajları arasında sayılabilir. Bunun yanında görselleştirilmesinin
zor olması, başlangıç değerlerinin yöntemin başarısı üzerindeki etkisinin çok yüksek
olması, sınıflar arası dengenin bazı durumlarda kurulamaması yöntemin zayıf yanlarıdır.
24
3.3 K-En Yakın Komşu (KNN) Sınıflayıcısı
K-En Yakın Komşu (KNN, ‘K-Nearest Neighbor’) algoritması sınıflamada çok sık
kullanılan basit bir algoritmadır [32]. Algoritma test vektörünün sınıf üyeliklerini
bildiğimiz vektörlerle karşılaştırılmasına dayanır. Karşılaştırma için genel olarak Öklid
mesafesi (Euclidian distance) kullanılır. Karşılaştırma sonucu belirlenen en yakın K
komşu vektörün sınıflarına bakılarak giriş vektörünün sınıf değeri atanır. Şekil 3.3’te
gösterilmiştir.
Şekil 3.3 KNN sınıflayıcısının k=3 ve k=6 değerleri için gösterimi [33]
K değerinin 1’e eşit olduğu durumlarda giriş vektörü doğrudan en yakın vektörün
sınıfındadır. K değerinin 1’den farklı değerleri için ise genel olarak K en yakın komşu
giriş vektörüne olan yakınlıklarına göre ağırlık verilir. Böylece daha yakın olan
komşuların etkisi daha fazla olur. Ağırlık verme işlemi için mesafenin çarpma işlemine
göre tersi çok yaygın olarak kullanılır. Özellikle sınıflar arasındaki dağılımın çarpık
olduğu durumlarda ağırlık verme önemli bir rol oynar. Bir diğer yöntemde ağırlık verme
olmadan K en yakın komşunun en çok sahip olduğu sınıf değeri test vektörünün sınıf
değeri olarak atanır.
Bu algoritmanın artıları basit bir yapıya sahip olmasından dolayı kolay
uygulanabilmesini, hesap basitliği ve az sayıda öznitelik vektörü olduğu durumlarda iyi
25
sonuçlar vermesidir [34]. Buna rağmen KNN, her özniteliğe eşit önem vermesi nedeniyle
bazı problemlerin çözümünde etkili olamaz. Bu sorun normalizasyon ve ağırlık verme gibi
yöntemlerle bir ölçüde çözülebilir.
26
SINIFLAYICILARIN BÖLÜTLEME SONUÇLARI
4.1 Bölütlemede Kullanılan Doku Görüntüleri ve Öznitelikler
Çalışmada önerilen sınıflayıcılar kullanılarak üç farklı doku görüntüsü bölütlenmeye
çalışılmıştır. İlk olarak Brodatz veri tabanından seçilmiş olan beş farklı dokuyla, daha
sonra yine Brodatz veri tabanından seçilmiş olan dört farklı dokuyla ve son olarak medikal
doku görüntüsüyle benzetimler gerçekleştirilmiştir. Medikal doku ile yapılan benzetimde
dokusal özelliklerinden dolayı medikal doku olarak ultrasonik fantom doku görüntüsü
seçilmiştir.
İlk iki benzetim için gerekli olan örnek doku görüntüleri için literatürde sıklıkla
kullanılan Brodatz veri tabanı kullanılmıştır. İlk benzetim için brodatz veri tabanından
Şekil 4.1’deki 5 doku, ikinci benzetim için Şekil 4.2’deki 4 doku seçilmiştir. 3. Benzetim
için Şekil 4.3’teki doku örnekleri giriş olarak kullanılmıştır. Bütün dokular benzetim
kolaylığı nedeniyle 64x64 boyutunda alınmıştır.
Şekil 4.1 İlk benzetimde kullanılan beş farklı Brodatz dokusu
27
Şekil 4.2 İkinci benzetimde kullanılan dört farklı Brodatz dokusu
Şekil 4.3 Üçüncü benzetimde kullanılan Ultrasonik fantom dokular
Her benzetimde doku görüntüleri sınıflayıcılara eğitim verisi olarak verilecektir.
Daha sonra bu görüntülerin bir arada bulunduğu test görüntüsü verilecektir. Dokular test
görüntülerini elde etmek için Şekil 4.4, Şekil 4.5 ve Şekil 4.6’da gösterildiği gibi
birleştirilmiştir. Benzetim kolaylığı nedeniyle test görüntüleri 256x256 boyutunda
oluşturulmuştur.
Şekil 4.4 İlk benzetim için kullanılan test görüntüsü
28
Şekil 4.5 İkinci benzetim için kullanılan test görüntüsü
Şekil 4.6 Üçüncü benzetim için kullanılan medikal test görüntüsü
Benzetimler eğitim için verilen her dokulardan 144 örnek almaktadır. Böylece ilk
benzetim için toplam 720, ikinci benzetim için 576 ve üçüncü benzetim için 432 eğitim
vektörü elde edilir. Bölütleme işleminin başarıyla gerçekleşmesi durumunda, Şekil
4.7’deki gibi her farklı doku bölgesinin tek bir renk ile boyanmış olduğu (doku/sınıf adedi
kadar farklı renk içeren) bir görüntü elde edilecektir.
29
Şekil 4.7 İlk benzetimdeki test görüntüsünün bölütlenmiş hali (ideal durum)
Benzetimlerde bir piksel Tablo 4.1’de belirtilen 418 özniteliği içeren bir vektör ile
ifade edilmiştir. Tüm sınıflayıcı benzetimleri .Net 4.5.1 platformunda C# diliyle
yazılmıştır. Karşılaştırma yapılabilmesi amacıyla tüm benzetimler tek thread üzerinde eşit
koşullarda çalıştırılıp, öğrenme çalışma süreleri, test çalışma süreleri ve kaynak
kullanımları izlenmiştir.
Tablo 4.1 Çalışmada kullanılan öznitelikler
Öznitelik Çıkarma Yöntemi Öznitelik Sayısı
İstatistiksel 42
Gri-ton dağılımı 84
Komşuluk gri-ton fark dağılımı 90
Fourier dönüşümü 167
Kenar haritası istatistiksel analizi 42
Toplam: 425
30
4.2 Karar Ağacının Benzetim Sonuçları
Karar ağacı öğrenmesi yönteminin başarımı bazı parametrelere bağlı olarak
değişmektedir. Bu nedenden dolayı parametrelere farklı değerler verilerek alınan sonuçlar
izlenmiş, parametrenin başarım üzerindeki etkisi izlenmiştir.
Karar ağacının maksimum derinliği 8,12 ve 16 değerleri ile test edilmiştir. Alt
düğüm oluşumu için gereken minimum veri miktarı için 2,4 ve 8 değerleri, minimum bilgi
kazancı için 2,4 ve 8 değerleri kullanılmıştır.
Beş sınıflı doku test görüntü için bu parametreler ile çalıştırılan 27 testin eğitim
süreleri, test süreleri ve başarım yüzdeleri Tablo 4.2’de verilmiştir.
Tablo 4.2 Beş sınıflı doku görüntüsü için karar ağacının başarımları
Test Derinlik En Az
Veri
En Az
Kazanç
Eğitim
(ms)
Test
(ms)
Başarım
(%)
1 8 2 2 5607,006 15985,73 80,10
2 8 4 2 5419,095 15200,58 80,10
3 8 8 2 5390,893 15017,52 80,20
4 8 2 4 5406,519 15282,02 80,10
5 8 4 4 5406,517 15016,38 80,10
6 8 8 4 5396,08 15129,99 80,20
7 8 2 8 5447,087 15054,15 80,10
8 8 4 8 5422,148 15063,25 80,10
9 8 8 8 5390,895 15196,34 80,20
10 12 2 2 7687,88 15109,2 82,14
11 12 4 2 7094,106 15133,35 81,03
12 12 8 2 6609,707 15110,13 82,17
13 12 2 4 7679,764 15057,83 82,14
14 12 4 4 7062,853 15254,34 81,03
15 12 8 4 6656,58 15313,27 82,17
16 12 2 8 7172,232 15063,26 81,89
31
17 12 4 8 6939,021 15030,01 81,70
18 12 8 8 6531,578 15076,98 82,17
19 16 2 2 8125,407 15154,93 81,86
20 16 4 2 7209,66 15065,45 80,96
21 16 8 2 6534,639 15063,25 82,17
22 16 2 4 8156,655 15247,43 81,86
23 16 4 4 7172,236 15095,15 80,96
24 16 8 4 6519,107 15016,38 82,17
25 16 2 8 7400,75 15032 81,89
26 16 4 8 6937,843 15028,98 81,70
27 16 8 8 6555,31 14973,59 82,17
Test sonuçları incelendiğinde tabloda aynı değerlerin tekrar ettiği görülmektedir.
Örnek olarak derinliğin 12 değerinden büyük olduğu 15, 24 ve 27 numaralı testlerde Karar
ağacını en az veri parametresinin 8 değerini alması sınırlamıştır. Benzetim sonuçlarına
göre Karar Ağacı ile elde edilen en yüksek başarım %82.17’dır. Bu başarımı gösteren ilk
karar ağacının derinliği 12, minimum veri sayısı 2 ve minimum bilgi kazancı 8’dir.
Başarımı en yüksek Karar Ağacının beş sınıflı doku test görüntüsü için oluşturduğu bölge
haritası Şekil 4.8’de verilmiştir.
Şekil 4.8 Karar ağacı ile bölütlenmiş beş sınıflı doku görüntüsü, derinlik 12, en az veri 8,
en az kazanç 2
32
Şekil 4.9 Beş sınıflı doku görüntüsü için en başarılı Karar Ağacının yapısı
Ana
Düğüm
5x5 Pencere
Kurtosis Değeri
>52
5x5 Pencere
Kurtosis Değeri
>62
13x13 Pecnere
İrilik (256 ton,d:2)
> 0,004
13x13 Pencere
İrilik (256 ton,d:2)
< 0,004
5x5 Pencere
Kurtosis Değer
i<62
7x7 Pencere
Entropi 256 ton
> -26
7x7 Pencere
Entropi 256 ton
< -26
5x5 Pencere
Kurtosis Değeri
<52
11x11 Pencere
Doku Kuvveti
(256 ton, d:1)
> 465
16x16 Pencere
FFF [4,0] frekansı
>1.42
16x16 Pencere
FFF [4,0] frekansı
<1.42
11x11 Pencere
Doku Kuvveti
(256 ton, d:1)
< 465
11x11 Pencere
Ortalaması
>123
11x11 Pencere
Ortalaması
<123
33
En yüksek başarımlı karar ağacının yapısı incelendiğinde ana düğümün verileri
5x5 pencere içerisindeki basıklık değerine göre sıraladığı görülür. Karar ağacının 3
derinliğe kadar yapısı Şekil 4.9’da verilmiştir. Karar ağacının 3 derinliğe kadar olan
düğümlerindeki doku dağılımları Tablo 4.3’te gösterilmiştir. Tablo incelendiğinde
derinliği 3 olan düğümlerin bile olasılık dağılımlarının bilgi kazancının yüksek olduğu
görülmektedir. En yüksek başarımlı karar ağacının tüm düğümleri incelendiğinde
özniteliklerin sadece %24’ünün düğümlere yerleştiği görülür.
Tablo 4.3 Karar Ağacının 3 derinliğe kadar olan düğümlerinin doku dağılımları
Düğüm Derinlik 1.Doku 2.Doku 3.Doku 4.Doku 5.Doku Sonuç
Ana Düğüm 0 20 20 20 20 20 -
5x5 Kurtosis Değeri>52 1 18 23 19 20 20
5x5 Kurtosis Değeri<52 1 24 14 23 19 20
5x5 Kurtosis Değeri>62 2 15 17 18 25 25
5x5 Kurtosis Değeri<62 2 20 27 18 18 17
11x11 Doku Kuvveti >465 2 19 33 3 0 45
11x11 Doku Kuvveti <465 2 27 0 38 35 0
13x13 İrilik >0,004 3 19 27 8 3 43 5
13x13 İrilik <0,004 3 10 5 33 52 0 4
7x7 Entropi > -26 3 40 5 5 34 16 1
7x7 Entropi < -26 3 12 36 23 12 17 2
16x16 FFT [4,0] >1.42 3 27 33 1 0 39 5
16x16 FFT [4,0] <1.42 3 12 32 5 0 51 2
11x11 Ortalaması>123 3 20 0 5 75 0 4
11x11 Ortalaması<123 3 34 0 65 0 1 3
Dört sınıflı doku görüntüsü ile yapılan testlerde Tablo 4.4‘teki başarımlar elde
edilmiştir.
34
Tablo 4.4 Dört sınıflı doku görüntüsü için karar ağacının başarımları
Test Derinlik En Az Veri En Az Kazanç Eğitim (ms) Test (ms) Başarım
1 8 2 2 2284 5920.9595 69.74
2 8 4 2 2288 5845.8901 69.74
3 8 8 2 2291 5924.9741 69.67
4 8 2 4 2285 5794.9014 69.74
5 8 4 4 2293 5879.9127 69.74
6 8 8 4 2245 5872 69.67
7 8 2 8 2299 5834 69.74
8 8 4 8 2269 5903 69.74
9 8 8 8 2247 5815 69.67
10 12 2 2 3335 5869 77.87
11 12 4 2 3031 5921 79.08
12 12 8 2 2745 6110 77.01
13 12 2 4 3422 5904 77.87
14 12 4 4 3061 5840 79.08
15 12 8 4 2779 5910 77.01
16 12 2 8 3048 5839 79.24
17 12 4 8 2922 5863 79.18
18 12 8 8 2709 5838 77.01
19 16 2 2 3544 5949 77.55
20 16 4 2 3072 5808 79.11
21 16 8 2 2741 5877 77.01
22 16 2 4 3523 5841 77.55
23 16 4 4 3055 5994 79.11
24 16 8 4 2763 5928 77.01
25 16 2 8 3185 6136 79.24
26 16 4 8 3086 5919 79.17
27 16 8 8 2717 5966 77.01
35
Dört sınıflı doku görüntüsü ile yapılan benzetim sonuçlarında Karar Ağacı ile elde
edilen en yüksek başarım %79.24’tür. Bu karar ağacının derinliği 12, minimum veri sayısı
2 ve minimum bilgi kazancı 8’dir. Başarımı en yüksek Karar Ağacının dört sınıflı doku
test görüntüsü için oluşturduğu bölge haritası Şekil 4.10’da verilmiştir.
Şekil 4.10 Karar ağacı ile bölütlenmiş dört sınıflı doku görüntüsü, derinlik 12, en az veri
2, en az kazanç 8
Ultrasonik fantom doku görüntüsü ile yapılan testlerde Tablo 4.5‘daki başarımlar
elde edilmiştir.
Tablo 4.5 Medikal doku görüntüsü için karar ağacının başarımları
Test Derinlik En Az Veri En Az Kazanç Eğitim (ms) Test (ms) Başarım
1 8 2 2 322 38326 87.56
2 8 4 2 310 28648 87.56
3 8 8 2 327 27460 87.56
4 8 2 4 302 28025 87.56
5 8 4 4 278 27787 87.56
6 8 8 4 297 28119 87.56
7 8 2 8 282 27911 87.56
8 8 4 8 303 27961 87.56
9 8 8 8 287 28044 87.56
10 12 2 2 355 27929 96.65
11 12 4 2 335 28591 95.09
36
12 12 8 2 309 28411 92.44
13 12 2 4 351 28324 96.65
14 12 4 4 336 28094 95.09
15 12 8 4 312 28131 92.44
16 12 2 8 334 28134 92.89
17 12 4 8 329 31528 91.93
18 12 8 8 312 30160 92.44
19 16 2 2 380 36203 96.65
20 16 4 2 451 33811 95.09
21 16 8 2 354 32701 92.44
22 16 2 4 399 30809 96.65
23 16 4 4 397 33187 95.09
24 16 8 4 372 31493 92.44
25 16 2 8 357 31020 92.89
26 16 4 8 356 31984 91.93
27 16 8 8 596 30552 92.44
Medikal doku görüntüsü ile yapılan benzetim sonuçlarında Karar Ağacı ile elde
edilen en yüksek başarım %96.65’tir. Bu karar ağacının derinliği 12, minimum veri sayısı
2 ve minimum bilgi kazancı 2’dir. Başarımı en yüksek Karar Ağacının dört sınıflı doku
test görüntüsü için oluşturduğu bölge haritası ’te verilmiştir.
Medikal doku görüntüsü ile yapılan benzetimde Şekil 4.11’deki doku haritası elde
edilmiştir.
37
Şekil 4.11 Karar ağacı ile bölütlenmiş ultrasonik fantom doku görüntüsü, derinlik 12, en
az veri 2, en az kazanç 2
4.3 SOM Ağının Benzetim Sonuçları
SOM Ağı için geliştirilen benzetimde çıkış birimleri iki boyutlu düzlem üzerinde
dikdörtgen olarak yerleştirilmiştir. Öğrenme katsayı iterasyondan iterasyona lineer olarak
azalan bir fonksiyon ile ayarlanmıştır. Komşuluk fonksiyonu uzaklık ile lineer olarak
azalacak şekilde seçilip, komşuluk ilişkisi 1,2 komşuluk değerleri için ayrı ayrı test
edilerek başarım üzerindeki etkisi izlenmiştir. Çıkış birimi sayısı 20x20, 30x30 ve 40x40
değerleri için test edilmiştir. İterasyon sayısı 8000, 16000 ve 24000 değerleri için test
edilmiştir. Bu parametreler ile çalıştırılan 27 test için özniteliklerin hazırlandığı hazırlık
süreleri, eğitim süreleri, test süreleri ve başarım yüzdeleri Tablo 4.6’de verilmiştir.
Tablo 4.6 Beş sınıflı doku görüntüsü için SOM ağının başarımları
Test Düğüm Sayısı İterasyon Komşuluk Eğitim Test Başarım
1 400 8000 1 143135,4 52451,44 69,99
2 400 16000 1 273900,2 52102,7 73,50
3 400 24000 1 428206,1 53954,13 72,42
4 400 8000 2 145877,3 50378,39 65,88
5 400 16000 2 287487,3 52302,82 65,24
6 400 24000 2 426598,6 52873,39 69,10
38
7 900 8000 1 370822,8 148321,8 72,54
8 900 16000 1 709918,8 124707,3 71,56
9 900 24000 1 1001079 115931,6 72,32
10 900 8000 2 325320,7 113872,2 74,11
11 900 16000 2 610642,6 111357,9 72,39
12 900 24000 2 973243,4 124855 72,77
13 1600 8000 1 684933,1 191419,7 67,25
14 1600 16000 1 990196,9 178568,5 69,23
15 1600 24000 1 1685938 219182 67,28
16 1600 8000 2 640987,1 272663,3 66,55
17 1600 16000 2 1301757 180314,7 67,51
18 1600 24000 2 1430369 179258,2 68,18
Benzetim sonuçlarına göre elde edilen en yüksek başarım %74.11’dır. En yüksek
başarıma sahip SOM Ağının beş sınıflı doku görüntüsü için başarımları Şekil 4.12‘ de
verilmiştir.
Şekil 4.12 SOM ile bölütlenmiş beş sınıflı doku görüntüsü, düğüm sayısı 900, iterasyon
sayısı 8000, komşuluk 2
39
Dört sınıflı doku görüntüsü ile yapılan testlerde Tablo 4.7‘daki başarımlar elde
edilmiştir.
Tablo 4.7 Dört sınıflı doku görüntüsü için SOM ağının başarımları
Test Düğüm Sayısı İterasyon Komşuluk Eğitim Test Başarım
1 400 8000 1 46060,65 17425,59 63,06
2 400 16000 1 89208,35 17429,6 65,47
3 400 24000 1 132640,3 17455,61 64,99
4 400 8000 2 49122,69 17461,62 61,83
5 400 16000 2 94881,21 17824,95 63,78
6 400 24000 2 141287 19385,9 63,68
7 900 8000 1 106025,7 38694,75 62,82
8 900 16000 1 207030,1 41565,66 64,67
9 900 24000 1 309780 43284,8 65,15
10 900 8000 2 114916,5 38623,7 63,14
11 900 16000 2 209511,4 42142,09 65,18
12 900 24000 2 323003,9 39875,53 63,81
13 1600 8000 1 188984,8 75422,52 60,33
14 1600 16000 1 376338,5 69714,39 58,93
15 1600 24000 1 553095,4 81732,11 59,98
16 1600 8000 2 230903,5 82377,98 57,14
17 1600 16000 2 453001,1 83600,46 57,37
18 1600 24000 2 609174,5 64847,77 57,62
Benzetim sonuçlarına göre elde edilen en yüksek başarım %65.18’dır. En yüksek
başarıma sahip SOM Ağının dört sınıflı doku görüntüsü için başarımları Şekil 4.13‘ te
verilmiştir.
40
Şekil 4.13 SOM ile bölütlenmiş dört sınıflı doku görüntüsü, düğüm sayısı 900, iterasyon
sayısı 16000, komşuluk 2
Ultrasonik fantom doku görüntüsü ile yapılan testlerde Tablo 4.8‘daki başarımlar
elde edilmiştir.
Tablo 4.8 Ultrasonik fantom doku görüntüsü için SOM ağının
başarımları
Test Düğüm Sayısı
İterasyon Komşuluk Eğitim Test Başarım
1 400 8000 1 14075,36 6269,711 82,43
2 400 16000 1 27314,08 6208,983 78,79
3 400 24000 1 40783,14 6156,557 85,81
4 400 8000 2 14855,48 6250,314 83,13
5 400 16000 2 29249,98 6328,441 82,43
6 400 24000 2 43773,74 6338,774 87,18
7 900 8000 1 32023,87 13165,3 73,21
8 900 16000 1 62314,72 13026,22 72,99
9 900 24000 1 91711,17 12720,9 71,56
10 900 8000 2 32292,7 12852,18 70,03
11 900 16000 2 64025,75 12804,06 74,20
12 900 24000 2 94577,88 12972,88 74,27
13 1600 8000 1 56219,53 22250,07 65,18
14 1600 16000 1 109201,2 22605,96 68,27
41
15 1600 24000 1 173025,2 22242,86 71,21
16 1600 8000 2 57070,93 22416,57 60,46
17 1600 16000 2 111011,6 22366,15 62,31
18 1600 24000 2 164930,6 22307,77 55,33
Tablodaki sonuçlara göre elde edilen en yüksek başarım %87.18’dır. En yüksek
başarıma sahip SOM ağının ultrasonik fantom doku görüntüsü için başarımları Şekil
4.14‘te verilmiştir.
Şekil 4.14 SOM ile bölütlenmiş ultrasonik fantom doku görüntüsü, düğüm sayısı 400,
iterasyon sayısı 24000, komşuluk 2
4.4 KNN Sınıflayıcısının Benzetim Sonuçları
K-En yakın komşu algoritması için geliştirilen benzetimde K değeri 1 ile 8
arasındaki değerlerden seçilmiştir. Bu sınıflayıcıda eğitim aşaması olmadığı için eğitim
süresi değerlendirilmemiştir. Yapılan benzetim sonuçları Tablo 4.9‘da verilmiştir.
Tablo 4.9 Beş sınıflı doku görüntüsü için KNN ağı başarımları
Test K Test Başarım
1 1 225726 69,61
2 2 231000 69,61
3 3 280943 69,7
42
4 4 239359 70,12
5 5 314000 69,64
6 6 318000 69,83
7 7 293000 69,96
8 8 226250 69,64
K parametresinin 4 değeri için %70,12 başarım elde edilmiştir. Bu sınıflayıcıdan
çıktı olarak elde edilen görüntü Şekil 4.15‘te verilmiştir.
Şekil 4.15 KNN ile bölütlenmiş beş sınıflı doku görüntüsü, K=4
Dört sınıflı doku görüntüsü için yapılan benzetimlerde Tablo 4.10’daki
başarımlar elde edilmiştir. K=1 parametresi ile elde edilen en başarılı bölütleme
görüntüsü Şekil 4.16’da gösterilmiştir.
Tablo 4.10 Dört sınıflı doku görüntüsü için KNN ağı başarımları
K Test Süresi (s) Başarım
1 81850,58 74,30
2 80687,46 74,30
3 73105,98 71,88
4 67556,33 72,26
5 67399,12 71,97
6 67287,26 73,02
43
7 67331,25 72,39
8 67329,81 72,51
9 67393,19 71,52
Şekil 4.16 KNN ile bölütlenmiş dört sınıflı doku görüntüsü, K=1
Ultrasonik fantom doku görüntüsü için yapılan benzetimlerde Tablo 4.11’daki
başarımlar elde edilmiştir. K=1 parametresi ile elde edilen en başarılı bölütleme
görüntüsü Şekil 4.17’de gösterilmiştir.
Tablo 4.11 Ultrasonik fantom doku görüntüsü için KNN başarımları
K Test Süresi (s) Başarım
1 16017,07 96,84
2 16332,92 96,84
3 16562,92 95,73
4 16582,53 95,73
5 16614,94 95,47
6 16697,75 95,50
7 16504,66 94,99
8 16487,52 95,34
9 16547,17 95,09
44
Şekil 4.17 KNN ile bölütlenmiş ultrasonik fantom doku görüntüsü, K=1
4.5 Sınıflayıcıların Başarımlarının Karşılaştırılması
Bu bölümde farklı sınıflayıcılarla yapılan benzetimlerin sonuçları karşılaştırılarak
incelenmiştir. Benzetimi yapılan 3 sınıflayıcının beş sınıflı doku görüntüsü için en başarılı
testlerinin sonuçları Tablo 4.12‘de gösterilmiştir.
Tablo 4.12 Sınıflayıcıların beş sınıflı doku görüntüsü için başarımları
Sınıflayıcı Eğitim (s) Test (s) Toplam Süre(s) Başarım (%)
Karar ağacı 6,6 15 22,24 82,17
SOM 325 113 438,61 74,11
KNN 0 239 239,64 70,12
Tüm sınıflayıcıların hazırlık süresi, hazırlık aşamasında aynı işlemler yapıldığı
için hepsinde yaklaşık olarak 0,6 saniye sürmüştür. Karar ağacı sınıflayıcısı süre
bakımından diğer sınıflayıcılara göre daha başarılıdır. Bunun nedeni diğer sınıflayıcılar
test aşamasında 338 öznitelik incelerken karar ağacı her düğümde bir özniteliğe bakarak
karar ağacı derinliği kadar öznitelik inceler. Benzetimi yapılan karar ağacında 338 yerine
sadece 12 öznitelik incelenmiş ve diğer algoritmalardan çok daha hızlı test yapılmıştır.
Toplam süreye bakıldığında som sınıflayıcısı K-en yakın komşu sınıflayıcısına göre yavaş
gözükse de, test süresi daha kısa olduğu için aynı sınıflayıcının tekrar tekrar kullanıldığı
durumlarda som sınıflayıcısı daha performanslı olacaktır.
45
Sınıflayıcıların beş sınıflı doku görüntüsündeki “doku bazında” başarımları Tablo
4.13’te gösterilmiştir. Tabloya göre 3 sınıflayıcının en düşük başarım gösterdiği doku 1
numaralı dokudur. Bu dokuda en yüksek başarımı Öz-Düzenleyen Harita Ağı elde
etmiştir. 2 numaralı dokuda ise 3 sınıflayıcı da yüksek başarım göstermiştir.
Sınıflayıcıların doku haritaları Şekil 4.18‘de birlikte gösterilmiştir. Şekildeki görüntülerde
Doku 1 üstte, Doku 2 solda, Doku 3 aşağıda, Doku 4 merkezde ve Doku 5 sağda yer
almaktadır.
Tablo 4.13 Sınıflayıcıların beş sınıflı doku görüntüsü için doku bazında başarımları
Sınıflayıcı Doku 1
(%) Doku 2
(%) Doku 3
(%) Doku 4
(%) Doku 5
(%) Ortalama
(%)
Karar Ağacı 62 93 85 85 81 82,17
SOM 75 87 72 58 69 74,11
KNN 57 86 75 69 60 70,12
Şekil 4.18 Bölütlenmiş beş sınıflı doku görüntüleri
Sınıflayıcıların dört sınıflı doku görüntüsündeki doku bazında başarımları Tablo
4.14‘te gösterilmiştir. Tabloya göre 3 sınıflayıcının en düşük başarım gösterdiği doku 2
numaralı dokudur. Bu dokuda en yüksek başarımı KNN sınıflayıcısı elde etmiştir. 1
numaralı dokuda ise 3 sınıflayıcı da yüksek başarım göstermiştir. Sınıflayıcıların doku
haritaları Şekil 4.19‘da birlikte gösterilmiştir. Şekildeki görüntülerde Doku 1 sağ aşağıda,
Doku 2 sol aşağıda, Doku 3 sol üstte ve Doku 4 sağ üstte yer almaktadır.
46
Tablo 4.14 Sınıflayıcıların dört sınıflı doku görüntüsü için doku bazında başarımları
Sınıflayıcı Doku 1 (%) Doku 2 (%) Doku 3 (%) Doku 4 (%) Ortalama (%)
Karar ağacı 94 56 98 58 79,24
SOM 94 46 61 49 65,18
KNN 94 60 89 52 74,30
Şekil 4.19 Bölütlenmiş dört sınıflı doku görüntüleri
Sınıflayıcıların dört sınıflı doku görüntüsündeki doku bazında başarımları Tablo
4.15‘te gösterilmiştir. Tabloya göre 3 sınıflayıcının en düşük başarım gösterdiği doku 1
numaralı dokudur. Bu dokuda en yüksek başarımı Karar Ağacı elde etmiştir. 2 numaralı
dokuda ise 3 sınıflayıcı da yüksek başarım göstermiştir. Sınıflayıcıların doku haritaları
Şekil 4.20‘de birlikte gösterilmiştir. Şekildeki görüntülerde Doku 1 siyah, Doku 2 gri,
Doku 3 beyaz renkle gösterilmiştir.
Tablo 4.15 Sınıflayıcıların Ultrasonik fantom doku görüntüsü için doku bazında
başarımları
Sınıflayıcı Doku 1 (%) Doku 2 (%) Doku 3 (%) Ortalama (%)
Karar ağacı 65 96 80 96,65
SOM 60 86 83 78,18
KNN 52 97 96 96,84
47
Medikal doku görüntüsüyle yapılan benzetimlerin sonuçları Şekil 4.20‘de
gösterilmiştir. Karar ağacı ve k-en yakın komşu sınıflayıcısı medikal dokuyu başarıyla
sınıflandırırken Öz-Düzenleyen Harita Ağı sınıflayıcısı özellikle koyu renkteki dokuda
başarısız olmuştur.
Şekil 4.20 Bölütlenmiş ultrasonik fantom doku görüntüleri
48
SONUÇLAR VE TARTIŞMA
Bu çalışmada Karar Ağacı, SOM ve KNN sınıflayıcıları üç farklı doku görüntüsünü
bölütlemek için kullanılmıştır. Öncelikle sınıflayıcılarda kullanılmak üzere öznitelik
çıkarma işlemi yapılmıştır. Daha sonra eğitim görüntülerinden örnekleme yapılıp
örneklerin öznitelikleri çıkarılmıştır. Eğitim görüntülerindeki her dokudan 144 örnek
alınmıştır. Böylece beş sınıflı doku görüntüsü için toplam 720, dört sınıflı doku görüntüsü
için 576 ve ultrasonik fantom doku görüntüsü için 432 eğitim vektörü elde edilmiştir.
Sınıflayıcıların farklı doku görüntüleriyle olan başarımları Tablo 5.1’de gösterilmiştir.
Şekil 5.1’de tabloda başarımları gösterilen bölütlenmiş görüntüler gösterilmiştir.
Tablo 5.1 Sınıflayıcıların farklı doku görüntüleriyle olan başarımları
5 Sınıflı Doku Görüntüsü
4 Sınıflı Doku Görüntüsü
Ultrasonik Fantom Doku Görüntüsü
Karar Ağacı 82,17 79,24 96,65
SOM 74,11 65,18 78,18
KNN 70,12 74,3 96,84
Karar Ağacı sınıflayıcısı 5 sınıflı ve 4 sınıflı doku görüntüsünde diğer sınıflayıcılardan
daha başarılı olmuştur. Ultrasonik fantom doku görüntüsünde yapılan benzetimlerde ise
KNN ile Karar Ağacı yakın sonuçlar vermişlerdir. SOM sınıflayıcısı 5 sınıflı doku
görüntüsünde başarılı olurken diğer görüntülerde düşük başarım göstermiştir.
49
Şekil 5.1 Bölütlenmiş doku görüntüleri
Tablo 5.2’de sınıflayıcıların farklı doku görüntülerindeki eğitim süreleri
gösterilmiştir. Eğitim aşaması olmadığı için KNN’e tabloda yer verilmemiştir.
Sınıflayıcıların test süreleri de Tablo 5.3’te gösterilmiştir. Karar Ağacı genel olarak eğitim
ve test süresi en kısa süren sınıflayıcı olmuştur. Bunun nedeni büyük ölçüde test sırasında
sadece ağaçta izlenilen düğümlerdeki özniteliklerle çalışmasıdır. SOM sınıflayıcısı eğitim
süresi uzun olmasına rağmen test süresinin kısa olmasından dolayı çok sayıda görüntünün
test edileceği durumlarda KNN’e tercih edilebilir.
50
Tablo 5.2 Sınıflayıcıların farklı doku görüntülerindeki eğitim süreleri
5 Sınıflı Doku 4 Sınıflı Doku Ultrasonik Fantom
Karar Ağacı 6,6 3 0,3
SOM 325 200 43
Tablo 5.3 Sınıflayıcıların farklı doku görüntülerindeki test süreleri
5 Sınıflı Doku 4 Sınıflı Doku Ultrasonik Fantom
Karar Ağacı 15,1 5,8 28
SOM 114 42 6
KNN 240 81 16
Çalışmanın devamı olarak farklı medikal doku görüntüleri veya uydu görüntüleriyle
de benzetim yapılarak test görüntülerinin çeşitlendirilmesi planlanıyor. Çalışmanın başka
geliştirilebilir yanları da mevcuttur. Sınıflayıcılarda farklı öznitelikler kullanılarak
başarım yükseltilebilir. Karar Ağacı sınıflayıcısındaki gibi öznitelikler seçilmediği için
SOM ve KNN sınıflayıcılarında boyut indirgeme yöntemleri uygulanabilir.
51
KAYNAKLAR
[1] Duda, R.O. Hart, P.E and Stork, D.G., 2012, Pattern Classification, John Wiley &
Sons, New York.
[2] Pal, N. R., and Pal, S. K., 1993. A review on image segmentation
techniques.Pattern recognition, 26(9), 1277-1294.
[3] McNitt-Gray, M.F. Huang, H.K. and Sayre, J.W., 1995, Feature selection in the
pattern classification problem of digital chest radiograph segmentation, Medical
Imaging, IEEE Transactions on, 14, 537-547.
[4] Brodatz, P., 1966. Textures A photographic Album for Artists and Designers,
Dover, New York.
[5] Wang, C. Guo, R. Chiang, M. ve WONG, J., 2006. Decision tree based control
chart pattern recognition, International Journal of Production Research, 46, 4889-4901.
[6] Lee, Y.H. Ko, S., 1991. Center weighted median filters and their applications to
image enhancement, Circuits and Systems IEEE Transactions on, 38, 984-993.
[7] Pitas, I. ve Venetsanopoulos, A.N., 1986. Nonlinear mean filters in image
processing, Acoustics, Speech and Signal Processing IEEE Transactions on, 34, 573-
584.
[8] Dijital görüntü. Median Filter. Digimizer, Web. 1 May 2015.
<http://www.digimizer.com/manual/m-image-filtermedian.php>.
[9] Lim, J.S., 1990. Two-Dimensional Signal and Image Processing, Prentice-Hall
International Inc.
[10] Ölmez, T. ve Dokur, Z., 2009. Uzman Sistemlerde Örüntü Tanıma, Ders Notu,
İTÜ.
[11] Gelman, L. ve Braun S., 2000. The optiomal usage of the fourier transform for
pattern recognition, Mechanical Systems and Signal Processing, 15, 641-645.
52
[12] Dijital görüntü. Two-dimensional Fourier Filtering, Web. 1 May 2015.
<http://fourier.eng.hmc.edu/e101/lectures/Image_Processing/node7.html>.
[13] Dijital görüntü. Project 3 Fun with Frequencies, Web. 1 May 2015.
<https://inst.eecs.berkeley.edu/~cs194-26/fa14/upload/files/proj3/cs194-
mo/jia_leyuan_proj3/>.
[14] Bao, P., Zhang, D., and Wu, X., 2005. Canny edge detection enhancement by
scale multiplication. Pattern Analysis and Machine Intelligence, IEEE Transactions on,
27(9), 1485-1490.
[15] Dijital görüntü. CSC5280 Project 1: Canny Edge Detection, Web. 1 May 2015.
<http://mmlab.ie.cuhk.edu.hk/archive/gbq/csc5280_project_1.htm>
[16] Hongliang, B. and Changping, L., 2004. A hybrid license plate extraction method
based on edge statistics and morphology, Pattern Recognition 2004 ICPR 2004
Proceedings of the 17th International Conference on, 2, 831-834.
[17] Jain, A.K., 1989. Fundamentals of Dijital görüntü Processing, Prentice Hall Inc.
[18] Amadasun, M. and King, R., 1989. Textural features corresponding to textural
properties. IEEE Trans Sys Man Cyber, 19, 5,1264-1274.
[19] Safavian, S. R. and Landgrebe, D. 1990. A survey of decision tree classifier
methodology.
[20] Jin, C., De-lin, L. and Fen-xiang, M., 2009. An improved ID3 decision tree
algorithm. In Computer Science & Education, ICCSE'09. 4th International Conference
on. 127-130.
[21] Quinlan, J. R., 1996. Bagging, boosting, and C4. 5. In AAAI/IAAI, 1,pp. 725-730.
[22] Denison, D. G., Mallick, B. K., and Smith, A. F., 1998. A bayesian CART
algorithm. Biometrika, 85(2), 363-377.
[23] Magidson, J., and Vermunt, J. K., 2005. An extension of the CHAID tree-based
segmentation algorithm to multiple dependent variables. In Classification—the
Ubiquitous Challenge. Springer Berlin Heidelberg, 176-183.
53
[24] Drummond, C., and Holte, R. C. 2000. Exploiting the cost (in) sensitivity of
decision tree splitting criteria. In ICML, 239-246.
[25] Freund, Y. and Mason, L., The alternating decision tree learning algorithm.,
1999. ICML '99 Proceedings of the Sixteenth International Conference on Machine
Learning, pp. 124-133, Morgan Kaufmann Publishers Inc. San Francisco.
[26] Srivastava, A. Eui-Hong Han, Singh, V. and Kumar, V., 1998. Parallel
formulations of decision-tree classification algorithms, International Conferance on
Parallel Processing, Minneapolis, 10-14 Aug 1998, 237 – 244.
[27] Mehta, M., Rissanen, J., and Agrawal, R., 1995. MDL-Based Decision Tree
Pruning. The First International Conference on Knowledge Dicovery and Data Mining,
2, 216-221.
[28] Bradford, J. P., Kunz, C., Kohavi, R., Brunk, C., and Brodley, C. E., 1998.
Pruning decision trees with misclassification costs. In Machine Learning ECML-98,131-
136.
[29] Onah, I. F., and Chibueze, I. H., 2011. A Self-Organizing Map Model for
Network Fraud Pattern Classification. The IUP Journal of Science & Technology, 73,
38-48.
[30] Dijital görüntü. Kohonen, Web. 1 May 2015.
<http://www.lohninger.com/kohonen.html>
[31] Kohonen, T., 1998. The self-organizing map, Neurocomputing, 21(1) , 1-6.
[32] Beyer, K., Goldstein, J., Ramakrishnan, R., and Shaft, U., 1999. When is
“nearest neighbor” meaningful?. In Database Theory, ICDT’99. Springer Berlin
Heidelberg, 217-235.
[33] Dijital görüntü. Classification of Hand-written Digits, Web.1 May 2015.
<http://bdewilde.github.io/blog/blogger/2012/10/26/classification-of-hand-written-
digits-3/>
[34] Fort, J. C., Letremy, P., and Cottrell, M., 2002. Advantages and drawbacks of
the Batch Kohonen algorithm, In ESANN, 2, 223-230.
54
ÖZGEÇMİŞ
29.09.1991 yılında Giresun’da doğdum. İlk ve orta öğrenimimi İstanbul’da gördüm. 2009
yılında Burak Bora Anadolu Lisesi’nden mezun oldum. Halen İstanbul Teknik
Üniversitesi’nde okuduğum Elektronik Mühendisliği bölümüne devam etmekteyim.
