Convolutional neural networks
154 theses under this subject heading
Obstrüktif uyku apnesinin derin öğrenme kullanılarak tahmin edilmesi
Nefes alışverişinin en az on saniye boyunca durması olarak tanımlanan uyku apnesi, günümüzde sık karşılaşılan bir uyku hastalığı olarak bilinmektedir. Obstrüktif uyku apnesi (OUA), solunum yolunda tıkanmaya bağlı gerçekleşen en yaygın uyku hastalıklarından biridir. Bu sendromun geliştirilen modeller yardımıyla otomatik olarak tespit edilebilmesinin yanında ön görülebilmesi de ciddi seviyelerde sağlık problemlerini ve hayati tehlikeyle karşı karşıya kalma durumunu önlemek açısından önemlidir. Yüksek doğrulukla çalışan tahmin modellerinin geliştirilmesi ile OUA rahatsızlığı yaşayan kişilerin sendrom anı gelmeden uyarılması ve uykudan uyandırılması ile olası risklerin yaşanmadan önlenmesi mümkün olabilecektir. Bu tez çalışmasında, derin öğrenme yöntemlerinden biri olan Evrişimsel Sinir Ağları (Convolutional Neural Networks, CNN) ile OUA tanısı konmuş hastalara ait elektrokardiyografi sinyalleri kullanılarak apne tahmini yapan modeller sunulmuştur. Bu modellerden birincisi, önceden eğitilmiş mimariler ile yapılan sıfırdan eğitim çalışmasıdır. İkinci model, önceden eğitilmiş mimariler ile transfer öğrenme yöntemi kullanılarak yapılan çalışmadır. Üçüncü model, ilk iki modelde gözlemlenen bulgulara bağlı olarak önerilmiş yeni bir modeldir. Son modelde ise üçüncü modelde önerilen derin öğrenme mimarisinden elde edilen özniteliklerin, mimarinin kendi sınıflandırıcısı yerine Destek Vektör Makineleri, Rastgele Alt Uzay k-En yakın Komşuluk ve Rastgele Alt Uzay Diskriminant Analizi yöntemleri ile sınıflandırıldığı durumda gözlemlenen sonuçlar sunulmuştur. Çalışmanın sonucunda gözlemlenen yüksek doğruluktaki bulgular, önerilen modellerin OUA tahmininde iyi bir belirteç olarak kullanılabileceğini göstermektedir.
Patolojik seslerin tanısı için derin öğrenme tabanlı tıbbi karar destek sisteminin geliştirilmesi
Patolojik duruma bağlı olarak normal konuşma akışının bozulması, ses bozukluğu olarak bilinir. Bu nedenle, mevcut herhangi bir bozukluk, konuşma üretim sisteminin işleyişini bozar ve dolayısıyla bozuk bir ses üretir. Bazı laringeal patolojiler hayatı tehdit eder, bu nedenle ses bozukluğunun erken tespiti önemlidir. Patolojik seslerin tespitinde bir karar destek sisteminin geliştirilmesi hayati önem taşımaktadır. Patolojik seslerin belirlenmesi amacıyla seslerden çıkarılan özniteliklerin değerlendirilmesinde istatistiksel yöntemlerin grup bazında bir sonuç vermesi nedeniyle bireysel düzeyde bir cevap elde edilebilmesi amacıyla son yıllarda makine öğrenme yöntemleri araştırmacılar tarafından ilgi çekici bir konu olmuştur. Bununla birlikte makine öğrenmesinin özniteliklerin manuel çıkarılmasına ihtiyaç duyması nedeniyle optimal özniteliklerin otomatik olarak çıkarılabildiği derin öğrenme teknikleri araştırmacıların güncel araştırma konuları arasına girmiştir. Ancak henüz patolojik ses bozukluklarının tespiti alanında derin öğrenme tekniklerinin kullanımı ile ilgili az sayıda araştırma çalışması bulunmaktadır. Bu tez çalışmasında, patolojik seslerin belirlenmesi amacıyla derin öğrenme yöntemleri kullanılmıştır. Çalışmada Saarbruecken Ses Veritabanından vokal kordlardaki yapısal değişikliklerin neden olduğu organik disfoniye sebep olan patolojilere sahip hastaların ses kayıtları seçilmiştir. Bu patolojiler arasında larenjit, lökoplazi, Reinke ödemi, rekürren laringeal sinir felci, vokal kord karsinomu ve vokal kord polibi bulunmaktadır. Her bir bireyin nötr perdesinde sürekli sesli /a/ sesi kayıtları seçilmiştir. 380'i sağlıklı ve 380'i patolojik olmak üzere 760 ses kaydı kullanılmıştır. Veriler, sırasıyla %75 ve %25 örnek içeren eğitim seti ve test seti olarak ayrılmıştır. Ses sinyallerine öncelikle dalgacık gürültü giderme işlemi uygulanmıştır. Daha sonrasında ses sinyallerinin spektrogram görüntüleri alınarak dört faklı Evrişimsel Sinir Ağı (ESA) mimarisine girdi olarak verilmiştir. Tez kapsamında ESA mimarisi olarak GoogleNet, ResNet-50, AlexNet ve SqueezeNet çalışılmıştır. İlk aşamada patolojik seslerin belirlenmesi amacıyla seçilen Evrişimsel Sinir Ağı mimarileri kendi sınıflandırıcılarıyla birlikte kullanılmıştır. Daha sonra aynı Evrişimsel Sinir Ağı mimarileri bu kez sadece öznitelik çıkarımında kullanılmıştır ve Komşuluk Bileşen Analizi ile öznitelik seçimi yapıldıktan sonra farklı sınıflandırma algoritmalarıyla sınıflandırılarak oluşturulan modellerin performans analizleri yapılmıştır. Kullanılan sınıflandırma algoritmaları Karar ağaçları, Destek Vektör Makineleri, k-En yakın komşuluk, Ensemble ve bu çalışma için tasarlanmış bir karar ağacı yöntemidir. En başarılı performans SqueezeNet mimarisinden çıkarılan özniteliklerin Ensemble algoritması ile sınıflandırılması sonucu elde edilmiştir. Gözlemlenen bulgular, önerilen bu modelin patolojik seslerin belirlenmesinde umut verici olduğunu göstermektedir.
Düşük güç tüketimi ve yüksek başarım için özgün uyarlanabilir gömülü sistem ve bellek tasarımları
Modern gömülü sistemler ve bilgisayarlarda düşük güç tüketimi sağlamak için bu sistemlerin en önemli parçası olan bellek yapılarında enerji kayıplarını azaltan çözümlere ihtiyaç vardır. Ancak bu çözümlerin başarımda istenen seviyeyi düşürmemesi ve hoş görülemez alan kaybına neden olmaması beklenir. Çağdaş bilgisayar mimarilerinde en çok kullanılan bellek yapılarından biri, Dinamik Rasgele Erişimli Bellek (DRAM)'lerdir. DRAM'i oluşturan bit hücreleri, belirli bir süre herhangi bir erişim olmaksızın veri saklayabilmekte ancak belirli süreden sonra erişim yapılmazsa sızdırma akımları nedeniyle veri kaybı olmaktadır, bu nedenle periyodik olarak DRAM hücrelerine erişilmesi ve yenilenmesi (Refresh) gerekmektedir. Bu işlem ise, hem güç tüketimi hem de başarım açısından oldukça maliyetlidir. Tez kapsamında, farklı koşullar/girdilere göre DRAM'in devre parametrelerini (besleme gerilimi veya alttaş kutuplama gerilimi) kendisinin değiştirilebildiği özgün Uyarlamalı DRAM (Adaptive DRAM) tasarımları (Geliştirdiğim üç tasarımdan ikisi; 2019/17243 ve 2019/13677 patent numarası ile tescillenmiştir, üçüncüsü; 2019/10444, tescil sürecindedir.) önerilmektedir. Önerilen tasarımların herhangi biri, DRAM'e kıyasla en az %21 daha düşük güç tüketimi sağlamaktadır, ve sadece %10'dan daha az gecikmeye neden olmaktadır. Ayrıca, özgün ADRAM tasarımlarımız, girdilere göre, ihtiyaç duyulan toplam yenileme sayısında %34 ile %81,8 aralığında düşüş sağlayabilmektedir. Durağan Rasgele Erişimli Bellek (SRAM) diğer bir önemli bellek birimidir. SRAM için sızdırma akımları küçülen transistör boyutları (kanal genişliği, ısıl yükler vb.) nedeniyle büyüyen bir problemdir. Bu problemi çözmek için, birden fazla hücre içeriği uyarlamalı ve bu uyarlamayı birden fazla hücreye dağıtan Multi-contents Aware SRAM (MASRAM) tasarımı önerilmektedir. MASRAM, 64 bit gruplu hücre öbeği için en az %74 ihtimalle %35'e varan durağan enerji kaybı düşüşü sağlayabilmektedir (15. ve 47. bit'lere göre alttaş kutuplama gerilimi 64 hücreye uygulandığında), ve sadece %1'lik bir alan artışına neden olur. Gömülü sistemlerden uç cihazlara, hava savunmadan yapay zeka uygulamalarına, Alanda Programlanabilir Kapı Dizileri (FPGA) kullanımı, yeniden programlanabilir yapısı nedeniyle yaygınlaşmaktadır, ve FPGA'lerde güç tüketiminin önemi de artmaktadır. Düşük güç tüketimi için önerilen çözümlerden biri, FPGA'lerde "gerilim düşürme"'dir. Ancak, bu yöntem güvenilirlik endişesi oluşturmamalı, ve istenen doğruluk seviyesini garanti etmelidir. Tez kapsamında, FPGA tabanlı Evrişimsel Sinir Ağları (CNNs) hızlandırıcılar için gerilim düşürmeye yönelik şu çalışmalar gerçekleştirilmiştir: İlk çalışmada; farklı FPGA'lerde, farklı frekanslarda, farklı CNN denektaşları için gerilim düşürme ile doğruluk ilişkisi araştırılır. İkinci çalışma, -40 ile 50 C arasındaki her sıcaklıkta, 4 farklı nem koşulunda (ilk kez bir FPGA için), farklı gerilimlerde CNNs koşturularak; gerilim düşürmenin doğruluklara etkisinin farklı zorlu şartlar altında karakterizasyonu sağlanır. Ayrıca, FPGA tabanlı CNN hızlandırıcıların güç verimliliğinde; temel tasarıma kıyasla %65 artış sağlayan, 3 özgün güvenilir gerilim düşürme tasarımı önerilmiştir. Son çalışmada ise, ilk kez, şu 2 etki keşfedilmiştir: CNN hızlandırıcı FPGA'lerde belirli bir düşük voltajda artan sayıda CNN iterasyonu ile doğrulukların azalması (DIE), ve o voltajda yineleme devam ederken geçici olarak yüksek gerilim uygulamanın DIE'a karşı iyileştirici etkisi (RE). Bu etkileri kullanarak, istenen doğruluğu koruyarak en az %43 güç verimliliği artışı sağlayan 3 özgün FPGA gerilim düşürme tasarımı önerilmiştir.
EEG sinyalleri ve derin öğrenme modelleri kullanılarak dikkat eksikliği ve hiperaktivite bozukluğu tespiti
Dikkat eksikliği hiperaktivite bozukluğu (DEHB), çocukluk çağında başlayan, yaygın, komorbid bir nörogelişimsel bozukluktur. Teşhis, karar destek sistemi olmadan, profesyoneller tarafından davranış derecelendirme ölçekleri kullanılarak konulmaktadır. Doğru teşhis ve tedavideki gecikmeler, bu hastalık ile birlikte ortaya çıkan diğer psikiyatrik durumların kötüleşmesine ve sonuç olarak sağlık hizmetlerindeki kullanımın artmasına bağlı maliyete neden olur. Bu nedenle, DEHB tanısında kullanılabilecek potansiyel bir karar destek sistemine ihtiyaç vardır. Bu tez çalışmasında DEHB tanısı bulunan ve sağlıklı çocuklara ait EEG sinyallerinden frekans-zaman yapıları ile derin öğrenme yöntemlerinden biri olan evrişimsel sinir ağları (ESA) kullanılarak DEHB teşhisi için yüksek doğrulukla çalışan farklı tahmin modellerinin incelenmesi ile sübjektif testlere bağımlılığı azaltacak, tanı için hızlı ve başarılı bir karar destek algoritması önermek ve açıklanabilir yapay zeka (YZ) yöntemleri ile zaman-frekans alanındaki gizli bilgilerin DEHB tanısında nasıl bir etkiye sahip olduğunu keşfetmek amaçlanmaktadır. Bu amaçla, veriler bir ön işlemeden geçirilerek gürültülerinden arındırılmış ve zaman-frekans bilgisi sağlayan spektrogram görüntüleri oluşturulmuştur. Tez kapsamında ESA mimarileri AlexNet, GoogleNet, ResNet-50, ve SqueezeNet üzerinde transfer öğrenme çalışılmıştır. İlk aşamada ESA mimarileri kendi sınıflandırıcılarıyla birlikte kullanılmıştır. En başarılı performans %97.78 ile AlexNet mimarisi ile elde edilmiştir. Kanal ve frekans bantlarına ayrılan sinyaller ile beyin bölgelerinin ve frekansların tanıda ayırt ediciliği incelenmiştir. Alfa frekansı ve parietal bölge kanalları tek başına DEHB tahmininde en başarılı bulunmuştur. Gradyan ağırlıklı sınıf aktivasyon haritalama (Grad-CAM) ile görselleştirilerek açıklanabilir bir model elde edilmiştir. Daha sonra aynı ESA mimarileri ile sadece öznitelikler elde edilmiş ve farklı makine öğrenimi algoritmalarıyla performans analizleri gerçekleştirilmiştir. Manuel öznitelikler elde edilip bir önceki aşama ile karşılaştırılmıştır. Sınıflandırma algoritması olarak Karar Ağaçları, Destek Vektör Makineleri (DVM), k-En Yakın Komşuluk (k-NN) ve Ensemble yöntemi kullanılmıştır. En başarılı performans AlexNet mimarisinden elde edilen özniteliklerin DVM algoritması ile sınıflandırılması sonucu elde edilmiştir (%98.33). Çalışmanın sonucunda gözlemlenen yüksek doğruluktaki bulgular, önerilen yöntemin DEHB tanısında iyi bir karar destek sistemi olarak kullanılabileceğini göstermektedir.
Konvolüsyonel sinir ağlarını kullanarak bitki türlerinin sınıflandırılması ve bitki hastalıklarının tanısı
Görüntü sınıflandırma, başta tarım, sağlık, ulaşım olmak üzere birçok alana hizmet sunmakla birlikte, insan gücü ile tahmin edilmesi güç problemlerde kullanmış olduğu yapay zeka mimarileriyle birlikte çok kısa sürede ve çok daha az maliyet ile gerçekleştirmektedir. Tarım alanında ise, bitki türlerinin belirlenmesi, bitki hastalıklarının tahminleri gibi süreçler insan gücü ile laboratuvar ortamlarında çok uzun süreçlerde gerçekleştirmekte olup, alınacak tedavide geç kalınabilmektedir. Derin öğrenme algoritmalarından olan konvolüsyonel sinir ağı, bitkilerin sınıflandırmaları ve sahip oldukları hastalıkların teşhislerinde çok kısa sürelerde çok başarılı sonuçlar sunmaktadır. Bu çalışmada, popüler bir veri seti olan Plantvillage veri seti ele alınmıştır ve bu veri setinden, büyük ölçekli ve küçük ölçekli durumlarının yanı sıra, çok sınıflı ve az sınıflı olmak üzere toplamda 8 adet yeni veri seti oluşturulmuştur. Oluşturulan bu veri setleri kullanılarak, bitki türlerinin sınıflandırılması, bitki hastalık tahmini ve bitki hastalıklarının sınıflandırılması için modelleme çalışmaları gerçekleştirilmiştir ve her bir sınıflandırma problemi için, geniş kapsamlı deneysel çalışmalar sonucunda en iyi modeller bulunmaya çalışılmıştır. İlk modelleme çalışmalarında, bitki türlerinin sınıflandırılması problemine yönelik hazırlanmış olan 6 farklı dengeli veri seti kullanılarak, Alexnet mimarisi uygulanmıştır ve en iyi model, % 99,88 test doğruluk başarısı elde edilmiştir. İkinci modelleme çalışmalarında, bitki hastalık tahmini problemine yönelik hazırlanmış olan, 2 sınıftan oluşan dengeli veri seti kullanılarak, literatür sonuçlarında gözlemlenen CNN'in en popüler 9 farklı derin öğrenme modelleri uygulanmıştır. Bitki hastalık tahmini için en iyi model, GoogleNet/Inception mimarisinin kullanıldığı model olmuştur ve 3 kez çapraz doğrulama ile %99,91 doğruluk başarısı elde edilmiştir. Son olarak, bitki hastalıklarının sınıflandırılması problemine yönelik, kullanılan veri seti ile DenseNet modeli en iyi model olarak bulunmuştur ve 10 kez çapraz doğrulama ile %99,14 doğruluk başarısı elde edilmiştir.
Derin öğrenme yöntemleri kullanılarak akciğer X-ray görüntülerinden atelektazi teşhisi ve sınıflandırılması
Bu çalışmada, derin öğrenme yöntemleri kullanılarak akciğer X-ray görüntülerinden atelektazi hastalığının otomatik olarak sınıflandırılması amaçlanmıştır. Atelektazi, akciğerin bir kısmının ya da tamamının sönmesiyle karakterize ciddi bir solunum hastalığı olup, erken teşhisi tedavi süreci açısından kritik önem taşımaktadır. Bu kapsamda, farklı öğrenme stratejileri ve görüntü ön işleme tekniklerinin sınıflandırma performansına etkisini incelemek amacıyla dört ayrı model geliştirilmiştir. Modeller, iki temel değişkene göre farklılaştırılmıştır: (1) görüntülerin ham hâliyle mi yoksa yalnızca akciğer bölgesi kırpılarak mı kullanıldığı ve (2) modelin sıfırdan mı yoksa önceden eğitilmiş (transfer öğrenme) bir mimariyle mi çalıştığı. Çalışmada sıfırdan öğrenen iki SqueezeNet tabanlı model (Model I ve Model II) ve önceden eğitilmiş SqueezeNet kullanan iki transfer öğrenme modeli (Model III ve Model IV) eğitilmiştir. Model I ve III ham görüntülerle, Model II ve IV ise sadece akciğer bölgesinin yer aldığı kırpılmış görüntülerle eğitilmiştir. Deneysel sonuçlara göre en yüksek başarı Model IV tarafından elde edilmiş; %98.43 doğruluk, 0.984 F1 skoru ve 0.999 AUC değeri ile literatürdeki birçok yöntemin ötesinde sonuçlar sunmuştur. Ayrıca, görüntülerin kırpılması hem sıfırdan öğrenen hem de transfer öğrenme kullanan modellerde genel başarıyı artırmıştır. Bulgular, hem ilgi bölgesine odaklanmanın hem de transfer öğrenmenin tıbbi görüntü sınıflandırmasında önemli avantajlar sağladığını ortaya koymuştur. Bu çalışma, derin öğrenme temelli sistemlerin atelektazi gibi kritik hastalıkların erken teşhisine katkı sunabilecek güvenilir karar destek araçları olarak kullanılabileceğini göstermektedir.
Kültür mantarlarında yaygın görülen hastalıkların derin öğrenme yöntemi ile sınıflandırılması
Bu tez çalışmasında, Agaricus bisporus (kültür mantarı) üretiminde yaygın olarak görülen dört farklı hastalık durumu ile bunlara ek olarak hastalık bulunmayan sağlıklı durumun (sağlıklı, bakteriyel leke, örümcek ağı, kuru kabarcık ve yaş kabarcık) görüntü tabanlı olarak sınıflandırılmasına yönelik bir derin öğrenme tabanlı sistem önerilmiştir. Çalışmada, beyaz, ultraviyole (UV) ve karma (beyaz+UV) olmak üzere üç farklı aydınlatma koşulunda özel olarak oluşturulan görüntü veri setleri kullanılarak, 20 farklı ön eğitimli evrişimli sinir ağı (CNN) mimarisi değerlendirilmiştir. Görüntüler, bu çalışmaya özgü olarak tasarlanan ve beyaz, UV ve karma ışık senaryolarını kontrollü biçimde sağlayabilen özel bir görüntüleme kabininde elde edilmiştir. Her bir model, doğruluk (accuracy), duyarlılık (recall), kesinlik (precision), F1 skoru, ROC AUC, PR AUC, özgüllük, Matthews korelasyon katsayısı (MCC), logaritmik kayıp ve bileşik değerlendirme ölçütü (BDÖ) gibi çok sayıda metrikle performans açısından analiz edilmiştir. BDÖ, karar verme sürecine destek olması açısından beş temel metriğin ağırlıklı ortalamasına göre hesaplanmıştır. Elde edilen bulgulara göre, her üç aydınlatma ortamında da en başarılı sonuçlar ResNet-50 modeli tarafından elde edilmiştir. Beyaz ışık ortamında genel sınıf ayrımı daha net gerçekleşmiş, karma ışık ortamı bazı metriklerde dengeli başarı sunarken, UV ışık bazı sınıflarda kararsızlık oluşturmuştur. Sınıf bazlı analizler, sağlıklı ve örümcek ağı sınıflarında yüksek sınıflandırma doğruluğu sağlandığını, buna karşılık bakteriyel leke ve yaş kabarcık sınıflarında bazı modellerin karışıklık yaşadığını göstermiştir. Karmaşıklık matrisleri, ROC ve PR eğrileri üzerinden yapılan görsel analizler, modellerin sınıflar arası ayrım yetkinliğini detaylı biçimde ortaya koymuştur. Bu bağlamda, hem kullanılan model mimarisinin derinliği hem de veri toplama sürecinde kullanılan aydınlatma koşulları, sınıflandırma başarımını doğrudan etkilemiştir. Sonuç olarak, bu çalışma kültür mantarı üretiminde görüntü tabanlı hastalık tanısının uygulanabilirliğini ortaya koymakta; geliştirilen sistemin erken teşhis, otomatik izleme ve akıllı tarım uygulamaları açısından yüksek potansiyele sahip olduğunu göstermektedir.
Soğan mimarisinde metin içeriklerinin yapay zekâ destekli modeller ile değerlendirilmesi ve dağıtımı
Bu tez çalışması, müşteri geri bildirimlerinin yapay zekâ destekli modellerle analiz edilmesi ve elde edilen içgörülerin soğan mimarisi kullanılarak dağıtılmasını amaçlamaktadır. Araştırma, özellikle havayolu taşımacılığı sektöründe müşteri memnuniyetini artırmak ve hizmet kalitesini iyileştirmek için yenilikçi yöntemler sunmayı hedeflemektedir. Tez kapsamında, doğal dil işleme (NLP) teknikleri ve derin öğrenme modelleri kullanılarak metin tabanlı müşteri yorumları analiz edilmiştir. Çalışmanın birinci amacı, müşteri yorumlarından anlamlı içgörüler elde etmek olup, bigram, trigram analizleri ve duygu analizi gibi yöntemlerle müşterilerin yoğunlaştığı konular ve duygusal tepkileri belirlemektir. İkinci amaç, duygu analizi ile müşteri memnuniyetini değerlendirerek pozitif, negatif veya nötr duyguların sınıflandırılmasını sağlamaktır. Üçüncü amaç, elde edilen analiz sonuçlarının soğan mimarisi ile etkin bir şekilde dağıtılmasıdır. Bu mimari, yazılım geliştirme süreçlerinde katmanlı ve modüler bir yaklaşım sunarak uygulamaların sürdürülebilirliğini ve esnekliğini artırır. Son olarak, dördüncü amaç, müşteri geri bildirimlerinden elde edilen verilerle hizmet kalitesini iyileştirmek için karar destek sistemleri geliştirmektir. Araştırma kapsamında kullanılan veri seti, havayolu sektöründe müşteri deneyimlerine ait metin tabanlı yorumları içermektedir. Bu yorumlar, doğrulama durumu, içerik, değerlendirme puanı, tavsiye durumu ve duygu analizi gibi bilgiler içermektedir. Veri seti, duygu analizi için ön işleme tabi tutularak eğitim ve test seti olarak ayrılmıştır. Derin öğrenme modelleri ve optimizasyon algoritmaları kullanılarak elde edilen sonuçlar, hizmet kalitesinin artırılması ve müşteri memnuniyetinin iyileştirilmesi için stratejik öneriler sunmaktadır.
ViT, DeiT ve Swin tabanlı hibrit derin öğrenme modeli ile beyaz kan hücresi görüntülerinin sınıflandırma performansının değerlendirilmesi
Beyaz kan hücreleri (WBC), bağışıklık sisteminin temel bileşenlerinden biri olup yabancı maddelere ve hastalıklara karşı korumada kritik rol oynamaktadır. WBC sınıflandırması, özellikle hematolojik hastalıkların erken teşhisi ve doğru tedavi sürecinin belirlenmesi açısından büyük önem taşımaktadır. Ancak WBC görüntülerinin manuel olarak sınıflandırılması zaman alıcı olmakta ve uzmanlar arasında değişken sonuçlara yol açabilmektedir. Bu probleme karşı, derin öğrenme tabanlı görüntü sınıflandırma yöntemleri yaygın olarak kullanılabilmektedir. Son zamanlarda, bu alanda dikkat mekanizması sayesinde daha etkin özellik çıkarımı sağlayan transformer mimarilerinin kullanımı artmıştır. Çalışmamızda, beyaz kan hücrelerinin sınıflandırılma performansını artırmak amacıyla farklı transformer mimarilerinin güçlü yönlerini bir araya getiren bir topluluk modeli geliştirilmiştir. Geliştirilen model, Raabin-WBC, Lökosit Görüntüleri için Bölütleme ve Sınıflandırma (LISC) ve Periferik Kan Hücresi (PBC) veri setleri üzerinde eğitilmiş ve test edilmiştir. Veri dengesizliğini azaltmak amacıyla yalnızca Raabin-WBC veri setinde Derin Evrişimli Üretici Çekişmeli Ağ (DCGAN) tabanlı sentetik görüntü üretimi yapılmıştır. Tüm veri setlerindeki görüntülere, kontrast sınırlamalı uyarlanabilir histogram eşitleme (CLAHE) ile ön işlem uygulanmıştır. Dönüştürücü (Transformer) tabanlı görsel dönüştürücü (ViT), veri verimli görsel dönüştürücü (DeiT) ve kaydırılmış pencere dönüştürücü (Swin) modelleri bir araya getirilerek topluluk (ensemble) modeli oluşturulmuştur. Geliştirilen bu topluluk modeli; CNN, ResNet50, InceptionV3, VGG19 ve DenseNet121 gibi yaygın evrişimli sinir modeli (CNN) mimarileriyle karşılaştırılmıştır. Sınıflandırma sonuçları Puan Ağırlıklı Sınıf Etkinleştirme Eşlemesi (Score-CAM) yöntemiyle görsel olarak analiz edilmiştir. Geliştirilen topluluk modeli dört farklı veri setinde de üstün performans sergilemiştir. Model, Raabin veri setinde %99,83 doğruluk; dengelenmiş Raabin veri setinde %99,60 doğruluk; LISC veri setinde %99,81 doğruluk; PBC veri setinde ise %99,84 doğruluk ile literatüre göre en yüksek sınıflandırma başarısını ortaya koymuştur. Elde edilen bulgular ile transformer tabanlı topluluk modelinin hem doğruluk hem de genelleme açısından klasik CNN modellerine kıyasla üstün performans sergilediği gözlemlenmiştir.
Otonom araçlar için trafik işaretlerini tanıma sistemi
Son zamanlarda günlük hayatımızda popüler olmaya başlayan akıllı araçlar, üzerinde bulunan kontrol üniteleri ve sensörleri kullanarak çevresindeki ortamı algılayarak sürücünün güvenli ve rahat sürüş yapmasını sağlayan araçlardır. İçten yanmalı araçlardan akıllı araçlara gidişte son evre olan otonom araçlardan üç temel beklentiden birincisi araç sahibi-yolcu veya kontrol merkezi isteklerinin doğru bir şekilde alınması(İnsan-Makine Etkileşimi), ikincisi aracın doğru sevk ve idaresi, üçüncüsü ise yol, trafik ve çevresinde bulunan nesnelerin belirlenmesi- sınıflandırılması ve hareketlerinin kestirimidir. Otonom araçlarda ilk iki beklenti tam anlamıyla yapılmakta iken üçüncü beklentide halen ciddi eksikler bulunmaktadır[1]. Yapay zekâ alanındaki yapılan çalışmalar neticesinde otomotiv sektöründeki pek çok büyük şirket tarafından otonom araçlar üzerine çalışmalar yapılmaktadır. Bu uygulamalarda insanlar için çok büyük faydalar olsa da, daha iyi bir uygulama arayışı, bilim insanlarını her zaman mevcut çalışmaları geliştirmeye iter[2]. Yapılan bu çalışmalardan birinde ise amaç araçların trafik işaretlerini yorumlayabilmeleri ve karar alabilmeleri olarak karşımıza çıkmaktadır. Yapılacak çalışmada ilgili trafik işaretlerini farklı kategorilerde sınıflandırabilen bir konvolüsyonel sinir ağı(CNN) modeli oluşturulacaktır. Bu model ile otonom araçlar için epeyce önemli bir görev olan trafik işaretlerini sınıflandırma işlemi yapılarak otonom araç tarafından trafik işaretlerinin tanınması hedeflenmektedir. İlgili trafik işaretlerini tanıyan bir model oluşturulacak olup kullanılacak olan programlama dili Python, kullanılacak algoritma olarak CNN algoritması seçilmiştir.
Satranç oyun kontrolüne yönelik türkçe komutların yapay zeka ile algılanması
Tez kapsamında hareket yetenekleri kısıtlanmış bireylerin kafe, engelli bireyler için oluşturulmuş sosyal merkezlerde kullanabilecekleri satranç oynayan bir çalışma geliştirilmektedir. Uzuvları olmadan doğan ve belirli bir kaza ya da hastalıktan dolayı uzuvlarını kaybetmiş kişilerin tedavi edilme şansları olmasa da sosyal hayatlarına devam edebilmeleri için yardımcı olacak bir çalışma yapılması amaçlanmaktadır. Bu çalışma ile engelli bireylerin sosyalleşmesinin yanı sıra rehabilite olmalarına da yardımcı olunması hedeflenmektedir. Satranç modülü, insan bilgisayar etkileşim modülü ve yapay zeka modülü olmak üzere üç yapıdan oluşmaktır. Ayrı ayrı çalışan bu yapılar bir arada çalışan bir sistem haline dönüştürülmüştür. 86 erkek, 65 kadın olmak üzere 151 kişiden alınan 43790 ses kaydı kullanılarak bir sistem geliştirilmiştir. Ses kayıtlarından öznitelik çıkarma yöntemi olarak mel frekanslı kepstral katsayıları (MFKK) ve gammatone kepstral katsayıları (GTKK) yöntemi kullanılmıştır. Çıkarılan bu özniteliklere maximum normalizasyonu uygulanmıştır. Çıkarılan özniteliklere k en yakın komşu (k-EYK), destek vektör makinesi (DVM), naive bayes ve çok katmanlı ağlar (ÇKA) ile sınıflandırma işlemlerinin yanı sıra evrişimli sinir ağları (ESA) modeli kullanılarak sınıflandırma işlemi yapılmıştır. ESA modelinde MFKK ve GTKK yöntemi ile elde edilen veri setleri kullanılmıştır. %85 üstünde başarım elde edilmiştir ve kişi bazlı sonuçlar ile de %93 başarım elde edilmiştir.
Derin Öğrenme Tabanlı Meyve Ayrıştırma Sistemi
Teknolojideki gelişmeler ile birlikte bilgisayarlı görü sistemleri birçok alanda kullanılmaya başlamıştır. Gelişen bilgisayarlı görü sistemlerinden tarım alanında da çeşitli şekillerde yararlanılmaktadır. Meyve ve sebzeler market ve pazarların raflarında yerini almadan birçok aşamadan geçmektedir. Özellikle hasat sonrasında meyve ve sebzelerin şekilsel bozukluları, çürük olup olmadıklarının belirlenmesi bu aşamaların en önemlilerinden bir tanesidir. Günümüzde hasat sonrasında meyve ve sebzeler el yordamıyla çürük, bozuk veya sağlam olarak ayrıştırılmaktadır. El yordamıyla meyve ve sebzeleri sınıflandırmak uzun zaman almakta ve maliyetleri yükseltmektedir. Bilgisayarlı görü sistemlerindeki gelişmelerden meyve ve sebzelerin sınıflandırılması aşamasında yararlanmak mümkündür. Özellikle derin öğrenme modellerinin görüntü işlemedeki yüksek doğruluk oranları meyve ve sebzelerin doğru şekilde otomatik şekilde kusurlu, çürük veya sağlam olarak sınıflandırılması ve ayrıştırılmasında büyük bir fayda sağlayacaktır. Bilgisayarlı görü sistemlerinden meyve ve sebzelerin otomatik olarak ayrıştırılmasından faydalanarak hem zaman tasarrufu hem de maliyetin düşmesi sağlanabilir. Bu tez çalışmasında, derin öğrenme tabanlı ayrıştırma sistemi tasarlanmıştır. Meyve ve sebzelerin otomatik olarak ayrıştırabilecek bantlı bir mekanik sistem tasarlanmıştır. Bantların üzerinden ilerleyen meyve ve sebzeler kusurlu, çürük ve sağlam oluşlarına göre 3 sınıfa ayrıştıracak şekilde tasarlanmıştır. Sistem derin öğrenme modelleri ile gerçek zamanlı nesne tespiti ve mekanik kısım olarak iki kısımdan oluşmaktadır. İlk olarak gerçek zamanlı nesne tespiti için farklı yaklaşımlar olmasına rağmen YOLO algoritması gerçek zamanlı nesne tespiti için daha hızlı olduğundan bu çalışmada YOLO algoritmasının 6 farklı mimarisi incelenmiştir. Sistemin kurulması ve test edilmesi için portakal meyvesinin kusurlu, çürük ve sağlam olarak sınıflandırılması gerçekleştirilmiştir. Üç sınıf için toplam 11238 portakal görüntüsünden oluşan yeni bir veri seti oluşturulmuştur. İkinci kısımda sistemin minimum donanım gereksinimleri belirlenmiştir. Yapılan prototip üzerinde gerçekleştirilen testlerde 210 portakal için YOLOv5 modelinde %89,5 e kadar doğruluk elde edilmiştir.
Object recognition with competitive convolutional neural networks
In recent years, Artificial Intelligence (AI) has achieved impressive results, often sur- passing human capabilities in tasks involving language comprehension and visual recognition. Among these, computer vision has experienced remarkable progress, largely due to the introduction of Convolutional Neural Networks (CNNs). CNNs are inspired by the hierarchical structure of the visual cortex and are designed to detect patterns, objects, and complex relationships within visual data. One key advantage is their ability to learn directly from pixel values without the need for domain expertise, which has contributed to their popularity. These networks are trained using supervised backpropagation, a process that calculates gradients of the network's parameters (weights and biases) with respect to the loss function. While backpropagation enables impressive performance with CNNs, it also presents certain drawbacks. One such drawback is the requirement for large amounts of labeled data. When the available data samples are limited, the gradients estimated from this limited information may not accurately capture the overall data behavior, leading to suboptimal parameter updates. However, obtaining a sufficient quantity of labeled data poses a challenge. Another drawback is the requirement of careful configuration of hyperparameters, including the number of neurons, learning rate, and network architecture. Finding optimal values for these hyperparameters can be a time-consuming process. Furthermore, as the complexity of the task increases, the network architecture becomes deeper and more complex. To effectively train the shallow layers of the network, one must increase the number of epochs and experiment with solutions to prevent vanishing gradients. Complex problems often require a greater number of epochs to learn the intricate patterns and features present in the data. It's important to note that while CNNs aim to mimic the structure of the visual cortex, the brain's learning mechanism does not necessarily involve back-propagation. Although CNNs incorporate the layered architecture of the visual cortex, the reliance on backpropagation introduces an artificial learning procedure that may not align with the brain's actual learning process. Therefore, it is crucial to explore alternative learning paradigms that do not rely on backpropagation. In this dissertation study, a unique approach to unsupervised training for CNNs is explored, setting it apart from previous research. Unlike other unsupervised methods, the proposed approach eliminates the reliance on backpropagation for training the filters. Instead, we introduce a filter extraction algorithm capable of extracting dataset features by processing images only once, without requiring data labels or backward error updates. This approach operates on individual convolutional layers, gradually constructing them by discovering filters. To evaluate the effectiveness of this backpropagation-free algorithm, we design four distinct CNN architectures and conduct experiments. The results demonstrate the promising performance of training without backpropagation, achieving impressive classification accuracies on different datasets. Notably, these outcomes are attained using a single network setup without any data augmentation. Additionally, our study reveals that the proposed algorithm eliminates the need to predefine the number of filters per convolutional layer, as the algorithm automatically determines this value. Furthermore, we demonstrate that filter initialization from a random distribution is unnecessary when backpropagation is not employed during training.
X-ray görüntülerinde derin öğrenme yöntemleri ile tehdit tespiti
Son yıllarda toplum güvenliğini sağlamak için havaalanları, okullar, alışveriş merkezleri gibi kalabalık ve tehlike arz edebilecek ortamlarda X-ray görüntüleme cihazları sıklıkla kullanılmaktadır. Ancak X-ray görüntüleme tekniklerinin kullanıldığı yerlerde insan gücüne hala gerek duyulmaktadır. Bunun nedeni, X-ray görüntülerinde tehdit unsuru olabilecek nesnelerin otomatik olarak tespit edilmesi için gereken ilerlemenin yeterli olmamasıdır. Bu amaçla, son yıllarda derin öğrenme yöntemlerini kullanarak X-ray bagaj görüntülerinde bulunan ve toplu alanlara sokulması yasaklı nesnelerin tespitine yönelik çalışmalar ivme kazanmıştır. Bu tez çalışmasında da, derin öğrenme tabanlı nesne tespiti yöntemleri kullanılarak X-ray görüntülerinde tehdit tespiti yapılmış ve bu alana katkı sunmak hedeflenmiştir. Bu çalışmada biri açık kaynaklı ve biri ise çalışma kapsamında toplanmış iki farklı veri kümesi kullanılmıştır. Toplanan X-ray görüntüleri çift kanallı X-ray tarayıcı tarafından elde edilmiştir. Çift kanallı X-ray tarayıcılar hem düşük hem de yüksek enerji seviyelerini kullanmaktadır. İki enerji seviyesi kullanarak taranan maddenin atom numarası, yoğunluğu gibi ek bilgiler elde edilir ve bu yöntemle nesnelerin karakteristik özellikleri hakkında daha detaylı bilgiye sahip olunur. Böylece bir tarama sonucu elimizde düşük enerjili, yüksek enerjili ve bu görüntüler kullanılarak renklendirmiş X-ray görüntüsü olmak üzere toplamda üç adet görüntü bulunur. Açık kaynaklı veri kümesi, toplanılan veri kümesine göre daha kapsamlı olduğu için kullanılan nesne tespiti algoritmaları öncelikle bu küme üzerinde eğitilmiştir. Bu kapsamda popüler nesne tespiti algoritmalarından YOLOv3, SSD ve Faster RCNN kullanılmış olup açık kaynaklı ve kapsamlı veri kümesi üzerinde elde edilen sonuçlar kaşılaştırılmıştır. Karşılaştırma sonucunda performansı en yüksek olan yöntem ile elde edilen sonuçlar kullanılarak toplanılan veri kümesinin eğitimi tamamlanmaya çalışılmıştır. Bunun nedeni, toplanılan veri kümesinin az sayıda görüntü içermesidir. Toplanılan veri kümesine aktarım yapılırken ilk aşamada az vuruşlu öğrenme yöntemi kullanılmış ve mümkün olduğunca az görüntü ile toplanılan veri kümesindeki tehditlerin ne kadar başarılı tespit edileceği araştırılmıştır. Az vuruşlu öğrenmeden sonra yapılan diğer çalışma ise açık kaynaklı veri kümesinin eğitimleri sonucu elde edilen en iyi sonucun toplanılan veri kümesine ince ayar yöntemi ile aktarılmasıdır. Çalışma kapsamında yapılan son denemede ise toplanılan veri kümesine ait renklendirilmiş görüntüler ile düşük ve yüksek enerjili görüntüler farklı kombinasyonlar halinde uçtan uca eğitilmiştir. Buradaki amaç ise düşük ve yüksek enerjili görüntülerden elde edilen bilgi ile az sayıda görüntü içeren veri kümesindeki tehditlerin tespitinde ne kadar başarı sağlanacağını gözlemlemektir. Elde edilen sonuçlar incelendiğinde açık kaynaklı veri kümesi üzerinde Faster RCNN ile yapılan eğitimlerin en yüksek başarıya ulaştığı görülmüştür. Bu sonuçların toplanılan veri kümesine aktarıldığı durumda ise en iyi başarı ince ayar yöntemi ile alınmıştır. Toplanılan veri kümesine ait düşük ve yüksek enerjili görüntülerin farklı kombinasyonlar ile denendiği durumda ise en yüksek başarı düşük enerjili, yüksek enerjili ve renklendirilmiş X-ray verilerinin eğitime katıldığı durumda elde edilmiştir.
Solunum seslerinin evrişimsel sinir ağlarıyla sınıflandırılması
Hekimler klinik muayenede hem non-invaziv olmasından hem de kolay erişilebilir aynı zamanda ucuz bir teşhis ve tespit aracı olmasından dolayı stetoskop kullanmaktadırlar. Ancak bu aşamada ortam gürültüsü, hekimin işitme kabiliyeti, yaşı vs gibi bir çok olumsuz neden teşhisi zorlaştırmaktadır. Ayrıca solunum sesleri insan işitme kabiliyetinin alt sınırlarına yakın frekanslarda önemli bilgiler içermektedir. Daha niceliksel bir yaklaşım sunulabilmesi açısından elektronik stetoskopla bu seslerin kayıt edilmesi önem taşımaktadır. Bu tez çalışmasıyla tamamen klinik ortamda toplanmış 294 adet solunum sesi 3 farklı ses grubu (Normal, Ral, Ronküs) için sınıflandırılmıştır. Solunum seslerinin yapay zeka yöntemleriyle sınıflandırılması ile ilgili birçok çalışma yapılsa da kullanılan veri sayılarındaki yetersizlik sağlam bir mimari oluşturulmasına engel olmuştur. Bu eksiklikle baş etmek amacıyla ICBHI 2017 veri kümesi oluşturulmuş ve solunum seslerinin sınıflandırılması çalışmaları hız kazanmıştır. Evrişimsel Sinir Ağları (ESA); görüntü ve video tanıma, görüntü sınıflandırma, doğal dil işleme ve tıbbi görüntü analizi gibi birçok alanda kullanılan Derin Sinir Ağlarına ait solunum ses sınıflandırmada da sıklıkla kullanılan bir yöntemdir. ESA'larda genellikle son katmanda sınıflandırma amacıyla softmax fonksiyonu kullanılmaktadır. Ancak sadece softmax fonksiyonunun kullanılması yerine Destek Vektör Makinelerinin (DVM) kullanımı da literatürde yer almaktadır. Bu tez çalışmasında hem ESA'nın son katmanda Softmax kullanmasıyla oluşturulan mimariler (ESA-Softmax), hem de ESA'nın son katmanda DVM ile birlikte kullanıldığı (ESA-DVM) mimariler oluşturulmuştur. Ayrıca aktarmalı öğrenme yardımıyla VGG16 modeli ile birlikte oluşturulan ESA-Softmax, ESA-DVM modelleri birleştirilerek VGG16-ESA-Softmax ve VGG16-ESA-DVM mimarileri oluşturulmuştur. Bu mimariler literatürde başarısı kanıtlanmış öğrenme aktarımı yöntemleri ile (VGG16, DenseNet201, InceptionV3 ve ResNet101) de kıyaslanmıştır. Eğitim ve test verilerinin %80- %20 oranında ayrılarak 10 kat çapraz doğrulama uygulanması sonucunda elde edilen en yüksek sınıflandırma doğruluğu VGG16-ESA-DVM modeli ile gerçekleştirilmiştir. Önerilen yöntemin sınıflandırma başarı metrikleri sırasıyla ; ROC AUC Skoru: %88.4, Maksimum Doğruluk: %83, kesinlik = %82, duyarlılık= %83, F1 skoru = %82 olarak elde edilmiştir. Ayrıca üç grup ses verisi için sırasıyla Normal %84, Ral %80 ve Ronküs ise %86 doğrulukla sınıflandırılmıştır.
Hesaplamalı zeka temelli yeni bir üstsezgisel algoritma: demokrasi optimizasyonu
Demokrasi Optimizasyonu, yüksek güvenirlik ve dayanım odaklı yeni bir Hesaplamalı Zeka temelli üstsezgisel algoritma ve optimizasyon yöntemi olarak kavramsal ve matematiksel tasarımları ve gerçekleştirilen yazılım aracıyla birlikte sunulmuştur. Tasarlanan algoritmada arama ajanları için tanımlanan karakter özellikleri ile ajanlarının hareketlerine kalıcı bir yatay çeşitlendirme getirilmiştir. Yine arama ajanlarına atanan hiyerarşik rol özellikleri ile ajanlarının hareketlerine geçici bir dikey çeşitlendirme getirilmiştir. Bu özelliklerin tasarıma beraber dahil edilmesiyle birlikte, literatürde ilk kez özdeş arama ajanlarının hareketleri dinamik bir matris düzeninde çeşitlendirilmiştir. Hesaplamalı Zeka temelli algoritmada sağlanan bu yenilik ile keşif ve faydalanma işlevlerinin dengelenerek, yöntemin başarım ve güvenirliğinin artırılması sağlanmıştır. Algoritmada olasılıksal ve koşullu olasılıksal verilen kararlar ile arama mekanizmalarına belirli düzeyde rastgelelik dahil edilmiş ve yöntemin dayanımına katkıda bulunulmuştur. Algoritmanın yazılımsal olarak gerçekleştirilmesiyle birlikte optimizasyon yazılım aracı ortaya çıkmıştır. Yöntemin gerçeklenmesi için önce yazılım aracının düzgün çalışırlığı doğrulanmıştır. Sonrasında ise belirlenen 16 gösterge fonksiyonu ile yüzer kez sınanmıştır. Sınamaların sonucunda optimizasyon performansları ölçülmüş ve iyi bilinen bir yöntem ile kıyaslanmıştır. Elde edilen performansların değerlendirilmesiyle, yöntemin tasarım odağı doğrultusunda yüksek güvenirlik ve dayanım ile çalışırlığı gösterilerek geçerliliği ve yeterliliği ortaya konulmuştur. Yöntem ile bir finansal piyasa tahminleme çalışmasında hiper-parametre ayarlaması uygulamıştır ve yöntemin gerçek optimizasyon problemlerinde kullanılabilirliği de gösterilerek, yöntem gerçeklenmiştir. Böylece, matris düzeninde çeşitlendirilen özgün arama mekanizmalarını içeren tasarımıyla Demokrasi Optimizasyonu yöntemi ve algoritması ile Hesaplamalı Zeka ve optimizasyon literatürlerine önemli bir katkı sağlanmıştır.
An efficient FPGA implementation of cnn specialized in image recognition for breast cancer
Due to the popularity of image processing and its advantages, new fields have begun to be established using image processing technology in the medical sector, especially for diagnosing diseases. The information used for the diagnosis is preserved within the image pixels, and the quality of the diagnosis is restricted by the amount or quality of information preserved in every pixel. The problem arises when there is not enough pixel information in some/specific images, making it unfit for processing under all mentioned applications. In other words, the value of information preserved by any image is a function of what each pixel preserved. This problem is manifested in grayscale images (that are widely populated in medical applications) where only information about grey channels is available, and no chronic information exists. Because of that, grayscale images are unfit for image processing since the pixel information of the image is represented by one value only (grayscale channel), and no strong correlation can be ensured between any two images in grayscale (assumed for the same event/object). Convolution neural networks have achieved a wide range of classification challenges, including facial, object and activity recognition. However, short development time comes at the cost of performance and energy economy. Although PYNQ development boards have recently reached a level of maturity, where FPGA prototypes effort is equivalent to that of CPUs or GPUs, FPGA prototyping is still a solid alternative for developing embedded CNN applications. The research published here describes a design to speed up FPGA prototyping using an open-source framework; it offers a simplified platform for developing CNN-powered FPGA applications quickly. In this thesis, the proposed framework incorporates high-level convolutional networks, which are programmable for a wide range of network specifications and offer superior performance in a time-efficient manner. In this work, a convolutional neural network (CNN) is utilised for breast cancer detection; hence, big, coloured biopsy images are used for the training of the CNN model. Other models, such as random forest, k-nearest neighbors, naïve Bayes, support vector machine, etc., were also used. CNN could eventually preserve the accuracy of cancer prediction to 97%. Moreover, pre-trained deep learning paradigms were used for the same purpose, such as VGG-16, AlexNet, ResNet-18, ShuffleNet and LeNet. The proposed CNN network has outperformed many deep learning networks. Keywords : Convolutional neural network (CNN), field-programmable gate array (FPGA), Python productivity for ZYNQ (PYNQ), Central processing units (CPUs), Graphics processing units (GPUs)
Partial discharge detection using convolutional neural network and k-nearest neighbor algorithm
A partial discharge (PD), according to IEC 60270, is a localized electrical discharge that only partially bridges the insulation between conductors. Medium voltage power lines transport electricity over long distances; as a result, officials have a difficult time monitoring and early detecting the PD of the cables in these areas. The challenge is to detect PDs early enough to prevent long-term damage; hence, early PD detection is essential to prevent costly repairs and substantial power outages. There are numerous approaches for measuring PDs online, but the most common method is done offline and includes an expert manually identifying acceptable features to classify PD type and severity, thus, it is essential to have a detection mechanism that can extract features and classify them automatically to predict PDs rapidly and accurately. The dataset was collected from kaggle.com. The Technical University of Ostrava (VSB) has designed a specialized meter to determine the voltage signal of stray electrical fields and insulated overhead cables. The fast Fourier transform technique was used to de-noise the signals as a preprocessing step before building the classification models. Four classification models were built and compared with each other; the models are CNN-KNN, CNN, CNN-LSTM, and KNN. The Adam optimization algorithm was used to update the weights to reduce the error between actual output and predicted output, and the sigmoid function was used in the output layer to keep the output within the range 0–1, and used dropout technique between layers to prevent overfitting during training of the model. Model performance was measured using several metrics: F-score, recall, precision, accuracy, and confusion matrix; the results show that the hybrid model (CNN-KNN) gives higher performance than the other models (CNN, CNN-LSTM, and KNN).
Blind image quality metric for color images based on human vision system and deep CNN
In this study, a blind image quality metric (BIQM) for human vision system (HVS) has been developed by using deep convolutional neural network (CNN) for color images. The proposed quality metric consists of four stages. In the first stage, the colored image is transformed into YUV color space due to its compatibility with the HVS. In the second stage, pre-trained deep CNN is defined according to the noise type in the image (jpeg, gaussian, etc.). In the next step, the image whose quality is to be measured is denoised with deep CNN, and the image obtained as a result of this process is assumed to be the reference image. Thus, the problem is transformed into a full-reference quality measurement problem. In the last stage, each color channel (i.e., Y, U, and V) of the image whose quality is to be measured with the obtained reference image is measured by structural similarity (SSIM) method. The measurement results are weighted by considering the HVS. The experimental results show that the developed metric was able to sort the images that other quality metrics could not sort. Moreover, a survey was conducted with 100 participants to rank images in 3 different qualities, and the survey results support that the proposed method is compatible with the HVS. It also modified the SSIM which is normally a full-referenced method, to use as no-reference. Moreover, thanks to the proposed BIQM, more appropriate results are obtained compared to commonly used no-reference quality metrics. MATLAB codes and some images used for the proposed BIQM are available in the link: https://bit.ly/3NIrNBs
Fedopenhar: Federated multi-task transfer learning for sensor-based human activity recognition
Motion sensors integrated into wearable and mobile devices provide valuable information about the device users. Machine learning and, recently, deep learning techniques have been used to characterize sensor data. Mainly, a single task, such as the recognition of human activities, is targeted, and the data is processed centrally at a server or in the cloud. However, the same sensor data can be utilized for multiple tasks and distributed machine-learning techniques can be used without the requirement of transmitting data to a centre. In this thesis, we introduce the FedOpenHAR framework that explores Federated Transfer Learning in a Multi-Task manner for both sensor-based human activity recognition and device position identification tasks. It utilizes a transfer learning approach by training task-specific and personalized layers in a federated manner. The OpenHAR framework, which contains ten smaller datasets, is used to train the models. The challenge is obtaining robust model(s) applicable for both tasks in different datasets, which may include only some label types. Multiple experiments are carried out in the Flower federated learning environment using DeepConvLSTM, MLP and CNN architectures. Results are presented for federated and centralized versions under different parameters and restrictions. By utilizing transfer learning and training a task-specific and personalized federated model, we obtained a higher accuracy (72.4%) than a fully centralized training approach (64.5%) and a similar accuracy in a case where each client performs individual training in isolation (72.6%). However, the advantage of FedOpenHAR over individual training is that if a new client joins with a new label type (meaning a new task), it can start training from the common layer. Additionally, if a new client wants to classify a new class type in one of the existing tasks, FedOpenHAR can start training directly from task-specific layers. We also perform further experiments to evaluate the performance of FedOpenHAR under different settings.
Yapay sinir ağları ile bitki hastalıklarının teşhisi
Tüm hastalıklarda olduğu gibi bitkilerde de erken teşhis önemlidir. İlerleyen hastalık veya oluşan zararlar bitkinin kaybedilmesine, hastalığın çevre tarlalara yayılmasına veya hastalığı bertaraf etmek için daha fazla tarımsal ilaç kullanılmasına neden olmaktadır. Bu da tarım sektöründe ekonomik zarara, üretimde verim düşmesine ve aşırı ilaçlama nedeni ile son kullanıcıların sağlığında olumsuz etkilere neden olmaktadır. Bitki hastalık ve zararları, bitkilerin yaprak veya meyvelerinde bölgesel görsel değişikliklere neden olmaktadır. Günümüzde yapay zeka modelleri, hastalık veya zararların tespiti ve teşhisinde bu görsel değişimleri kullanmaktadırlar. Bu çalışmada Yapay Sinir Ağ model ve yöntemleri incelenmiş, az sayıda hastalıklı bitki görüntü veri seti ile eğitilen modellerin performanslarını iyileştirmeye yönelik deneysel çalışmalar yapılmıştır. Örnek bitki olarak seçilen marul bitkisi üzerinde yaprak galeri sineğinin meydana getirdiği zararları gösteren görüntüler toplanarak bir veri seti oluşturulmuştur. Marul bitkisi eğitim seti ile hem sıfırdan öğrenme hem de transfer öğrenme ile oluşturulan Evrişimli Sinir Ağ modelleri eğitilmiştir. Eğitilen temel modeller hem marul test veri seti ile hem de domates, patates ve kabak test veri setleri ile test edilmiş ve performansları karşılaştırılmıştır. Temel modellerin performanslarını artırmak için güçlendirme (boosting), torbalama (bagging), istifleme (stacking) ve oylama (voting) gibi topluluk öğrenme yöntemleri kullanılmıştır. Deneyler sonucunda; Evrişimli Sinir Ağları ile topluluk öğrenme modellerinin birlikte kullanılmasıyla, temel modellerin daha başarılı sonuçlar elde edildiği gösterilmiştir.
Derin öğrenme destekli görüntü işleme teknikleri ile endüstriyel kesici takımların kalan ömürlerinin tahminlenmesi
Endüstriyel üretim sürecinde ham malzemeler büyük tezgahlar üzerinde farklı işlemlere tabi tutularak yeni ürünlere dönüştürülür. Bu dönüşüm sırasında tezgahlarda ham malzemenin işlenmesi için ihtiyaca yönelik kesici takımlar kullanılır. Ömrünü tamamlayan kesici takımlar işlediği ham malzemeye zarar verirler. Bunun yanında erken değiştirilen kesici takımlar verimsiz kullanıma yol açar. Her iki durumda da üreticiler maliyet, işgücü ve zaman kayıpları yaşarlar. Bu nedenle kesici takım ömrünü tahmin etmek bu kayıpları önlemek için önemlidir. Kesici takım ömrü malzemenin türü, yapısı, kalınlığı gibi faktörlere bağlı olarak değişir ve bu durum kalan ömür tahmininde belirsizliklere neden olur. Literatürde kalan ömür tahminine yönelik çalışmalar mevcut olmasına rağmen, kesici takımın ham malzemeye verdiği zarar üzerinden kalan ömrün tahminlenmesi konusunda deneysel inceleme eksikliği bulunmaktadır. Bu çalışma kapsamında havacılık sektöründe faaliyet gösteren bir şirketin delik delme tezgahı üzerinden alınan delik fotoğrafları kullanılmıştır. Fotoğraflar delik kalitesine göre beş sınıfa etiketlenmiştir. Bu problem sınıflandırma problemine dönüştürülerek derin öğrenme yöntemlerinden biri olan evrişimli sinir ağları ile çözülmeye çalışılmıştır. Çalışmada sıfırdan geliştirilen 18 katmanlı bir model, transfer öğrenme ile VGG16, ResNet50 mimarilerinin kullanıldığı modeller ve evrişimli sinir ağı ve destek vektör makinelerinin kullanıldığı hibrit model ile karşılaştırılmıştır. 18 katmanlı mimarinin diğer mimarilere kıyasla daha iyi sonuçlar verdiği tespit edilmiştir. Bu çalışmanın sonuçları, kesici takımların kalan ömrünün ham malzemeye verdiği zarar üzerinden tahmin edilebileceğini göstermiştir. Yapılan deneyler, derin öğrenme yöntemlerinin kesici takım ömrü tahmininde alternatif olarak kullanılabileceğini kanıtlar niteliktedir.
Derin öğrenme bazlı ileri görüntü tamamlama teknikleri
Derin yapay sinir ağları son yıllarda birçok farklı problemde başarıyla kullanılmaktadır. Özellikle görüntü sınıflandırma problemlerindeki başarısı ile ön plana çıkan Evrişimli Sinir Ağları (Convolutional Neural Network (CNN)) ve gerçekçi görüntü üretme konusunda kullanılan Üretici Çekişmeli Ağlar (Generative Adversarial Network (GAN)) buna örnek olarak gösterilebilir. Görüntü tamamlama, derin öğrenmenin kullanıldığı ve başarılı sonuçlar alınan bir diğer alan olarak karşımıza çıkmaktadır. Özel olarak dış boyama probleminde, doldurulan kısım büyük olduğundan ve resmin dış kısmına gelmesinden dolayı anlamlı ve uyumlu olarak resmi tamamlamak büyük zorluklar içeren bir problemdir. Bu çalışmada derin öğrenme ile görüntü dış boyama teknikleri gerçekleştirilmiştir. Otomatik kodlayıcılar kullanılarak görüntü tamamlama işlemi yapılmış ayırt edici ağlar kullanarak iyileştirmeler yapılmıştır. Ayrıca bu çalışmaya özgün olarak kenar tamamlayan derin öğrenme modeli geliştirilerek elde edilen kenar haritasının dış boyama işleminde kullanılması sağlanmıştır.
Bitki yapraklarındaki hastalıkların derin öğrenme yöntemleri kullanılarak tespiti ve sınıflandırılması
Dünya nüfusunun her geçen gün artması ile birlikte gıdaya olan ihtiyaç da bununla birlikte paralel bir şekilde artmaktadır. Bu nedenle tarıma duyulan ihtiyacın artmasıyla mahsul veriminin kalitesinin artırılması ve iyileştirilmesi önemli bir ilgi alanıdır. Bitkiler bir hastalıkla karşılaşması durumunda elde edilecek mahsulün miktarı ve kalitesinde azalma gerçekleşmesiyle birlikte verim düşecektir. Bu bakımdan, bitkilerden elde edilen ürünlerin kaliteli olması, bitkilerin hastalıklardan korunmasına bağlıdır. Bitkide hastalık meydana geldiğinde ise hastalığın erkenden tespitinin yapılabilmesi ve bitkinin tedavi edilebilmesi çok önemli bir gereklilik olup bu sayede bitkiden elde edilecek ürün verimi kalitesinin düşmesinin önüne geçilebilmiş olunacaktır. Bu çalışmada hastalıkların erken aşamada tespit edilmesi amacıyla son yıllarda oldukça popüler olan derin öğrenme tabanlı modeller ve çeşitli halka açık veri setleri kullanılarak sınıflandırma yapılmıştır. Tarım teknolojisindeki gelişmeler ve bitki hastalıklarının teşhisinde yapay zekânın kullanılmasıyla, sürdürülebilir tarımsal kalkınma için uygun araştırmaların yapılması gittikçe önemli hale gelmektedir. Bitkilerdeki hastalıkların erken tespit edilmesi ve elde edilecek ürün miktarının artırılmasına yönelik yapılacak bir çalışma önemlidir. Çünkü hastalığın bir uzman ya da çiftçiler tarafından çıplak gözle veya laboratuvar testleri gibi geleneksel sınıflandırma yöntemleriyle teşhis edilmesi zor ve yanıltıcı olabileceğinden ve aynı zamanda zaman alıcı, maliyetli ve öznel olması gibi birçok sınırlaması olduğundan dolayı bitki hastalıklarının derin öğrenme yöntemleri kullanılarak tespiti ve sınıflandırılması hızlı ve doğru bir yöntem sunmaktadır. Bu amaçla bitki yapraklarındaki hastalıkların erken tespit edilebilmesi için literatürde kabul gören derin öğrenme mimarileri kullanılmıştır. Ayrıca daha başarılı sonuçlar elde etmek için yeni bir model geliştirilmiştir. ANAHTAR KELİMELER: Bitki Hastalıkları, Derin Öğrenme, Görüntü İşleme, Evrişimli Sinir Ağı, Sınıflandırma, Yapay Zeka