2.814
Arşivlenen Tez
0
DOI Atanmış
0%
DOI Oranı
Anabilim Dalı
Arama sorguları üzerinde görev tabanlı kümeleme
Sorgu metinleri üzerinden görev çıkarımı, arama motorlarında ve birçok arama tabanlı uygulamalarda kullanılan önemli ve ilgi çekici konulardan birisidir. Kullanıcılar günlük aktivitelerinde ve kişisel planlarını yaparken sıklıkla internet arama motorları üzerinden sorgulama yaparlar. Metin madenciliği yöntemleriyle işlenen sorgu metinleri, popüler konu başlıklarının belirlenmesinde ve kullanıcı özelliklerinin keşfedilmesinde kullanılmaktadır. Kullanıcılar tarafından girilen benzer sorgular çeşitli özniteliklerine göre bir araya getirilerek anlamlı görevler çıkarılabilir. Arama yapılan alana yönelik doğru sonuçların döndürülmesinde, arama metni tamamlamada, kullanıcı amacı doğrultusunda öneriler sunulmasında görev çıkarımının önemli rolü vardır. Mevcut yaklaşımlarda kullanıcının oturum bilgisi, tıklanan doküman içerikleri ve sorgu öğeleri kullanılarak görev çıkarımı yapılmaktadır. Kullanıcının arama motorunu açtığı andan kapattığı ana kadar geçen süre kullanıcı oturumu olarak nitelendirilir. Bu süre zarfında yapılan sorgulamalar belirli bir göreve yönelik olabileceği gibi, birden fazla görev de paralel sorgulanıyor olabilir. Sorgu metinlerinin anlamsal özelliklerini temel alan çalışmalarda sorgu sonucu tıklanan doküman içerikleri, makale başlıkları önem kazanmaktadır. Önceki çalışmalarda kullanılan sorgu öğeleri ise, arama metninde geçen özel isimler, yer adları ve sözcük öbekleridir. Öğeler, sorgu içerisinde tek başına kullanıldığında bir anlam ifade ederken, bir araya geldiğinde farklı anlamlara gelen kelimelerin doğru görev kümelerine atanmasında başarımı arttırmaktadır. Son çalışmalarda, öğe kategori ilişkilerini gösteren Wikipedia kategori hiyerarşileri ve Probase taksonomi bilgileri kümeleme aşamasında kullanılarak görev kümeleri oluşturulmaktadır. Bu çalışmada, öğe kategorileri kümeleme aşaması yerine öznitelik çıkarımı için kullanılmıştır. Böylece, arama sorguları arasındaki anlamsal benzerliğin kategoriler üzerinden daha hassas ölçümlenmesi amaçlanmıştır. Sorgular arasındaki benzerlik hesaplamalarında sorgu öznitelik vektörleri kullanılmaktadır. Diğer çalışmalardan farklı olarak, öğe ve kategori gibi sözel özniteliklerin vektörel hale getirilmesi için n-gram ve word2vec yöntemlerinden yararlanılmaktadır. Yapılan çalışmada URL, oturum, kullanıcı, öğe ve kategori öznitelikleri farklı kombinasyonlarla birleştirilerek merkezi ve yoğunluk tabanlı kümeleme yöntemleriyle sorgular kümelenmiştir. Böylelikle, farklı öznitelik setlerinin kümeleme başarımındaki etkisi ölçümlenmiştir. Kümeleme aşamasında sayısal ve sözel öznitelikler bir arada kullanıldığı için, merkezi kümeleme yöntemi olarak K-Means algoritmasının özelleştirilmiş hali olan K-Medoids algoritması kullanılmıştır. Merkezi kümeleme yöntemlerinin gürültülü verilerden etkilendiği deney sonuçlarında görülmektedir. Bu çalışmada, gürültülü verilerin etkisini minimum seviyeye indirgemek için yoğunluk tabanlı kümeleme yöntemi olan DB-Scan algoritması da öznitelikler üzerinde çalıştırılmış ve sonuçlardaki başarım arttırılmıştır. Arama sorgularını temsil etmek üzere oluşturulan farklı öznitelik vektörleri elde edilen kümeleme sonuçlarının başarımı ile değerlendirilmiştir. Bir görev kümesi içerisindeki elemanların benzerliği ve görev küme merkezleri arasındaki uzaklık ölçümlenerek kümeleme sonuçları karşılaştırılmıştır. Küme içi değerlendirmede, aynı kümeye atanan elemanların birbirlerine ne kadar yakın olduğu bilgisi (Sıklık değeri) kullanılır. Kümeler arası değerlendirmede ise, her bir sorgu bir kümeye atandıktan sonra elde edilen küme merkezleri arasındaki mesafenin ne kadar uzak olduğu bilgisinden (Ayrışma değeri) faydalanılır. Bu çalışmanın sonucunda, sorgulardan elde edilen öğe ve kategori bilgileri anlamsal öznitelikler olarak bir arada ele alınıp word2vec yöntemiyle vektörel hale getirilmiş ve yoğunluk tabanlı kümeleme yöntemi kullanılarak görev tabanlı kümeleme başarımı arttırılmıştır.
Distributed bipartite graph clustering
Bipartite graphs are graphs whose vertices can be divided into two independent sets (X and Y) such that no two graph vertices within the same set are adjacent. There are many real-world examples which display natural bipartite structure. For instance, a bipartite graph where the distinct set of vertices are people and books and edges represent buying relationship between them. Another prominent example is a bipartite graph where the vertex sets are candidates and jobs and if a candidate applies to job, there is an edge between the corresponding vertices. In this thesis, we implement a distributed bipartite clustering method for large and sparse data. There are several approaches to cluster data which is bipartite in nature. For example k-means clustering method can be applied to the both sides of the graph separately. But bipartite clustering requires a clustering method that clusters data simultaneously. Spectral clustering is a way to cluster bipartite data simultaneously which means assigning vertices from both sides into the same coherent cluster. We use multi bipartitioning clustering algorithm which is based on spectral clustering in this thesis along with some other bipartite partitioning algorithms such as Bifennel, Aweto and etc. There are some steps that need to be done before bipartite graph is clustered. Firstly, bipartite graph is converted into adjacency matrix where rows represent one set of vertices of bipartite graph and columns represent the other set of vertices. If there is an edge between two vertices, then the value of the corresponding cell of the adjacency matrix is assigned to 1, otherwise it is assigned to 0. After having the adjacency matrix, the Laplace form of the adjacency matrix is created. This matrix is also known as degree matrix. Degree matrices namely D1 and D2 are constructed for X and Y respectively. Then adjacency matrix is multiplied with D1 and D2. Lastly, the spectral algorithm runs Singular Value Decomposition (SVD) on the formed adjacency matrix and finds second singular left and right vectors. After finding second singular right and left vectors, k-means clustering algorithm is run on these vectors to cluster data. This method only partitions the data into two cluster. But finding other singular vectors (2.,3.,...) other than only the second one, more clusters can be obtained. In this thesis, we used distributed SVD algorithm to find singular left and right vectors of adjacency matrix when the matrix is large and sparse. Distributed SVD algorithm divides the matrix into column-wise sub matrices and calculates SVD on these sub matrices independently. It is capable of finding the singular values, left and right vectors when the matrix is rectangular (number of rows are much more smaller than number of columns or vice versa) and dense. In other words, the rank of the sub matrices must be equal to the rank of the adjacency matrix itself. Because of the sparsity of the data, the rank that is less in sub matrices than the adjacency matrix xxi causes to find singular values and vectors with high error. We proposed an algorithm, called Ranky, to handle this problem. Ranky algorithm detects the rows which cause the rank of the sub matrices less then the rank of the adjacency matrix and fills accordingly in order to make them equal. Despite the Ranky algorithm can handle this problem, balanced clusters can not be obtained because of the sparse matrix. After that, we used partitioning algorithms to compress the adjacency matrix into dense matrix and then applied spectral clustering. There are several partitioning algorithms such as Hash, Grid, Aweto, Bifennel etc. But only Aweto and Bifennel take the advantage of bipartite graphs as we know. We use Bifennel partitioning algorithm and Distributed Bifennel algorithm to compress the data due to their efficiency and less replication factor. Lastly, we decompress the partitions to get final clusters. The evaluation criteria is the replication factor that measures partitioning algorithm performance in terms of the number of replicated vertices. The experimental results on a real world data set show that Distributed Bifennel algorithm has outperformed Bifennel algorithm in terms of execution time, while both algorithms produce equally likely replication factor, using different datasets. Each algorithm is run on the same datasets with different partitioning numbers (500 and 1000). Distributed Bifennel algorithm has partitioned the data 10 times faster than Bifennel using at most 28 threads. The algorithm was implemented in C++ and run on a 28 cores and 128 GB RAM machine running Linux. More experimental results with different settings are given in chapter 5.
Emotion recognition on static images using transfer learning and ensembling
Emotion recognition may be useful in any area where human and computer interacts. CNNs are known to be good at computer vision tasks. However, CNNs are difficult to train, especially when the amount of data and computation power is limited. Transfer learning emerges as a cheap and efficient way of making use of pre-trained CNN classifiers. Our work has two contributions. Firstly, different CNN architectures and models trained using different datasets are investigated to find a suitable model to use in emotion recognition. Secondly, expert models for each emotion are trained. The Base model is ensembled with expert models to create a better classifier. Experiments show that our use of ensembling together with transfer learning helps to create a good classifier. Best classifier shows 69.49% accuracy on FER13 validation set.
Türkçe eşgönderge çözümlemesi
Bu çalışmada Türkçe Eşgönderge Çözümleme (EÇ) problemi üzerinde veri öğrenmesine dayalı farklı algoritmik yaklaşımlar incelenmiştir. Literatürde sıklıkla geçen ifade-çifti ve varlık-ifade modelleri yaklaşımlarıyla, önerilen yeni öznitelik değerleri kullanılarak iki farklı sistem mimarisi oluşturulmuştur. Etiketli veri kümesi olarak, Türkçe EÇ çalışmaları için yakın geçmişte oluşturulan Marmara Türkçe Eşgönderge Derlemi (MTED) (Schuller, 2017) kullanılmıştır. İfade-çifti modelleri temelde ifade ikilileri üzerinde çalışır ve mevcut çifti oluşturan ifadelerin birbirleriyle eşgöndergesel olup olmadığına, daha önce verdiği kararlardan bağımsız olarak karar vermektedir. Bu model, sonişleme aşaması olarak bir kümeleme mekanizmasına ihtiyaç duymaktadır. Bu sonişleme sırasında, ifadelerin eşgönderge durumları hakkında sınıflandırıcının ürettiği çıktılar üzerinden ilgili ifade kümeleri oluşturulmaktadır. Bu tez çalışmasında, öğrenme tabanlı bir ifade-çifti modeli oluşturulmuştur. İlk aşama olan ifade çiftlerinin eşgönderge durumlarının saptanması işlemi için iki farklı sınıflandırıcı (Karar Ağacı (KA) ve Destek Vektör Makinesi (DVM)) ile çalışılmış, ifade kümelerinin oluşturulması aşamasında ise kural tabanlı bir sonişlemciden yararlanılmıştır. İlk olarak, farklı negatif örnekleme yöntemi ve kullanılan DVM algoritmasının çekirdek fonksiyonunun parametrelerinin etkileri araştırılmıştır. Bu incelemeden elde edilen sonuçlar kullanılarak, farklı öznitelik seçimlerinin problem üzerindeki etkileri incelenmiş ve ortaya çıkarılan ifade-çifti modeli yaklaşımıyla Türkçe EÇ üzerinde en başarılı sonuçlar elde edilmiştir. Varlık-ifade modelleri, bir ifade ile ifade kümesinin eşgönderge ilişkisi üzerinde bir karar vermektedir. Bu modelde ifade kümelerinin oluşturulması için bir sonişlemciye ihtiyaç duyulmamaktadır; çünkü ifade kümeleri modelin tahmin aşamasında dinamik şekilde artarak oluşturulmaktadır. Tez çalışması kapsamında bir varlık-ifade modeli geliştirilmiş, ifade-çifti modelinin geliştirilmesi aşamasında elde edilen en iyi öznitelikler bu modele aktarılmış ve etkileri incelenmiştir. Sistemin değerlendirilmesi, referans ifadeler üzerinde MUC, $B^3$, BLANC ve LEA değerlendirme ölçütleri kullanılarak yapılmıştır. İfade-çifti modelinde elde edilen %90.68 (MUC), %86.89 (B3), %85.13 (BLANC) ve %78.34 (LEA) F1 ölçütüyle, mevcut Türkçe EÇ sistemi (Schuller, 2017) üzerinde sırasıyla 9.12, 16.06, 13.08 ve 12.57 yüzde puanlık bir gelişim sağlanmaktadır. Varlık-ifade modelinde ise sırasıyla %75.83 (MUC), %62.37 ($B^3$), %57.15 (BLANC) ve %50.69 (LEA) F1 ölçütleri elde edilmiştir. Gerçeklenen varlık-ifade modelinde elde edilen sonuçlar ile ifade-çifti modelinin başarısı geçilememiştir; ancak bu yöntemi kullanan Türkçe EÇ çalışmaları için temel bir sonuç oluşturulmuştur.
Bilgiişlem ortamı sunan bulut hizmetlerinde kötücül davranışların saptanması
Bulut bilişim kullanımı gittikçe artan bir bilgi teknolojisi alanıdır. Firmalar bulut bilişime geçerek sanal makinelerini, veri merkezlerini veya uygulamalarını müşterilerin hizmetine sunabilirler. Üç faklı bulut hizmeti bulunmaktadır. Bunlar; sanal makine sunan bulut (IaaS), bilgiişlem ortamı sunan bulut (PaaS) ve hazır yazılım sunan bulut (SaaS)'dur. PaaS sağlayıcılar, bilgiişlem ortamlarını en yaygın kullanılan teknolojilere göre düzenleyerek, aynı anda birden çok müşteri uygulamasını bu ortamda çalıştırırlar. Bu durum PaaS sağlayıcısının maliyetlerini düşürmekle birlikte, bazı güvenlik risklerini de beraberinde getirmektedir. Çünkü farklı müşteri uygulamaları aynı ortamı paylaşmaktadırlar ve birbirlerini etkileme olasılıkları vardır. Uygulamaların ve bilgiişlem ortamının güvenliği için farklı uygulamalar arasında bir yalıtım mekanizması gerekmektedir. Tez kapsamında aynı sanal makine üzerinde birden fazla uygulama çalıştıran PaaS sağlayıcıları için bir güvenlik ve yalıtım sistemi geliştirilmiştir. Önerilen sistemde izlekler üzerinden ölçümler yapılmış ve sonrasında makine öğrenmesi yöntemleriyle bulut uygulamalarına gelen isteklerdeki kötü amaçlı davranışlar saptanmıştır. Önerilen sistem izlekler üzerinden, bulut uygulamasına gelen her istek için anlık CPU paylaşımı, toplam CPU paylaşımı değerlerini ölçer. Bununla birlikte CRUD işlemleriyle eşleştiren kaynak erişim tipi, kaynak erişim süresi ve sırasıyla hangi işlemlerin yapıldığı kaydedilen diğer üç değerdir. Bu değerler bütün olarak öznitelik vektörünü temsil ederler ve makine öğrenmesi sürecinde kullanılırlar. Tez kapsamında ilk olarak Spring Boot ile bir web uygulaması yazılmış, PostgreSQL ilişkisel veritabanına bağlanmıştır. Bu uygulama basit bir e-ticaret uygulaması olarak da düşünülebilir. Uygulama Heroku PaaS sağlayıcısına yüklenerek, gerçekçi bulut uygulama verileri üzerinde çalışmak amaçlanmıştır. Sonrasında, yazılan uygulamaya önerilen güvenlik sistemi entegre edilmiş, uygulamaya güvenilir ve tehlikeli istekler gönderilerek, güvenlik sisteminin bu istekler üzerinden bulut ortamında ölçüm alması sağlanmıştır. Yapılan deneyde bulut uygulamasına 99000 güvenilir 1000 tehlikeli olmak üzere toplamda 100000 istek gönderilmiştir. Güvenilir istekler, e-ticaret uygulamalarının yaygın kullanım senaryolarını içerirken, tehlikeli istekler ise OWASP 2017 raporunda yer alan 2017 yılındaki en yaygın web uygulaması saldırı senaryolarıdır. Önerilen sistem tarafından ölçümler yapılıp, veritabanına kaydedildikten sonra, işlem sırası özniteliği üzerinde N-Gram algoritması çalıştırılmıştır. N-Gram işlemlerin sayısını ve işlemler arasındaki geçiş olasılıklarını hesaplayarak öznitelik vektörüne 57 adet yeni değer eklemiştir. Bu sayede zararlı davranışların saptanacağı makine öğrenmesi sürecinde başarıyı arttırarak amaçlanmıştır. Literatürde sıkça kullanılan topluluk sınıflandırması algoritmaları Random Forest, Bagging ve AdaBoost toplanan veri üstünde çalıştırılmış ve sonuçlar çapraz doğrulama tekniğiyle elde edilmiştir. N-Gram algoritması çalışmadan elde edilen sonuçlarda, en başarılı sınıflandırmayı Random Forest yapmış ve deneyde toplam 146 istek yanlış saptanmıştır. Bununla birlikte; N-Gram kullanılarak yapılan deneyde, yine Random Forest en iyi sonucu elde etmiş fakat bu sefer yanlış saptanan istek sayısı 22'ye düşmüştür. Bu deneyde elde edilen duyarlılık doğrulu değeri, bulut uygulamasına gelen zararlı bir isteğin önerilen sistem tarafından saptanma olasılığının %98 olduğunu göstermektedir.
Yazılım projelerinde iş gücü tahmini için makine öğrenmesi yöntemlerinin karşılaştırılması
Yazılım projeleri, sektörden bağımsız olarak neredeyse tüm şirketlerin operasyonlarını yürütmelerinde stratejik bir öneme sahiptir. Son 10 yılda bu önem giderek artmıştır. Hem yazılım şirketleri hem de temel iş alanı yazılım olmayan çeşitli boyutlarda birçok şirket kendi bünyesinde yazılımlar geliştirmekte ve yazılım evlerine yazılım projeleri yaptırmaktadır. Yazılım projelerinin planlanmasında iş gücünün doğru olarak tahmin edilmesi, proje maliyetlerinin doğru olarak öngörülmesi ve projelerin zamanında bitirilmesi açısından önemlidir. Yazılım efor tahmini alanında uzun zamandan beri çalışmalar yapılmaktadır. Yazılım efor tahmini yöntemleri algoritmik yöntemler, istatistiksel yöntemler, Makine Öğrenmesi tabanlı yöntemler gibi alt başlıklarda incelenmektedir. Tez kapsamında bu çalışmalar değerlendirilmiş ve literatür taraması yapılarak öne çıkan metodolojiler literatür araştırması bölümünde sunulmuştur. Tez konusu olarak Makine Öğrenmesi tabanlı üç farklı efor tahmin yöntemi seçilmiştir. Bu yöntemler Karar Ağacı, Naive Bayes ve Çoklu Regresyon analizi modellerini baz almaktadır. Modellerin çalıştırılması için Windows tabanlı bir masaüstü uygulaması geliştirilmiştir. Piyasada genel kullanıma açık olarak bulunan Makine Öğrenmesi bileşenleri seçilmiş ve modellerin yazılıma aktarılmasında kullanılmıştır. Modellerin eğitilmesinde ve test edilmesinde kullanılan parametrelerin seçiminde daha önceki birçok çalışma incelenmiş ve baz alınmışsa da bazı projelere ait tüm parametrelerin geçmişe dönük olarak elde edilememesinden ve bazı parametrelere ait değerlerin ayırt edici olmamasından dolayı parametrelerde eleme yapılmıştır. Her üç model aynı eğitim veri kümesiyle eğitilmiş ve aynı test veri kümesiyle test edilmiştir. Eğitim ve test verileri 10 yıldır ulusal yazılım piyasasında faaliyet gösteren bir yazılım evinden alınmıştır. 64 farklı yazılım projesine ait parametre verisi bulunmaktadır. Modellerin eğitilmesi ve test edilmesi için k-kat doğrulama yöntemi kullanılmıştır. Bu yöntemin kullanılmasıyla, veri kümesinde bulunan tüm verilerin hem eğitim hem test amacıyla değerlendirilmesi sağlanmıştır. Üç model için de algoritma test verileri üzerinde çalıştırıldıktan sonra elde edilen tahmini efor değerleri gerçek efor değerleriyle karşılaştırılarak Makine Öğrenmesi algoritmaları tarafından hesaplanan tahmini efor değerleri için hata katsayıları belirlenmiştir. Hata katsayılarının belirlenmesinde Bağıl Hata Büyüklüğü (MRE), Ortalama Bağıl Hata Büyüklüğü (MMRE) ve Tahmin Kalitesi (PRED(25)) değerleri kullanılmıştr. Elde edilen sonuçlar karşılaştırıldığında, Çoklu Regresyon Analizi modelinin en doğru tahminleme sonucunu elde ettiği görülmüştür. İkinci sırada Karar Ağacı, son sıradaysa Naive Bayes modeli yer almıştır. Bu durumun sebebinin, seçilen parametrelerin bir kısmının test kümesindeki değerlerinin yeteri kadar ayırt edici olmamasından kaynaklandığı düşünülmektedir. Sonuçların iyileştirilmesi için parametre setinin değiştirilmesi, modellerin farklı yazılım evlerinden veri toplanarak tekrar eğitilmesi, daha fazla proje verisi üzerinde eğitim ve test yapılması gibi yöntemler izlenebilir.
Comparison of feature selection and extraction methods and active learning in voice based emotion recognition systems
Since humans are social beings, emotions stand at the center of their behaviors. We interact and exchange emotions with each other, and so our communication is constructed on the basis of those emotions. One of the most common ways of emotion sharing tool is the voice. Recently, thanks to the improvement in new technologies, voice-based emotion recognition becomes very popular. Basically; the extraction of emotions from audio signals is a supervised machine learning application. Classifiers are trained using extracted features from audio signals. The performance of classifiers is dependent on data preprocessing, selection of features and classifiers and the parameters of classifiers. Obtaining high performed classifiers is the main purpose in emotion recognition systems as in the all machine learning applications. That is why many researches are conducting on phases of classifiers. Data preprocessing phase is one of the most important parts of emotion recognition like all other machine learning processes. Feature extraction and selection methods are one of the important operations that affect the performance of classification in this phase. Feature selection method aims to find the features that provide more successful result among the other features, whereas feature extraction method aims to generate a new feature space or representation of features that outputs higher performance. Nowadays, collecting data and accessing this data has become very easy. In order to use these data in machine learning applications, they need to be categorized by labeling. This labeling operation is conducted by experts or oracle. But labeling of these collected data is very hard and expensive. In many problems, there are a huge amount of unlabeled data and a small amount of labeled training data. Common methods such as active learning are proposed in order to enable the obtained unlabeled data to be used as an enhancement in machine learning efficiently. Active learning is basically processed by adding samples which are selected from unlabeled data according to specified conditions, to training data iteratively and updating model using this new training data. Selecting the most informative examples is a crucial step in active learning. In literature, several methods have been proposed for this process. One of the commonly used methods is selecting the samples that classifier is least certain about it. This method is called uncertainty sampling. The uncertainty method is based on the irregularity of samples. This irregularity is computed as entropy. The more entropy sample has, the more information it contains. An active learning flow is defined as following steps; At the first step, trained model is tested on unlabeled data. The samples where the model least certain of them are determined. The selection of samples can be decided in two ways. First one is a specified threshold value of uncertainty score. The samples which are lower than this limit value are selected as uncertain samples. The second way is that samples are ordered according to uncertainty score and a specific number of samples are selected. The selected samples are the most informative ones in terms of sample diversity. These samples are labeled by asking experts or oracle. At the last stage, the trained model is updated with new labeled samples. The new model is tested on test data and success of the model is expected to increase. By doing so, the cost of labeling is decreased sharply. In this thesis, feature selection and extraction methods are first analyzed using supervised learning methods. In voice-based emotion recognition systems, acoustic features of audio signals are commonly used. These acoustic features can be subcategorized according to information they carry. Several amounts of features and different types of them can be extracted from a single signal. Features that output high performance on classification are aimed to be selected and used in the scope of this experiment. This selection is critically important in terms of accuracy and cost saving of classification. Autoencoder, Relief-F and Chi-Square are used as feature selection and extraction methods. Results of each selection methods and each acoustic feature types are analyzed in comparison and best feature selection method and feature type are proposed. For the experiments; University of Michigan Song and Speech Emotion Dataset (UMSSED) and Ryerson Audio-Visual Database of Emotional Speech and Song (RAVDESS) data sets were used. With the OpenSmile tool, a total of four different types of features were generated from these data sets. These feature types are; Energy and loudness, Harmonic product spectrum (HPS) pitch and voice quality, spectral and Mel frequency cepstral coefficient (MFCC). Two different features have been produced by using the different combinations of these features and in the end, total of six types of features have been obtained. The results of the study indicate that the MFCC type features and the features selected by using the Relief-F method have the most successful results. Relief-F method is based on the distance between feature and class label. The neighbors of the pointed feature are also taken into account of calculation with the class label. These distance calculations are the reason that Relief-F outputs higher performance. Chi-Square outputs close performance result with Relief-F. This method uses a statistical calculation of independence between feature and class label. Both depend on the individual relationship between a feature and class label. This common feature of methods is the reason behind this high performance of classification. At the second part of the thesis, active learning was applied with the information obtained in the first part and the accuracy results of applications on emotion recognition systems are analyzed. The experiment of this part is separated into two sub-experiments according to the usage of data sets. At first experiment, RAVDESS data set is used as training set, UMSSED data set is divided into test and unlabeled data sets. The main purpose of this experiment is to find a solution to the classification of data which contains a small amount of samples. The model which is trained by a huge amount of training data outputs higher performance using active learning. At the other experiment, UMMSED data set is used as training set, RAVDESS is used test and unlabeled data sets. This experiment analyzes the smart selection and efficient usage of samples from a huge amount of unlabeled data in emotion recognition systems. In these experiments, MFCC, Statistical and Is13ComParE types of features are used. Cross validation method is used for evaluation. In both experiments, the trained model is tested on unlabeled data set. The most uncertain samples were selected. Afterward, the labels were learned from experts and the model was updated with this information. These operations were performed iteratively, and at each iteration, a certain number of samples were added to the training set. In each iteration, the change in the performance of the model was observed and the results showed that the performance of classification was increasing. As a future work, in order to improve the performance, other instance selection algorithms can be used in active learning. To sum up, within these experiments; the effect of the feature selection and extraction methods used in the emotion recognition from audio signals is analyzed, and also active learning is applied with the obtained results in the first phase. This study emphasizes the importance of data preprocessing phase of classification and concludes successful results with a remarkable recommends that provide an insight to focus on the other phases of emotion recognition.
Dietary planning using multi objective evolutionary algorithmwith fuzzy preference integration
Nutrition is the process of breaking down and digestion of food in order to supply energy and other essential nutrients to the organism. Since eating is the main method to sustain life and survive, it has always been a forceful motivator for human-beings. It covers such an important part of human beings' daily activities that throughout the history they struggled to reach food easily in order to be healthy, powerful and fit. Archaeologist, anthropologist, sociologist and biologist who study history of human evolutionary process often used strategies to obtain food as a complementary tool. Early human beings are suggested to use scavenging and later on they started to hunt animals and gather fruits etc. to feed. After learning techniques related to agriculture, gardening and domestication of animals humans achieved to optimize resources such as time and energy to attain food. Throughout decades, people living in different physical conditions have evolved various food gathering methods and diets by using resources in their habitat. Although this optimization came in handy, changing diet brought some problems with it. Today modern world faces a serious malnutrition crisis. According to Global Nutrition Report 2 billion people lack micro-nutrients, 155 million children are stunted 42 million children are wasted, 2 billion adults are overweight or obese. This indicates clearly that a form of nutritional planning is required to overcome this problems. Dietary planning is an effort to develop guidelines on nutritional requirements to improve mental and physical fitness of people. Countries try to establish and pursue dietary planning policies for their citizens. In order to breed healthy populations a set of reference nutritional intake values must be devised and maintained in order to measure and improve quality of a diet. This measures are called dietary reference intake (DRI) and they reflect the state of scientific research on nutritional requirements. Although DRI measures imposes some constraints on dietary planning, there are also economic, social and personal perspectives to the problem. In this thesis we first model a many-objective dietary planning problem with 4 distinct objectives. First objective is to minimize the cost from an economic perspective. Second objective is to optimize rating objective which reflects society's preference on that diet. Third objective is to optimize on preference objective which reflect personal taste and last objective is to optimize on preparation time which represents resources spent to attain that diet. Since dietary planning is a highly personalized problem these objectives have different importance levels for different users. After modelling many-objective dietary planning problem, a solution using preference based multi-objective evolutionary algorithm namely NSGA-II is proposed. In order to integrate users attitude towards importance of each objectives other than cost a desirability function approach is taken. Desirability functions map objective space into desirability space using exponential functions. This approach is proven to be successfull in many different domains but seriously lacks expressiveness. As a novel contribution to the field a Mamdani type fuzzy inference system is developed to integrate users preferences over different objectives. In order to limit search space of many-objective diet problem FIS takes preference, rating and preparation time as inputs and produces a desirability measure using the FIS rule set that is given by the user herself/himself. This approach brings in serious advantages. First one is the flexibility of user preference integration. This enables to reuse same optimization algorithm without changing for optimizing different aspects of the diet problem by just changing rule sets of FIS. Another advantage is the usage of verbal rule-sets such as "if rating is high then desirability is optimal". This intuitive and powerful way of expressing preferences increases accessibility of the system from users perspective. Another advantage is the dimensional reduction which decreases the time to compute pareto fronts in the region of interest. With mapping many-objective diet problem into a bi-objective diet problem using FIS, it became possible to use NSGA-II to solve the problem. An indirect permutation representation containing 317 foods in test data set is used for its advantages in constraint handling. Output of NSGA-II is a pareto front where cost objective is minimized and desirability objective is maximized. Experiment results show that fuzzy inference systems can be used to guide MOEA algorithms to region of interest of decision maker in search space. Tests on NSGA-II parameters indicates that increase in iteration count increases the quality of solutions. Although minor differences are observed in terms of mutation operator and rate, this observations does not support a statistical difference. Experiments on FIS rule sets concludes statistical differences supporting our hypothesis on effectiveness of FIS in guiding MOEA. Proposed system can be used in personnel dietary planning and recommendation engines easily. This system can also be enriched with extra constraints related with different nutritional diseases such as diabetes to improve on their dietary planning in hospitals. Proposed fuzzy preference based MOEA can also be used with any multi objective optimization problems which contains imprecise, user dependent and vague objectives.
Classification of pediatric snoring episodes using deep convolutional neural networks
Simple snoring and obstructive sleep apnea are health conditions that have psychological, physiological and social implications for children including depression, reduced cognitive ability, and hyperactive behavior. According to studies, the frequency of diagnosis of OSA and SS in children are given as 4.9%-17.1%. Obstructive sleep apnea is characterized by drops in blood oxygen level caused by blockage of the upper respiratory tract. A 50% drop in respiration for 10 seconds or more and a consequent 3% drop in blood oxygen level is defined as hypoapnea. Complete stopping of respiration for 10 seconds or more is defined as apnea. Apnea-Hypoapnea Index (AHI) is a commonly used unit for determining the severity of the apnea. For a diagnosis of OSA, an AHI greater than 5 for adults and an AHI greater than 1 for children are used as thresholds. Diagnosis of obstructive sleep apnea requires expensive and time-consuming measurements to be made in a sleep laboratory, hence the current approach is not feasible for screening at large scale. A low-cost system that is able to warn about signs of obstructive sleep apnea can provide a feasible alternative. In this work, a deep convolutional neural network is designed for automatic detection of snoring episodes of children from ambient audio data. In order to test the performance of the network, a dataset collected from 38 pediatric patients with simple snoring or obstructive sleep apnea. The ambient audio signal is converted to Mel spectrogram for the model to learn relationships between features in the frequency domain. The network is trained using Adadelta algorithm on 1.200 samples. In order to fine-tune the system parameters, a validation set of 300 samples is used. Finally, a test set of 300 samples was used observe the performance of the developed network. The samples in the training, validation, and test samples are all exclusive. The mean accuracy of the proposed system over 20 experiments is observed as 91% for snore and non-snore. The accuracy observed is higher than previous work on the same dataset.
Makine öğrenmesi yöntemleri ile kredi risk analizi
Bankacılık Düzenleme ve Denetleme Kurumu'nun (BDDK) yayınladığı rapora göre Türkiye'de küçük ve orta büyüklükteki işletme (KOBİ) durumundaki müşterilerin kullandıkları kredi oranları, yıllar geçtikçe artmakta ve bu nedenle de, finansal merkezler için müşteri riskinin daha iyi tahmin edilebilmesi, gittikçe önem kazanmaktadır. Bu ihtiyaçtan dolayı son yıllarda müşteri riskini daha iyi analiz edebilmek için uzman bilgi ve tecrübesine dayalı klasik yöntemler yerine makine öğrenmesi kullanılarak geliştirilen sistemler kullanılmaktadır. Müşteri kredi riski analizi; müşterinin gelecek bir tarihte finansal bir dar boğaz yaşayıp yaşamayacağını tahmin ederek, finansal merkezin riskini en aza indirgemeyi amaçlar. Müşteri riski analizi ikiye ayrılır: Müşteri başvuru skor analizi ve müşterinin ödeme davranışının analizi. Müşteri başvuru skor analizinde müşterinin kredi başvurusu sırasında sunduğu ya da geçmiş bilgileri kullanılarak müşterinin ileri bir zamandaki durumu tahmin edilmeye çalışılır. Müşteri ödeme davranışı analizinde ise müşterilerin krediye başvurduktan sonraki belirli bir süre boyunca ödeme davranışları incelenerek müşterinin durumu tahmin edilmeye çalışılır. Müşteri ödeme davranışını incelemek için yapılan çalışmaların bazıları müşterinin herhangi bir zamanda finansal bir sıkıntı yaşayıp yaşamayacağı konusuna odaklanırken, diğerleri de müşterinin ne zaman ya da herhangi bir süre aralığında sıkıntı yaşayıp yaşamayacağına odaklanır. Türkiye'de KOBİ'ler için bireysel müşterilerden farklı olarak tek tipte bir kredi (ihtiyaç kredisi, ev kredisi vb.) ya da ürün (kredi kartı, esnek hesap) teklif etmek yerine, belirli bir limitte, içinde birçok farklı ürün barındıran ve belirli bir süre geçerliliği olan bir teklif paketi oluşturulur. KOBİ'ler için hazırlanan her bir teklif paketi KOBİ'lerin ihtiyaçlarına göre hazırlanmış birbirinden farklı ödeme planları bulunan 77 farklı üründen (çek defteri, kredi kartı vb.) birkaçını içerebilir ve toplam limit bu ürünler arasında paylaştırılır. KOBİ müşterileri, bu teklif paketinin geçerli olduğu süre boyunca ihtiyacı olan kredi ya da ürünlerden istediğini dilediği zaman kullanabilir. Eğer müşteri kullandığı ürünün ödemesini 90 gün boyunca gerçekleştirmezse kredinin durumu "problemli kredi" (PK) olarak belirlenir. PK durumundaki herhangi bir ürünün sahibi de "PK durumundaki müşteri" olarak nitelendirilir. Aksi takdirde kredi ve ilgili müşterinin durumu "sağlıklı kredi" (SK) olarak devam eder. Finansal merkezler için müşterinin ne zaman finansal sıkıntı yaşacayağı önemli olduğundan bu çalışma kapsamında KOBİ müşterilerinin 6 aylık bir zaman diliminde finansal sıkıntı yaşayıp yaşamayacağına odaklanılmıştır. Bu motivasyonla Türkiye'deki KOBİ müşterilerinin 1 Ocak 2015 - 1 Ekim 2016 tarihleri arasındaki verileri analiz edilerek 1 Nisan 2016 - 1 Ekim 2016 tarihleri arasında PK olup olmayacakları makine öğrenmesi yöntemleri kullanılarak tahmin edilmeye çalışılmıştır. Bu amaçla, müşteri ödeme davranışı probleminde ve müşterilerin başvurularını değerlendirmek için kullanılan öznitelikler kullanılmıştır. İlk olarak, Yapı Kredi Bankası ile çalışan KOBİ müşterilerinin 1 Ocak 2015 - 1 Ekim 2016 tarihleri arasındaki kredi bilgileri kullanılarak veri seti oluşturulmuştur. PK durumundaki müşterileri belirlemek için aranan koşul müşterilerin 1 Nisan 2016 - 1 Ekim 2016 tarihleri arasında PK durumuna düşmüş en az bir kredilerinin olmasıdır. SK durumundaki müşteriler içinse yeter ve koşul şart, müşterilerin bu tarihler arasında PK durumunda hiç bir kredisinin olmamasıdır. Daha sonra ise, belirlenen bu müşterilerin risklerini analiz etmek için öznitelikler çıkarılmıştır. Çıkarılan öznitelikleri müşterilerin demografik bilgileri, başvuru bilgileri, şirketin finansal durumu, diğer bankalardaki riskleri, gösterilen teminat belgeleri ve ödeme davranışları olmak üzere 6 farklı kategoriye ayırmak mümkündür. Toplamda 3904 (1952 SK ve 1952 PK) müşterinin 366 farklı özniteliği ile veri seti oluşturulmuş ve veri setinin %80'i eğitim için %20'si test için ayrılmıştır. Bilgimiz dahilinde, bugüne kadar Türkiye'deki KOBİ müşterilerinin ödeme davranışları kullanılarak müşterinin gelecek 6 aydaki durumunu tahmin etmeye yönelik yapılmış bir çalışma bulunmamaktadır. Bu nedenle farklı yöntemlerin problem üzerindeki başarımını test etmek için lojistik regresyon (LR), karar ağaçları (KA), destek vektör makineleri (DVM), sinir ağları (SA), rastgele orman algoritması (ROA) ve son olarak da meyilli hızlandırma (MH) yöntemleri kullanılmıştır. Gerçekleştirilen deneylerde en iyi başarımı MH algoritması %83,05 başarı ile, en iyi ikinci performansı ise ROA vermiştir. Onları sırası ile SA, DVM, KA, LG takip etmiştir. Bugüne kadar bu alanda yapılan çalışmaların birçoğunda müşterilerin kredi başlangıcındaki durağan (statik) öznitelikleri kullanılmış, belirli bir zaman aralığında olan ödeme davranışları kullanılmamıştır. Oysaki, müşterilerin ödeme davranışları müşterilerin ekonomik durumu hakkında bize daha doğru bilgiler verebilir ve daha iyi çalışan sistemler geliştirmemize olanak sağlayabilir. Müşteri ödeme davranışları ile ilgili özniteliklerin problem üzerindeki önemini test etmek için, veri setinden müşterilerin ödeme davranışlarını içeren tüm öznitelikler çıkarılarak temel öznitelik vektörü oluşturulmuştur. Sonrasında ise müşterilerin kullandıkları farklı ürünlerdeki geri ödeme davranışlarını içeren öznitelikler sırayla eklenmiştir. Öznitelik vektörüne müşterilerin farklı ürünlerdeki davranışları eklendikçe, özniteliklerin sistem üzerinde etkisi MH kullanılarak analiz edilmiştir. Elde edilen sonuçlar göstermiştir ki ödeme davranışlarını incelemek, sadece sistemin başarısını artırmamış aynı zamanda modelin standart sapmasını da düşererek, daha dengeli bir model elde edilmesine olanak sağlamıştır. Son olarak ise makine öğrenmesi yöntemlerinin tek başına değil de harmanlanmış şekilde kullanılarak elde edilebilecek olan başarımını incelemek için makine öğrenmesi yöntemlerinin farklı kombinasyonları ile harmanlanmış sistemler oluşturulmuştur. Yapılan deneyler sonucunda en başarılı sonuç ROA ve MH yöntemlerini kullanılarak oluşturulan harmanlanmış sistemle elde edilmiştir. Algoritmaların tek başına kullanılarak elde edilen en iyi performans %83,05 iken, harmanlanmış sistem kullanıldığında bu başarı %2,88 oranında artarak %85,93 olmuştur.
Debugging remote services developed on cloud systems
Cloud based development platforms are getting more widely used as the cloud services become more available and the performance of such platforms increase. One of the key issues in providing a cloud based development platform is to enable the developers to debug their code just as efficiently and effectively as they would perform in a desktop IDE development session. However, especially if the development of a remote service is being carried out, the debugging client and the server running the actual code is separated, disclosing many problems which are not present in a usual debugging session. This study proposes a record/replay approach to deal with the problems of remote debugging. The debugger saves all the variables values if the developer selects the full recording option.The debugger saves the inputs of the web services so the developer can select the erroneous execution from the list of previous calls then the developer can debug or replay the code. Debugging the code will execute the code line by line using the current situation of the database and web services. The developer can use breakpoints so if the continue buttton is pressed the debugger will continue executing line by line until reaching the first breakpoint. Developer can also use the replay button to show the old values of the variables and by doing so the developer can understand the previous error without a deep checking in the web service logs. To keep the communication overhead of the approach as small as possible, a new type of recording is proposed (the minimal recording), in the minimal recording the debugger saves the variable values only for external data access such as getting the data from a database query or a web service call. The debugger will not save extra data if the web service is working without errors. The debugger stores the related variable values regarding the recording type when the web service throws an exception allowing the debugger to execute the web service later line by line in the client's debugging session. The debugger contains the basic debugger features like step over, continue and step back buttons. The step back features works only with the full recording option. In this case we can name the debugging as TTD (Time Travel Debugging). The proposed approach is integrated to a real world cloud based development platform and the run-time overhead is measured on some case studies to demonstrate the usefulness of the approach.
Development of adaptive human-computer interaction games to evaluate attention
In this work, several physical activity based Human-Computer Interaction(HCI) games which are developed and implemented for the improvement of attention, emotion and sensory-motor coordination will be presented. The interface, and difficulty levels of these games are specially designed for the ease of different age groups and disabilities. The games involve physical activities for the fulfillment of some basic tasks within the HCI, such as fruit picking and air hockey, with adaptive difficulty levels based on varying parameters of the games and human performance. In the fruit picking game, the player will see a number of fruits moving from top to the bottom of the screen. Objective is to collect apples while avoiding the pears. The player's hand will control the basket that collects the fruits. In the air hockey game, the player will try to score goals against computer controlled player. The player's hand will control the paddle. Both of the players will try to hit the puck to score or to defend their goals. The player's hand is recognized by Kinect RGB-D sensors in both games. Aim of the adaptive difficulty based system is keeping the players engaged in the games. Games with fixed parameters are found to be less engaging over time especially with children under special treatment or education and reduces the player performance. Also these games target children with disabilities in the long run, and adaptivity of difficulty makes the games appropriate for a larger target group. If the player's performance is relatively low, game will help them play better by decreasing the difficulty. If the player's performance is relatively high, game will increase the difficulty to increase the challenge. In both cases, adaptive difficulty system makes the games more enjoyable. The games are tested with a group of deaf children (3.5-5 years) as a part of the pilot studies of an ongoing project, to decrease the stress of the children, and increase their positive emotions, attention and sensory-motor coordination before the main tests. Both the game results, the evaluation of the therapists and the pedagogues show that the games have a positive impact on the children. The games are also tested with a group of adults as a control group and the attention levels of the adults were also observed via mobile EEG device. The children to use the EEG device in the main tests therefore the device was not integrated to their game sessions.
Makine öğrenmesi ile öğrenci başarı durumunun tahmin edilmesi
Bu çalışmada, öğrenci başarısının tahmin edilmesi amacıyla Kaggle platformundan beş farklı veri seti kullanılmıştır. Veri seti 1, 6607 gözlem ve 20 değişken; Veri seti 2, 10.000 gözlem ve 15 değişken; Veri seti 3, 1388 gözlem ve 5 değişken; Veri seti 4, 10.000 gözlem ve 6 değişken; Veri seti 5 ise 2392 gözlem ve 15 değişken içermektedir. Veri setleri üzerinde eksik ve aykırı değer analizi gerçekleştirilmiş, gerekli düzeltmeler yapılmıştır. Kategorik değişkenler label encoding yöntemiyle sayısal formata dönüştürülmüş, ardından korelasyon analizi yapılarak düşük korelasyona sahip değişkenler çıkarılmıştır. Ridge, Lineer, Lasso, Random Forest ve Destek Vektör Regresyonu (DVR) algoritmaları kullanılarak 10 kat çapraz doğrulama ile modellerin performansları belirleme katsayısı (R²), ortalama mutlak hata (MAE) ve kök ortalama kare hata (RMSE) metrikleri üzerinden değerlendirilmiştir. Standartlaştırma işlemi Z-skor yöntemiyle uygulanarak modeller tekrar eğitilmiş, hiperparametre optimizasyonu ise GridSearchCV ile gerçekleştirilmiştir. En iyi sonuçlar veri seti 1'de Random Forest algoritmasıyla (R²: 0.9553, MAE: 0.5586, RMSE: 0.7211), veri seti 2'de DVR ile (R²: 0.9407, MAE: 3.6525, RMSE: 4.2676), veri seti 3'te Random Forest ile (R²: 0.9940, MAE: 0.5378, RMSE: 0.7358), veri seti 4'te DVR ile (R²: 0.9999, MAE: 0.0762, RMSE: 0.1858) ve veri seti 5'te Lineer Regresyon ile (R²: 1.000, MAE: 0.000, RMSE: 0.000) elde edilmiştir. Son aşamada, öğrenci başarısının tahmin edilmesini sağlayan modelin gerçek veriler üzerinde nasıl çalıştığını gözlemlemek amacıyla bir web uygulaması geliştirilmiştir. Bu uygulama, öğrencilere özel başarı tahminleri sunarak kişiselleştirilmiş eğitim süreçlerinde karar destek mekanizması olarak kullanılabilirliğini göstermiştir. Çalışma sonucunda, veri ön işleme, model seçimi ve optimizasyon adımlarının tahmin doğruluğunu önemli ölçüde artırdığı ve makine öğrenimi modellerinin öğrenci başarısını yüksek doğrulukla tahmin edebildiği ortaya konmuştur.
Derin ağ ve MFCC özelliklerine dayalı akut solunumyolu hastalıklarının sınıflandırılması
Solunum yolu hastalıklarının erken teşhisi, hastalık yönetimi açısından kritik öneme sahiptir. Bu çalışmada, solunum seslerinin otomatik analizi için derin öğrenme tabanlı bir sınıflandırma sistemi geliştirilmiştir. Ses verilerinden Mel Frekans Kepstrum Katsayıları (MFCC) gibi spektral öznitelikler çıkarılmış ve bu öznitelikler, hibrit model CNN+LSTM katmanları içeren bir derin sinir ağı modeli ile işlenmiştir. Sınıf dengesizliğini azaltmaya yönelik teknikler kullanılarak modelin genellenebilirliği artırılmıştır. Yapılan deneysel çalışmalar sonucunda, geliştirilen model test verisi üzerinde %86 doğruluk oranına ulaşmış ve solunum seslerinden hastalık tespitinde etkili ve güvenilir bir performans sergilemiştir. Elde edilen bulgular, ses temelli analizlerin akut solunum yolu hastalıklarının erken tanısına katkı sağlayabileceğini göstermektedir.
Dikkat tabanlı otokodlayıcı kullanarak tek görüntüden yüksek dinamik aralıklı görüntü oluşturma
Tek görüntüden Yüksek Dinamik Aralık (High Dynamic Range– HDR, YDA) görüntü yeniden yapılandırma, modern görüntü işleme alanında hâlen çözüm bekleyen önemli zorluklardan biridir. Düşük Dinamik Aralık (Low Dynamic Range– LDR, DDA) görüntülerde karşılaşılan pozlama yetersizliği, bilgi kaybının önlenmesi açısından ciddi bir engel oluşturmaktadır. Bu tez çalışmasında, çoklu pozlama sentezi esasına dayalı U-Net benzeri Kodlayıcı–Çözücü (Encoder–Decoder) mimarili bir YDA üretim sistemi temel alınarak, farklı Dikkat (Attention) mekanizmalarının bu yapıya entegrasyonu araştırılmıştır. Önerilen mimari, Otokodlayıcı (Autoencoder) tabanlı bir çerçevede yapılandırılmış; Uzamsal Dikkat (Spatial Attention), Kanalsal Dikkat (Channel Attention), Darboğaz Dikkat (Bottleneck Attention), Sıkıştırma–Uyarma Dikkat (Squeeze-and-Excitation– SE Attention) ve Öz Dikkat (Self-Attention) olmak üzere beş farklı dikkat mekanizması, ayrı ayrı model varyantları olarak sisteme entegre edilmiştir. Ayrıca, modele eklenen Pozlama Tutarlılığı Kaybı (Exposure Consistency Loss) başta olmak üzere farklı kayıp fonksiyonları ile performans iyileştirmeleri gerçekleştirilmiştir. Geliştirilen modeller, DrTMO veri kümesi kullanılarak eğitilmiş ve Tepe Sinyal Gürültü Oranı (Peak Signal-to-Noise Ratio– PSNR), Yapısal Benzerlik İndeksi (Structural Similarity Index– SSIM) ve Öğrenilmiş Algısal Görüntü Benzerliği (Learned Perceptual Image Patch Similarity– LPIPS) metrikleri üzerinden nicel olarak değerlendirilmiştir. Elde edilen sonuçlar, dikkat mekanizmalarının ve yeni kayıp fonksiyonlarının YDA üretim kalitesine önemli katkılar sağladığını; özellikle Uzamsal Dikkat tabanlı modelin hem yapısal doğruluk hem de algısal kalite açısından en yüksek performansı gösterdiğini ortaya koymaktadır. Bulgular, ablasyon analizi ve görsel karşılaştırmalar ile detaylı biçimde desteklenmiştir.
Blokzincir ve ilişkisel veritabanı entegrasyonu ile sabıka kaydı yönetim sistemi uygulaması
Bu araştırma, geleneksel veritabanı sistemleri ile blokzincir teknolojisinin entegrasyonu yoluyla sabıka kayıtları yönetimi için yenilikçi bir hibrit çerçeve sunmaktadır. Çalışma, hassas adli bilgilerin güvenli yönetimi için senkronize ve değiştirilemez veri depolama sağlayan entegre bir mimari model önermektedir. Geliştirilen sistem, blokzincirin değişmezlik ve şeffaflık özelliklerini geleneksel veritabanlarının yüksek performans ve erişilebilirlik kapasiteleri ile birleştirerek fonksiyonel bir denge kurması bakımından özgündür. Sistem mimarisi, her iki ortamda veri işlemlerinin senkron olarak gerçekleştirilmesini sağlarken, kriptografik doğrulama mekanizmaları ve rol tabanlı erişim kontrolü ile veri bütünlüğünü garanti etmektedir. Hibrit yapı, ilişkisel veritabanı teknolojileri ile modern blokzincir platformlarını entegre ederek ACID uyumluluğu ve dağıtık defter kayıt tutma özelliklerini aynı anda sunar. Sistem koordinasyonu, olay odaklı mimari ve güvenilir mesaj işleme protokolleri aracılığıyla sağlanmaktadır. Veri tutarlılığı, çok aşamalı onay mekanizmaları ve periyodik kriptografik doğrulama süreçleri ile korunmaktadır. Güvenlik altyapısı, kriptografik hash işlemleri ve blokzincirin doğal koruma mekanizmaları aracılığıyla veri bütünlüğünü sağlar. Sistem mimarisi, veri tutarlılığını korumak için geleneksel veritabanı işlem kontrolleri ile blokzincir doğrulama süreçlerini birleştirmektedir. Araştırmanın bulguları, önerilen mimarinin geleneksel sabıka kayıt sistemlerine kıyasla veri güvenilirliği, işlem izlenebilirliği ve sistem dayanıklılığı açısından önemli iyileştirmeler sağladığını göstermektedir. Bu hibrit yaklaşım, blokzincir teknolojisinin kamu yönetimi uygulamalarında etkin kullanımına yönelik ölçeklenebilir bir model sunarak, kritik devlet bilgi sistemlerinin modernizasyonuna katkı sağlamaktadır. Çalışmanın temel katkısı, blokzincir teknolojisini mevcut kurumsal altyapılar ile entegre etmenin pratik yollarını ortaya koyarak, adli bilgi sistemlerinde güvenlik ve şeffaflık standartlarının yükseltilmesi için uygulanabilir bir çerçeve geliştirmesidir.
Varlık yönetimi şirketinde sınıflandırma yöntemiyle borç geri ödeme eğilimi analizi
Varlık Yönetimi şirketleri, bankalardan ihaleyle beraber tahsilatı gecikmiş alacakları devir aldıktan sonra yeniden yapılandırarak tahsil etmeye çalışan şirketlerdir. Bu araştırmada, varlık yönetimi şirketi olarak, borçlunun demografik niteliklerinin (cinsiyet, maaş, yaş, doğum yeri gibi), merkez bankası riski, yapılan tahsilat, bakiye ve profesyonel şirket tarafından oluşturulmuş lokasyonlara göre verilmiş skorlarla birlikte borcun geri ödeme eğilimi analizini tespit etmek amaçlanmıştır. Araştırmada, farklı kategorilerdeki borçluların geri ödeme eğilimleri veri madenciliği sınıflandırma tekniklerinden C4.5 ve Naive Bayes ile incelenmiş, elde edilen bulgular karşılaştırılmıştır. Borçluların yer aldıkları kategoriler ve borçlu niteliklerin geri ödeme eğilimlerindeki önemi tespit edilmiş böylece Varlık Yönetim şirketlerinin ileriye dönük eylem planı oluşturmasına yardımcı olması hedeflenmiştir.
Biyometrik kimlik tanımlama sistem tasarımı
Dünyada kimlik tanımlama açısından en geniş kabul ile en büyük kullanım oranına sahip biyometrik özelliklerden biri olan parmak izi tanımlama ve doğrulama sistemlerinin yüksek doğruluk sağlaması büyük önem arz etmektedir. Parmak izi tanıma sistemleri kriminal sistemlerden, devlet dairelerine, laboratuvarlardan ve sınır geçişlerine kadar kimlik tanımlamanın gerekli olduğu hemen her yerde diğer biyometrik özellik tanıma sistemlerinden daha yaygın olarak kullanılmaktadır. Bu nedenle parmak izi tanıma sisteminin sahte ve gerçek parmak izinin ayrımını gerçekleştirmede hızlı ve güvenilir olması, daha yüksek hassasiyet sağlaması gerekmektedir. Bu çalışmada, lateks, ahşap tutkalı, jelatin ve silikon türevlerinden üretilmiş sahte parmak izleri, gerçek parmak izleri karşılaştırılarak sistemin elde ettiği sonuçlara ait performans metrikleri değerlendirilmişve bulunan sonuçlar diğer sistemler ile karşılaştırılmıştır. Sahte ve gerçek parmak izini karşılaştırması için uygun makine öğrenmesi yöntemleri LivDet2015 verisetinde bulunan sahte ve gerçek parmak izleri üzerinde çalıştırılmışve elde edilen sonuçlar kıyaslanarak tartışılmıştır.
Atama problemi için sürü zekâsı tabanlı en iyileştirme yöntemlerinin uyarlanması ve başarım değerlendirmesi
Görev atama, hesaplama sistemlerinin yeteneklerinden etkin bir şekilde yararlanmanın temel adımlarından biridir. Ayrıca etkin bir görev atama, başarılı bir görev yönetimini sağlar. Böylece en büyük maliyet kayıplarından olan kaynak maliyeti azaltılır. Bu çalışmada, bu sorunun çözümünde kullanılan meta sezgisel algoritmalardan sürü zekâsı algoritmaları kullanılmıştır. Sürü zekâsı algoritmalarından arı ve parçacık kolonisi optimizasyon algoritmalarının görev atama sorunu üzerindeki çözümlerinin performansı karşılaştırılmıştır. Çeşitli boyutta ve zorlukta veri setleri seçilmiş ve arı ve parçacık kolonisi ile optimize edilmiştir. Sonuç olarak, hangi optimizasyon yönteminin veri setine göre daha iyi çalıştığı yorumlanmıştır
Makine öğrenimi yöntemleri ile ağ trafiğinin anomali tabanlı analizi
Teknoloji ve internet, günlük yaşantımızın vazgeçilmez bir parçası haline gelmesiyle birlikte internete erişim birçok sektör için hayati bir öneme sahip olmasına neden olmuştur. Bu durum aynı zamanda siber saldırıların sayısını ve etkisini artırmış sistemlerin saldırılardan korunması, üzerinde düşünülmesi gereken bir konu haline getirmiştir. Siber güvenlik, ülkelerin savunma stratejilerinde yeni bir önemli unsur olarak kabul edilmeye başlanmış ve pek çok ülke, kamu ve özel sektör, siber savunma alanında önemli adımlar atmış ve atmaya devam etmektedir. Bilgisayar ağları üzerinde meydana gelen saldırılardan korunmak ve mümkün olduğunca engellemek için, Saldırı Tespit Sistemlerinin kullanılması verilerin güvenlik altına alınmasında en önemli konulardan biri olduğu değerlendirilmiştir. Bu kapsamda, tez çalışmasında saldırı tespit sistemleri üzerine yapılmış çalışmalar titizlikle incelenmiş ve UNSW-NB15 veri seti kullanılarak Lojistik regresyon, K-en yakın komşu algoritması, Destek Vektör Makineleri, Naive Bayes, Karar Ağacı ve Rastgele Orman Algoritması gibi makine öğrenimi yöntemleri eğitim ve test aşamalarına tabi tutulmuştur. Eğitim aşamasında kullanılan makine öğrenimi yöntemlerine normal ağ trafiği öğretilmiş ve bu bilgilerle bir referans model oluşturulmuştur. Test aşamasında ise, oluşturulan model ağ trafiğini izleyerek anormal aktiviteleri tespit etmeye çalışır. Eğer sistem, belirlenen normal davranıştan sapmalar tespit ederse, potansiyel bir saldırı veya tehdit olduğunu değerlendirir. Son olarak algoritmaların anomali trafiğin tespit edilmesindeki başarı oranları, karışıklık matrisi kullanılarak değerlendirilmiştir.
Evaluating the use of neural ranking methods in search engines
Bir arama motoru, en alakalı belgeleri ölçeklenebilir bir zamanda alabilmeli, etkinlik ve verimlilik arasında bir denge kurmalıdır. Son zamanlardaki derin öğrenme tabanlı sıralayıcı yöntemlerinin etkili olduğu kanıtlanmıştır ve alaka ölçütlerinde en son teknolojiyi oluşturmaktadır. Ancak, dizin tabanlı alma yöntemlerinin aksine, BERT gibi sinirsel sıralayıcılar büyük veri kümelerine ölçeklenemez. Bu tezde, standart bir ters indekslemeyi değiştirilmeden kullanılabilecek bir sorgu terimi ağırlıklandırma yöntemi öneriyoruz. Sorgu terim ağırlıkları, ikili sıralama kaybı kullanılarak her sorgu için alakalı ve alakasız belge çiftleri kullanılarak eğitilir. Öğrenilen ağırlıkların, bu görev için daha önce kullanılan terim hatırlama değerlerinden daha etkili olduğu kanıtlanmıştır. Ayrıca, bu ağırlıkların bir BERT regresyon modeli ile tahmin edilebileceğini ve hem BM25 tabanlı bir indeksin hem de bir terim ağırlıklandırma fonksiyonu ile halihazırda optimize edilmiş bir indeksin performansını iyileştirdiğini gösteriyoruz. Ek olarak, belge alma görevleri için terim sıklıklarını değiştirerek veya belgeleri genişleterek çalışan literatürdeki belge terimi ağırlıklandırma yöntemlerini inceliyoruz. Belge terimleri için terim frekansları yerine belge hakkındaki bağlamsal bilginin yardımıyla ağırlıkları tahmin etmek, alma ve sıralama performansını önemli ölçüde artırır.
Offensive language detection in Turkish Twitter data with BERT models
As insulting statements become more frequent on online platforms, these negative statements create a reaction and disturb the peace of society. Identifying these expressions as early as possible is important to protect the victims. Offensive language detection research has been increasing in recent years. Offensive Language Identification Dataset (OLID) was introduced to facilitate research on this topic. Examples in OLID were retrieved from Twitter and annotated manually. Offensive Language Identification Task comprises three subtasks. In Subtask A, the goal is to discriminate the data as offensive or non-offensive. Data is offensive if it contains insults, threats, or profanity. Five languages datasets, including Turkish, were offered for this task. The other two subtasks focus on categorizing offense types (Subtask B) and targets (Subtask C). The last two subtasks mainly focus on English. This study explores the effects of the usage of Bidirectional Encoder Representations from Transformers (BERT) models and fine-tuning methods on offensive language detection on Turkish Twitter data. The BERT models that we use are pre-trained in Turkish corpora. Our fine-tuning methods are designed by considering the Turkish language and Twitter data. The importance of the pre-trained BERT model in a downstream task is emphasized. In addition, experiments with classical models are conducted, such as logistic regression, decision tree, random forest, and support vector machine (SVM).
Keyframe extraction using linear rotation invariant coordinates
Today, with the improvements in the processing power of video cards, SOC hardware, and smartphones, the use of 3D motion data has expanded considerably beyond video games. At the same time, through these developments, the use of computer animation also increased along with the rapid progress in areas such as augmented reality, virtual reality, and video editing software. Keyframe extraction is a widely applied remedy for issues faced with 3D motion capture based computer animation. In this work, we propose a novel keyframe extraction method. In this method, firstly the skeletal motion is represented in linear rotation invariant (LRI) coordinates. This representation creates a mesh with joint positions of the related frame in the skeletal motion and then applies the transformation of the LRI coordinates. Afterwards, by performing dimension reduction using PCA, the dimensions covering 95% of the data are automatically selected and the summary data is thus acquired. Then, by applying K-means classification, the summary data is divided into clusters and a keyframe is extracted from each cluster using the cosine similarity measure. To validate the results of our proposed method, we conducted an online user study. The results of the study show that 45% of the participants preferred the keyframes extracted using our LRI-based method, surpassing the alternative by 6%.
Bir füze sisteminin gürbüz kontrolü
Missiles, known for their high agility and fast speed, are becoming increasingly important for defense purposes and they are frequently encountered, especially in air defense scenarios. In an air defense scenario, the missile is guided towards the target with the goal of intersecting the target's trajectory as quickly as possible or minimizing the deviation that will occur at the intersection point. Since these trajectories are produced in the missile guidance unit, this unit is vital to achieving the expected results from the missile. For years, intensive studies on this unit have been carried out by using different control methods, intelligent approaches as well as classical guidance laws. Within this thesis, novel alternative structures are developed based on robust control methodologies with the purpose of designing the guidance laws that demand more than enough high accuracy in a short, finite amount of time. The first structure is based on two conventional control methods, which are the proportional-integral-derivative (PID) and the sliding mode control (SMC), while two traditional guidance controls, the Proportional Navigation (PN) guidance law and the Augmented Proportional Navigation (APN) guidance law, are designed for comparison of results. In the second structure, a novel composite 3D guidance law based on an adaptive integral sliding mode (AISM) control method utilizing a nonlinear disturbance observer technique is proposed for missiles. Firstly, the integral sliding mode control is proposed to get rid of the reaching phase of traditional SMC, as well as the adaptive law is used to design without the upper bound of the target information. Moreover, the NDOB is designed to estimate the target acceleration by handling as the disturbance to minimize the chattering phenomenon. The third proposed new guidance law includes a high-order sliding mode control technique that utilizes an adaptive algorithm and fuzzy gain scheduling to obtain its parameters online. In this guidance law, the super-twisting sliding mode guidance law, which is a high-order sliding mode control technique, is designed to overcome the chattering phenomenon, and also an adaptive law and fuzzy control are used to determine the controller parameters and gains. Stability analyzes of the proposed guidance laws are performed using the Lyapunov method. In the last structure, a new law based on the APN guidance law utilizing an NDOB technique is proposed. Thus, a different approach has been brought to classical guidance law. Here, an NDOB technique is used to obtain the target acceleration, and so when designing the APN guidance law, it can be designed without the need for target acceleration information. Through numerical simulations, all designed and proposed guidance laws are evaluated and compared with different guidance laws according to several cases of the target. In addition, all guidance laws are evaluated in terms of the miss distance and interception time, and the results are presented. Throughout this thesis, it was clearly observed that the proposed guidance laws outperform the other schemes regarding the miss distance and interception time.
Yüksek seviyede sentezlemede eniyileme yöntemleri
Continuous decrease in the transistor technology sizes has enabled much denser packaging of electronic components on chips, which has resulted in integrated circuits with more functionalities and lower costs. However, it has also given rise to new issues and challenges in the integrated circuit design process, including higher vulnerability to soft errors. Modular hardware redundancy is a popular method for improving the reliability of a system against errors at the cost of increasing area and energy consumption. Voltage scaling methods can be employed to tackle high energy costs; however, these approaches also negatively affect a circuit's reliability and performance. Therefore, designing circuits with all these conflicting parameters is a very challenging task. In this study, we employ two optimization approaches: mathematical programming and metaheuristic algorithms for designing integrated circuits with several conflicting parameters. Mathematical programming approaches guarantee the generation of the optimal solutions; however, they are usually highly impractical for complex real-life problems due to their high computational complexity and unrealistically long running times. Nevertheless, the optimal solutions obtained for relatively small problem sizes are useful for testing the performance of other (meta)heuristic methods that solve the same problem in much faster execution times, although without any guarantees about solution optimality. In this thesis, we propose integer linear programming (ILP)-based and simulated annealing (SA)-based high-level synthesis (HLS) methods to optimize both reliability and energy of the final circuit designs under the area and latency constraints. Our models employ full and partial resource duplication (modular redundancy) to improve the system reliability as long as the area constraint permits. They also utilize voltage islands as the energy reduction method of choice. This problem is even more interesting and complex because our resource library is characterized under multiple supply voltages. We use different versions of the same resources with different area, latency, reliability, and energy values. Although this affects the execution time of the proposed methods, it also gives us more design options. We compared and showed the effectiveness of our methods against a genetic algorithm (GA)-based method on several HLS benchmarks. The ILP-based methods return the optimum results for smaller problem sizes and most of the time for larger problem sizes under the given time limits. In contrast, the SA-based methods outperform the GA-based methods and generate optimal or acceptably near-optimal results for all benchmarks in much faster running times.
Leveraging semantic saliency maps for query-specific video summarization
Automatic video summarization is a technique that allows us to easily understand and analyze large amount of visual data. Methods in the literature do this by dividing the video into certain parts and assigning a significance value to these parts. In query-based summary extraction, how query terms can be included in the importance value has been investigated. In this study, it was investigated which criteria could be effective in assigning importance value in query-based summarization, and it is suggested that semantic attributes and visual salience maps could contribute. In addition, these concepts are also included in the query terms, since the query terms may be the place where the activity is carried out or the actor performing the activity, rather than just some activities. In the experiments, it has been observed that the inclusion of semantic and visual saliency maps in the diversity term, which is one of the 3 functions included in the optimization, makes a positive contribution. Two other functions considered in optimization are representation and query term relevance. In short, with the thought that the places people look at the video may change when they view the video within a certain task (Task-Oriented Attention), it is useful i to predetermine the relevant parts in the video and to give extra weight to these sections in the summaries. Detailed experiments and visual results on two large datasets have demonstrated the correctness of the proposed hypothesis.
Makine öğrenmesi yaklaşımıyla Borsa İstanbul'da işlem bazlı manipülasyonların tespiti
Capital markets, one of the pillars of the financial system, play a vital role in transferring the excess funds of savers to investors who need funds in the medium and long term. Trust is essential for the safe and effective operation of capital markets and for the healthy transfer of resources from those who supply funds to those who request them. The capital market is constantly regulated and supervised in order to ensure it functions and develops in a reliable, transparent, efficient, stable, fair, and competitive environment and to protect the rights and interests of investors. Manipulation, which prevents the capital market from operating regularly within trust and transparency norms, is an important issue that should be considered both for individual investors who offer funds to the securities markets and for companies that request funds by issuing stocks. This study examines the trade-based manipulations in Borsa Istanbul (BIST). Data on stocks that were manipulated between 2010 and 2015 were used in BIST, and a model consisting of supervised machine learning classification techniques and artificial neural networks was proposed to detect trade-based manipulation from the daily data of manipulated stocks. It has been shown that the proposed model is successful in detecting trade-based manipulations in the stock market based on accuracy, sensitivity, and f1 scores. Experimental results show that an f1 score of 0.86, a sensitivity of 0.87, and an accuracy of 0.89 in market manipulation detection were achieved. With this study, the manipulation in the stock market, the biggest obstacle for investors to make safe investments in the capital markets, will be minimized and the principles of transparency and trust, essential for the formation and development of the capital market, will be established. In addition, due to the success achieved in market manipulation detection, our study will benefit regulators especially in detecting stock market manipulation.
MiWGAN-GP: missing data imputation using Wasserstein generative adversarial nets with gradient penalty
The success and dependability of IoT applications are heavily dependent on data quality. Due to hardware problems, synchronization challenges, inconsistent network connectivity, and manual system shutdown, produced data might be missing, erroneous, and noisy. These missing or erroneous values can also occur on health, military and surveillance data and result in errors can also cause important errors in mission systems. If the mission critical system is used in medical domain such missing data problems may affect human life. Hence, Missing values should be imputed appropriately to avoid erroneous judgments in IoT healthcare systems and other critical systems. In addition, Naive Bayes, K-Nearest Neighbors, Decision Tree and XGboost algorithms are applied in the IoT health sector in this study to show in detail the effect of missing data on the outputs of machine learning algorithms. Following that, we compare different strategies for imputing missing data. The classification methods used were compared both for each defect percentage and with different imputation methods. In this thesis, a new GAN-based approach is proposed to complete the missing data. The success of the proposed method is compared with classical imputation methods. Error measurements are realized with four different error metrics. In addition, the success of the proposed GAN-based model is demonstrated by applying different classification methods on the data set filled with this method.
A decision analysis approach for selecting software defect prediction method in the early phases
Considering that software usage rates have increased, it is inevitable for end-users to prefer high-quality software products. Undoubtedly, one of the most important quality indicators of a software product is its defect rate. With the widespread use of methods and tools that support estimation tasks in software engineering, the interest in software defect prediction is increasing. Currently, most defect prediction models are built using the metrics from the coding phase. This situation leads to the inability to process the information belonging to the early stages of the software development life cycle such as requirements analysis or design, thus not being able to benefit from preventive actions such as cost reduction and effective resource planning in the early stages. Eventually, it becomes important for stakeholders to build the desired defect prediction model as early as possible and to use it throughout the software development life cycle. When the proliferation of methods of data science in software engineering is combined with the shortage of knowledge to use them in industry, an important need arises to guide practitioners in selecting the best-fit methods by considering their specific needs. This thesis presents research aimed at addressing the method selection problem in software defect prediction during the early phases of the life cycle by using a formal decision analysis process. A two-phase decision analysis approach was proposed that is structured using a decision tree and multi-criteria decision analysis (MCDA) methodologies. In doing so, an extensive literature review was conducted to obtain a general view of the characteristics and usefulness of Early Software Defect Prediction (ESDP) models reported in scientific literature. As a result, the most preferred prediction methods, metrics, datasets, and performance evaluation methods, as well as the addressed SDLC phases were highlighted. Accordingly, the alternatives to be evaluated in the decision analysis and the criteria that may have an impact on the decision of method selection were systematically determined. To strengthen the knowledge, two different expert opinion surveys were conducted. Besides, to manage the operation of the decision analysis process, a questionnaire is proposed to reveal stakeholder needs and dataset characteristics. After, several case studies were performed to investigate the trustworthiness of the proposed approach with selected SDP methods using public datasets. The most convenient methods proposed by the decision analysis are Naïve Bayes (NB), Decision Tree (DT), and Fuzzy Logic-based methods for the case studies. It is concluded that the results of the decision analysis are consistent with both the results of the empirical evidence of the experiments conducted in the thesis and the results reported in the scientific literature. Overall, the presented approach could be useful in helping software practitioners decide which SDP method is advantageous by revealing their specific requirements for the software projects and associated defect data. While the results of this thesis provide guidance for future research on the context of ESDP, further studies on different software projects are necessary in order to expand knowledge prior to having decisions that are more reliable.
Optimization methodology for application mapping in wireless network-on-chip
Network-on-Chip is a novel communication technology that has replaced the traditional bus-based or point-to-point communication methods between the electronic components to allow for faster and more energy-efficient communication in a system. Nevertheless, in NoC, some communicating components may be too far from each other, making the multi-hop communication between such cores inefficient in terms of high latency and energy consumption. As a solution to shorten the hop count between such components, wireless connections between tiles were introduced, leading to Wireless Network-on-Chip architectures that enable higher scalability and bandwidth along with lower communication latency and energy consumption than traditional NoC by reducing communication distance between faraway points to a single-hop wireless interconnect. However, there are still some important challenges for WiNoC design related to the application mapping, routing, and integration of wireless routers, such as the complexity of hardware or power overhead. The application mapping to multiple cores is an NP-hard problem. Although there are several successful mapping algorithms for NoCs, the literature lacks the optimal mapping techniques for hybrid WiNoCs. In this study, we present quadratic programming-based and simulated annealing-based application mapping methods for hybrid WiNoC mesh topologies. The QP-based model gives us optimal solutions with high computational complexity for smaller problem sizes, while our metaheuristic SA-based method provides optimal or near-optimal results in realistic runtimes for bigger problem sizes. Our methods take the application graph and the hybrid 2D WiNoC mesh topology, where some routers communicate through wireless links as inputs and generate the optimal application mapping with the objective to minimize the communication energy consumption of the application. Our proposed QP-based model generates the optimal solutions in faster execution times, while the proposed metaheuristic SA-based application mapping method is able to generate optimal or near-optimal solutions for most of the test cases for relatively smaller benchmark sizes with slower performance than the QP-based method. For bigger problem sizes, the QP-based method cannot finish execution in acceptable running times. We also investigated the effects of different wired-to-wireless communication cost ratios on the overall communication cost in hybrid WiNoCs.
Recognizing human actions from images with attention mechanism
Human action recognition in still images is a challenging problem due to the lack of complete motion compared to videos. A single snippet of the ongoing action does not compete with the rich information provided by a video. In this thesis, we explore combining the surrounding information with two different attentional multiple instance mechanisms. The surrounding objects and scene clues are essential in still image action recognition. However, detecting every object is not feasible. For this reason, we employ two different attention mechanisms on possible action related regions proposed by a region proposal network. The first attention layer is the bottom-up attention layer. It learns a spatial attention map to refine each proposal according to ongoing action. It eliminates the background and highlights only the foreground and the pixels related to the action. Our experiments show that the bottom-up attention layer increases the models' accuracy. Visual analysis of the highlighted areas shows that it successfully finds action related objects, scene clues and poselets. The second attention layer is the top-down attention layer. It learns to select which region proposals are related to the ongoing action. There may be multiple action related clues in an image, and the bottom-up attention layer can highlight multiple image regions. However, the selection of related proposals is the top-down attention layers task. It learns to select regions and combines region features to create a single image-level descriptor. Our experiments show that the top-down attention layer successfully selects the related regions to boost the overall performance. Our proposed model can be plugged after any region proposal network and allows end-to-end learning. This way, the network simultaneously learns to propose action related regions, weights each region with an action attention map and selects and combines these regions into an image feature vector. As a result, our model improved the state-of-the-art average precision on four different datasets.
A 3D video quality evaluation model that provides high depth perception satisfaction and efficient transmission channel use based on depth cues
In the field of Computer Vision, where scientific research and academic studies are accelerating, the popularity of applications based on the use of 3 Dimensional (3D) videos is increasing day by day. There are many variables that determine the quality of 3D videos such as indoor-outdoor differences and environmental factors. In this context, it is essential to develop new methods for quality evaluation of 3D videos to be used in modern applications to provide high depth satisfaction and efficient transmission channel use. In this thesis, a dynamic, adaptive, and No Reference (NR), which does not require any reference video, 3D video quality assessment model is proposed that aims to increase depth perception satisfaction in viewers by taking into account the Human Visual System (HVS) characteristics. The proposed model is based on measurement methods derived from the color images and/or the depth maps that make up the 3D videos. In this study, where utmost importance was given to the use of deep learning-based approaches, Pix2Pix model was used for the Aerial Perspective (AP) measurement method, RAFT model was used for the Motion Information (MI) measurement method, and YOLOv8 model was used for the Retinal Image Size (RIS) and Convergence (CONV) measurement methods. Although all methods are performed on color videos, depth maps are also included in the calculations in RIS and CONV methods. As a result of the studies conducted, all outputs of the proposed methods were obtained to fulfil the expected results and the thesis work was successfully completed.
Test description generation from software requirements and performance analysis: Application of advanced NLP models
Software testing is of critical importance in the software development life cycle. It is a process that verifies whether software provides the specified functionality, performance, and quality. Software testing enables early detection of errors, providing opportunities to intervene at a stage when their correction is more feasible, thus preventing unnecessary interruptions in the development process. In addition, well tested software reduces extended support and maintenance costs for the customer, and long-term use result in lower maintenance costs and legal risks. In other words, software testing increases the quality of software while reduces costs. However, performing tests alone is not enough for an effective testing process; it requires quality test descriptions that detail the tests. Test descriptions standardize testing processes, record possible test scenarios, and present expected test results. Writing a test description is a time-consuming process that requires expertise and is open to human error. Therefore, it has become a necessary for test descriptions to be automatically generated independently of the person, quickly, and accurately. In this thesis, it is aimed to produce test descriptions from software requirements in a faster and higher quality manner using NLP models, which are among the pre-trained models in the literature that have been fine-tuned with the prepared datasets. As a result of the studies and analyses, it has been observed that it is possible to create a test description from software requirements faster and higher-quality.
DDoS attack detection using machine learning and deep learning methods
Ağ altyapısının güvenliği ve istikrarı, Dağıtılmış Hizmet Reddi (DDoS) saldırıları nedeniyle ciddi şekilde tehdit edilmektedir. Bu saldırılar giderek daha karmaşık hale geldikçe, tehditleri anında tanıyabilen ve etkisiz hale getirebilen gelişmiş tespit sistemlerine olan talep artıyor. Bu tezde, CSE-CIC-IDS2018 veri kümesi, DDoS saldırılarının tespitinde makine öğrenimi ve derin öğrenme yöntemlerinin uygulanmasını incelemek için kullanılmıştır. Bu çalışmada, iki derin öğrenme modelinin: Yapay Sinir Ağları (ANN) ve Uzun Kısa Süreli Bellek (LSTM) ağları ile iki makine öğrenme algoritmasının: Rastgele Orman ve Destek Vektör Makinesi (SVM) DDoS saldırılarını ne kadar iyi tanımladığını araştırıyoruz. CSE-CIC-IDS2018 veri kümesinden yararlı özellikler çıkarmak için iki özellik seçme tekniği: model performansını en üst düzeye çıkarmak için bilgi kazanımı ve korelasyon kullanıldı. Her model, zararlı ve yasal trafik arasında ayrım yapma hassasiyetine göre eğitim ve değerlendirmeyi tamamlar. Bulgular, derin öğrenme modellerinin (özellikle LSTM) ağ verilerinde mevcut zamansal kalıpları belirlemede çok iyi performans gösterdiğini ve bunun da zamanın kritik olduğu durumlarda tespit oranlarını artırdığını gösteriyor. Öte yandan, Rastgele Orman ve SVM modelleri, algılama doğruluğu ile hesaplama ekonomisi arasında bir uzlaşma sunarak tasarlanmış özelliklerle güçlü bir performans sunuyordu. Bu modellerin karşılaştırmalı bir çalışması, DDoS tespiti ile ilgili avantajlarını ve dezavantajlarını ortaya çıkararak, daha ileri araştırmalar ve gerçek dünyadaki siber güvenlik uygulamaları için önemli yeni bilgiler sunar. DDoS saldırı tespiti için modern makine öğrenimi ve derin öğrenme yöntemlerinin kapsamlı bir değerlendirmesini sunan bu tez, siber güvenlik konusunu ilerletmekte ve çeşitli ağ tabanlı saldırı türlerini içerecek şekilde genişletilebilecek bir çerçeve sunmaktadır. Anahtar Kelimeler: derin öğrenme, makine öğrenmesi, ddos atak, ddos atak tespiti
Generating illustrations for children books using generative adversarial networks
This thesis presents a very first method to create children illustration book images. Our method takes edge maps or sketches as input and generates images and/or videos stylized by the selected illustrator. To achieve this, we developed three novel models; an image colorization, an image stylization and a video translation model. Our proposed sketch to image translation model integrates an adversarial segmentation loss to baseline methods which improves the FID and mIoU scores greatly. We show that although the current state-of-the-art image-to-image translation models successfully transfer either the style or the content, they fail to transfer both at the same time. We propose a new generator network to address this issue and show that the resulting network strikes a better balance between style and content. Current video-to-video translation methods build on an image-to-image translation model, and integrate additional networks such as optical flow, or temporal predictors to capture temporal relations. These additional networks complicate and slow down the model training and inference. We propose a new method for ensuring temporal coherency in video-to-video style transfer. We propose a new generator network with feature warping layers to overcome the limitations of the previous methods. Even though, current state-of-the-art image stylization models could generate highly artistic images, quantitative evaluation of them is still an open problem. We propose a new evaluation framework which considers both content and style transfer aspect of an image stylization model. To train these three models, we collected a unique illustration dataset. Our dataset contains more than 10,000 illustrations from 26 different illustrators. It also contains object level bounding box annotations. In its current form it is the first large scale illustration image dataset. We conduct in depth analysis to show that the dataset is challenging.
A sample verification and validation framework for open source simulation software
Verification and Validation (V&V) activities performed in the life cycle of a software project are necessary to meet technical specifications and requirements. Likewise, V&V activities in a simulation project's life cycle have a critical role in ensuring the validity of the relevant model. Accordingly, these activities must be carried out successfully in order to determine the consistency of the simulation model that is being developed with its real or hypothetical system. To achieve this, it is expected that the most suitable V&V methods are to be evaluated, selected and then applied within the scope of the simulation project. Until recently, various V&V methods have been produced and made available for using at certain stages of the software cycle. Unfortunately, it is not possible to apply so many methods at the same time, considering such project constraints as time and resources. Therefore, in the field of Modeling and Simulation, selection and application of V&V methods in a proper and efficient way for the project in question poses a big problem. In the present study, upon reviewing the existing literature on the subject, the missing aspects crucial for the selection of the suitable V&V techniques were examined first. Afterwards, a sample framework that can guide the selection of the most appropriate methods for the V&V processes of simulations has been offered. The current study made use of score-based method selection processes rather than the traditional method selection techniques, by taking requirements and metrics of the relevant simulation project into account. The proposed framework was applied using open source simulation software project data. And the practical results show that the framework developed in this study significantly optimizes the V&V method selection process compared to general-purpose method selection techniques.
Developing a Turkish sentiment lexicon using tone distributions
With the developing technology and increasing use of the internet, many sources of data have been exposed to researchers. Analysis and extraction of meaningful information from this data is a research topic under the field of natural language processing. Sentiment analysis which is a sub-field of NLP evaluates the content of data with respect to the opinion it conveys as one of positive or negative. Most sentiment analysis research is done using one of two approaches: lexicon based and machine learning based. Lexicon based approach needs a dictionary of positive and negative words which is then used to evaluate a text. Although there are abundance of studies in English, the same can not be claimed for Turkish. Therefore, in our study, we focus on constructing a comprehensive and accurate Turkish sentiment lexicon. In this paper, we aim to develop a Turkish sentiment lexicon with a novel methodology: using statistical tone density functions computed using a very large document corpus obtained from mainstream Turkish news agencies. In this way, for the first time in the literature, a Turkish sentiment lexicon is created by using this method. The lexicon not only assigns tone values instead of boolean polarities, but also provides sharper tones which is usually not possible with other approaches in the literature. We evaluate the performance of this lexicon in comparison with similar lexicons in the literature. Results show that the constructed sentiment lexicon in this study achieves a comparable performance and poses many potential improvement possibilities. Keywords: Sentiment analysis, Natural Language Processing, lexicon, polarity, statistical distribution
Monocular depth estimation with self-supervised representation learning
Many representation and modalities are developed for better scene understanding as images, videos, point clouds, etc. In this thesis, we intentionally characterize scene representation as depth maps in order to leverage rich 3D information and to develop strong priors over the scene. Gathering ground truth for depth estimation task is burdensome. To alleviate this supervision, novel view synthesis is employed as a proxy task to solve the depth estimation task within the Structure-from-motion (SfM) framework. Besides, self-supervised representation learning for depth estimation is not studied extensively, and the current state of self-supervised representation learning signals that there will be no dependence on ground truth annotations for training at all. Combining two paradigms is a way of improving representations for better scene understanding that leads to better practical developments. Specifically, we propose {\em TripleDNet (Disentangled Distilled Depth Network)}, a multi-objective, distillation-based framework for purely self-supervised depth estimation. Structure-from-motion-based depth prediction models utilize self-supervision while processing consecutive frames in a monocular depth estimation manner. Static world and illumination constancy assumptions do not hold and allow wrong signals to the training procedure, leading to poor performance. Masking out those parts hurts the integrity of the image structure. In order to compensate side effects of previous approaches, we add further objectives to SfM based estimation to constrain the solution space and to allow feature space disentanglement within an efficient and simple architecture. In addition, we propose a knowledge distillation objective that benefits depth estimation in terms of scene context and structure. Surprisingly, we also found out that self-supervised image representation learning frameworks for model initialization outperforms supervised counterparts. Experimental results show that proposed models trained purely in a self-supervised fashion outperform state-of-the-art models on the KITTI and Make3D datasets compared to models utilizing ground truth segmentation maps and feature metric loss compared to supervised counterparts. Experimental result shows that models trained without any ground truth knowledge, or with any prior based on ground truth, outperform models on the KITTI and Make3D datasets on many metrics.
The relationship of cybersickness with eye and brain activity in response to varying speed, scene complexity and stereoscopic VR cues
In this study, our aim is to make an evaluation of the interplay between environment-based cues, namely speed, scene complexity and stereoscopic rendering parameters, and the discomfort felt in the form of cybersickness due to VR experience with head-mounted-displays. This study provides a broad and combined analysis of these cues in a fully controlled VE. The effects were investigated using the EEG and Eye tracking data as well as the self-reported discomfort measures collected from the participants. The statistical analysis reveals connections between cybersickness and the collected biometric markers. It also reveals the biometric response differs with the type of stimulus causing the cybersickness, implying detection of the cause is possible by examining biometric data.
Neural semanti̇c parsing, annotation and evaluation for Turkish
Semantic representation is a way of expressing the meaning of a text that can be processed by a machine to serve a particular natural language processing (NLP) task. Universal Conceptual Cognitive Annotation (UCCA) is one such semantic representation form that is both cognitively and linguistically inspired. UCCA represents the meaning of a text with a directed acyclic graph (DAG) whose nodes can be either terminal or non-terminal nodes, where terminal nodes correspond to tokens and multi-tokens in the text, non-terminal nodes comprise several tokens that are jointly viewed as a single entity according to some semantic or cognitive consideration, and edges indicate the role of a child in a relation. In this thesis, there are three research paths within UCCA representation especially for Turkish language: semantic parsing, data annotation, and evaluation of UCCA representation as extrinsic evaluation in other NLP problems. In the first part of the thesis, we present supervised deep learning-based parsing models, which are transition and graph-based approaches, to better analyze the approaches for UCCA representation. We also present an unsupervised deep learning model that leverages pre-trained language models (PLM) as an external knowledge source. In the second part of the thesis, we present a Turkish UCCA-annotated dataset, that is built using the proposed graph-based semantic parser in a semi-automatic pipeline. Finally, we investigate using UCCA for other NLP tasks including Semantic Textual Similarity (STS), text classification, and question answering (QA) as extrinsic evaluation of UCCA representation. It is therefore reasonable to ask whether we can improve the performance of NLP tasks by using semantic information in the form of UCCA representation. In conclusion, the results show that semantic information in the form of UCCA representation improves performance in NLP tasks, especially in tasks that require more semantic information, such as QA.
Flight maneuver classification using artificial neural networks
There are globally known basic flight maneuvers performed by fighter and aerobatics pilots with agile aircraft. These basic flight maneuvers have strict rules that the pilots should follow to complete the maneuver and can be used to evaluate the pilot's or aircraft's capabilities. Flight data is classified into flight maneuvers by aviation professionals before evaluation. The need for this classification created a research area to be filled: Automatic flight maneuver classification. This study proposes a solution to the automatic flight maneuver classification problem by exploiting artificial neural networks. It also contributes a flight maneuver classification dataset to the literature. This dataset was generated using professional flight simulation tools. The flight data attributes were evaluated and selected to give the optimum performance in terms of accuracy, precision, and recall. The types of artificial neural networks used and compared were single hidden layer neural networks, deep neural networks, and recurrent neural networks. Combinations of these types, activation functions, optimization methods, and gradient descent algorithms were tested against the problem to maximize the performance of the solution. There are no secondary studies on the subject of flight maneuver classification and this study also fills this gap by contributing a systematic literature review on "flight maneuver classification using machine learning imethods". The solution proposed by this study successfully classified ten distinct flight maneuvers such as basic descent and ascent, but also more complex ones such as Immelman, split-s, and lazy-eight. The results were evaluated by calculating accuracy, precision, recall, and loss parameters on test data. The best-performing artificial neural network type, which is deep neural networks, gave over 96 percent accuracy and less than 0.1 loss in the test set. All the artificial neural network types and solutions gave over 90 percent accuracy with correctly chosen attributes. This study also contributed a software program that classifies the flight maneuver in real-time while the flight maneuver is being performed in a simulation. It was seen that this software was also accurately predicting the pilots' intended maneuvers in real-time.
Model robustness in data-scarce regimes and the effect of frequency perturbations
The last decade has witnessed the meteoric rise of data-driven methods, which has been elevated to new heights thanks to the availability of powerful hardware and abundant data. Despite their swift ascension, deep learning methods are repeatedly shown to have robustness problems; they can be tricked into making errors with minor changes in the input that are invisible to us humans, or they can not withstand certain failure modes common in real-life scenarios. This thesis focuses on the robust generalization problem, where two primary aims drive our research effort. First, inspired from the surprising lack of thorough discussions on robust generalization in data-scarce regimes, we perform an exhaustive analyses on the robustness behaviour of models trained in zero-shot learning settings. We first show that discriminative zero-shot models have distinct robustness characteristics against adversaries, such as unseen and seen classes being affected disproportionately, the effect of original model accuracy and the stark differences between how zero-shot and generalized zero-shot accuracies degrade. We also identify the unique pseudo-robustness effect caused by adversaries, where models might be falsely declared as robust. We then extend our analyses to a more practical scenario, where images are corrupted with common image corruptions. We curate and present the first three datasets for corruption robustness analyses in the zero-shot literature. Using these datasets, we provide a set of rigorous analyses with a wider range of zero-shot models to assess their robustness against corruptions. Our results show that with key augmentation choices, we can improve the performance profiles of various models. Finally, we aggregate the results of adversarial and corruption robustness behaviours of zero-shot models and conclude with a thorough comparison. Second, inspired by the fundamental techniques in image processing, we focus on using frequency-spectra information to improve model robustness. Assuming that the true label information of an image resides in its low-frequency components, we propose HybridAugment where images are augmented by randomly swapping their high-frequency component with other images. This augmentation is implemented in tandem with existing augmentations, and enforces the network to be less reliant on high-frequency information, which is a prime reason for model robustness issues. We then propose two variants of HybridAugment, where single or multiple image settings are used to perform the augmentation. With single and multi image augmentations being used at the same time, the results are further improved. Finally, inspired by the two orthogonal frequency-centric analyses (i.e. frequency bands and phase/amplitude decomposition) and the need to unify them, we propose HybridAugment++ that performs a hierarchical augmentation in the frequency-spectra. In addition to swapping low and high-frequency components of images, HybridAugment++ also swaps phase and amplitude of random images, but does so only on the low-frequency components. HybridAugment++, with its single and paired variants working in tandem, achieves state-of-the-art results in multiple benchmark datasets, showing its effectiveness.
Bilgisayarlı tomografi görüntülerinden travmatik olmayan omurga çökme kırıklarının tespiti için hibrit bir makine öğrenme yönteminin geliştirilmesi
Travmatik olmayan vertebral kompresyon fraktürleri, insan omurgasında sık görülen bir patolojik durumdur. Yaşla birlikte kemik kütlesinin azalması, travmatik olmayan vertebral kompresyon fraktürlerinin oluşmasına sebep olmaktadır. Travmatik olmayan vertebral kompresyon fraktürleri genellikle uzun süre semptomsuz kaldığı için bu dönemde erken teşhis, hastalığın ilerlememesini ve daha etkin tedavi olanağını sunmaktadır. Teşhis ve tedavi için hastalara ait radyolojik görüntülerden faydalanılmaktadır. Radyolojik görüntülerden elde edilen veri kümeleri günümüzde bilimsel gelişmelere önemli katkılar sağlamaktadır. Veri kümeleri, makine öğrenme yöntemleri kullanılarak sağlık alanında patolojik durumların segmentasyonu, yüksek doğruluk ve hassasiyetle tespiti, sınıflandırılması, hastalık tanısı için etkili çözümler oluşturmaktadır. Son yıllarda travmatik olmayan vertebral kompresyon fraktürlerinin tespiti araştırmalarında makine öğrenme yöntemleri daha sık kullanılmaya başlanmıştır. Bu tez çalışmasında, hastaların ham bilgisayarlı tomografi görüntü verileri işlenerek makine öğrenme yöntemlerinin uygulanması için özgün bir veri kümesi oluşturulmuştur. Özgün veri kümesi, İstanbul Üniversitesi-Cerrahpaşa, Cerrahpaşa Tıp Fakültesi Radyoloji Anabilim Dalı'nda bilgisayarlı tomografi ile radyolojik tanı alan hastaların retrospektif görüntülerinden sağlanmıştır. Tez kapsamında, görüntü özellikleri, VGG16 yöntemi ile çıkarılmış ve SVM yöntemi ile seçilmiştir. Yeni bir hibrit çekişmeli üretici Ağ -quantum evrişimli sinir ağı (QCNN) makine öğrenmesi sınıflandırma modeli geliştirilmiştir. Hibrit model oluşturulurken quantum özellikler, DenseNet121 ve GAN dan esinlenilmiştir. Model, oluşturulan veri kümesi ile test edilmiştir. Hibrit modelin özgün veri kümesini sınıflandırma sonuçları, DenseNet121, GAN, MobileNetV3, EfficientNetB1, VGG16 ve ResNet50V2 ile karşılaştırılmış ve bu sonuçlar tartışılmıştır.
Derin öğrenme ile proksimal femur kırıklarının tespiti ve sınıflandırılması
Proksimal femur kırıkları ve çıkıkları, doğru ve gerçek zamanlı tanı konulmadığı takdirde yaşlı hastalarda daha sık görülen mortaliteye, genç erişkin hastalarda ise topallamaya, çalışamamaya, spor yapamamaya yol açabildiği için en ciddi kırıklardan biridir. Yapay zekâ ve alt kategorileri olan makine öğrenmesi ve derin öğrenme, doktorların hastalıkları doğru ve zamanında teşhis etmelerini sağlamak amacıyla sağlık uygulamalarıyla birleştirildiğinde ortaya güzel sonuçlar çıkarmaktadır. Bu tezin temel amacı, poligon açıklamasıyla örnek segmentasyon görevini kullanarak çeşitli proksimal femur kırık türlerini X-ışını/röntgen üzerinde tespit etmektir. Bu tez çalışması için 756 adet X-ışını görüntüsünden oluşan bir veri seti kullanılmıştır. Bir danışman ve uzman ortopedi doktorunun gözetiminde örnek segmentasyon görevini gerçekleştirmek için görüntülere çokgen ek açıklaması kullanılarak manuel olarak açıklama eklendi. Veri setine açıklama eklemek için kullanılan etiketler kırık tipi (boyun, çıkık, büyük-trokanter, küçük-trokanter, intertrokanterik ve subtroknaterik) ve kırığı olmayanlar ile normaldi. Veri seti, eğitim için %70 ve doğrulama için %30'a bölündü. Modellerin performansını test etmek için modeller, X-ışını görüntülerinden önce görünmez olarak verilmişlerdir. Örnek segmentasyon görevini gerçekleştirmek için kullanılan modeller YOLOv5, YOLOv7, YOLOv8, Mask R-CNN (Detectron2) ve PointRend'dir. Sonuçlara göre, beş modelin tümü proksimal femur kırığının varlığını tespit edebildi ve sınıflandırabildi. Kutular için 0.5 (mAP50) olan Birleşim Üzerinden Kesişim (IoU) eşiğinin Ortalama Ortalama Tahmin (mAP) değerleri, sırasıyla YOLOv5, YOLOv7, YOLOv8, Mask R-CNN (Model3) ve PointRend (Model4) için 79.5%, 79.2%, 81.6%, 73.82% ve 73.67% olarak bulunmuştur. Maskeler için 0.5 (mAP50) olan Birleşim Üzerinden Kesişim (IoU) Ortalama Tahmin değerleri sırasıyla YOLOv5, YOLOv7, YOLOv8, Mask R-CNN (Model3) ve PointRend (Model4) için 80%, 78.8%, 81.7%, 74.05% ve 74.85% olarak bulunmuştur.
Arama motorları için derin öğrenme tabanlı sorgu önerisi çerçevesi
Çevrimiçi dünyada yer alan bilgi sayısında meydana gelen büyüme ve kullanıcı sayısının artışıyla birlikte bilgiye erişim için arama motorlarının kullanımı giderek yaygınlaşmaya başlamıştır. Bu artış daha fazla kullanıcıyı arama motorlarını kullanmaya teşvik etmiştir. Bu durumla birlikte kullanıcıların sorgu karmaşıklıkları artmaya başlamıştır. Aynı zamanda arama motorlarını kullanıcıların deneyimini iyileştirmek için sorgu önerilerinde bulunmaya ve bu önerileri iyileştirmeye teşvik etmiştir. Günümüze dek sorgu önerisi görevine özgü olarak pek çok farklı yöntem oluşturularak kullanılmıştır. Fakat kullanılan çoğu yöntem, kullanıcıların isteklerini ve aramanın bağlamını tam olarak anlamaktan uzaktır. Hedef sorguların belirlenmesi sorgu önerilerinin doğası gereği oldukça zor bir konudur. Kullanıcı aramalarının altındaki gerçek anlamların yakalanması kullanıcılara doğru ve etkili sorgu önerileri sunmak için oldukça önemlidir. Dönüştürücü mimarileri, çok çeşitli doğal dil işleme görevi için oldukça iyi performans sergilemektedir ve dil ile ilgili problemlerdeki derin anlamları yakalamak için oldukça kullanışlıdır. Dönüştürücüler, sıralı veriler içindeki bağlamsal ilişkileri yakalamak için kişisel dikkat mekanizmasını kullanan derin sinir ağlarıdır. Bu tez çalışmasında, dönüştürücü tabanlı derin öğrenme mimarilerinin gücünden yararlanılarak sorgu önerisi için kullanıcının aramalarının altında yatan anlamlar ve oturumların bağlamı tespit edilmeye çalışılmıştır. Çalışmada sunulan "dönüştürücü tabanlı sorgu önerisi (TQS)" modeli, çeşitli geçmiş sorgu önerisi modelleri ile karşılaştırılmış ve sonuçlar sunulmuştur. Ayrıca elde edilen performans sonuçları, önerilen modelin eğitim aşamasının oldukça hızlı olduğunu göstermektedir.
Üretken çekişmeli ağ tabanlı tek görüntü üretim modellerinin tasarımı
Üretken Çekişmeli Ağ (ÜÇA)'lar kullanılarak tek bir doğal görüntüden görüntü üretimi, ÜÇA modellerinin foto-gerçekçi görüntüler üretmedeki yetenekleri ve bilgisayar görüsündeki potansiyel uygulamaları nedeniyle son zamanlarda yoğun ilgi çekmektedir. Bu tez çalışmasında, tek bir doğal eğitim görüntüsüne dayalı gerçekçi, yüksek kaliteli, farklı görüntü örnekleri üreten iki yeni koşulsuz ÜÇA modeli önerilmiş ve gerçeklenmiştir. Model 1, tek eğitim görüntüsü özelliklerini öğrenebilmek amacıyla hem üretici hem de ayırıcı sinir ağlarında öz-dikkat mekanizması, yoğun bağlantılı blok mimarisi ve gradyan cezalı göreceli ortalama en küçük kareler ÜÇA kayıp fonksiyonu bileşenlerinden yararlanmaktadır. Model 2, tek eğitim görüntüsünün gizli gösterim bilgisini etkili şekilde öğrenmektedir. Öğrenilen gizli gösterim kullanılarak Model 2 için özgün bir eğitim süreci geliştirilmiştir. Önerilen ÜÇA modellerinin performanslarını test etmek ve kapasitelerini göstermek amacıyla literatürde iyi bilinen tek görüntü ÜÇA modelleriyle nicel ve nitel karşılaştırmalar gerçekleştirilmiştir. Karşılaştırmalar, Places, LSUN ve ImageNet veri kümeleri üzerinde, görüntü kalitesini ve çeşitliliğini ölçen nicel ölçüm metrikleri kullanılarak; görüntü gerçekçiliğini ölçek amacıyla nitel kullanıcı çalışmaları oluşturularak yapılmıştır. Ek olarak önerilen ÜÇA modelleri görüntü manipülasyon uygulamalarında test edilmiştir. Yapılan deneylerde, önerilen ÜÇA modellerinin etkin parametre verimliliğine sahip olduğu, aşırı uyumu önlediği, karmaşık yapı ve dokulara sahip eğitim görüntülerin dahili yama istatistiklerini öğrenebildiği, tek görüntü üretim görevlerinde karşılaştırılabilir performans elde ettiği gözlemlenmiştir. Kullanıcı çalışmaları, önerilen ÜÇA modelleri tarafından sentezlenen görüntülerin genellikle tek eğitim görüntüsüyle karıştırıldığını doğrulamıştır. Bu doğrultuda tez çalışması kapsamında önerilen ÜÇA modelleri, sınırlı eğitim verileriyle uğraşan alanlarda veri artırmanın yanı sıra çeşitli görüntü işleme görevleri için güçlü bir araç olarak kullanılabilir. Nisan 2024 , 141 sayfa. Anahtar kelimeler: Tek Görüntü Üretimi, Üretken Çekişmeli Ağlar, Derin Öğrenme, Özdikkat mekanizması, DenseNet, ALI, Görüntü manipülasyonu
Operasyonel teknolojiler için güvenli mimari tasarımı
Operasyonel teknolojiler fiziksel çevre ile etkileşime giren veya etkileşime giren diğer cihazları yöneten alt sistemlerden ve cihazlardan oluşmaktadır. PURDUE mimarisi, bilgi teknolojisi (BT) ve operasyonel teknolojiyi (OT) entegre ederek, bu iki farklı teknolojinin güvenli ve uyumlu bir şekilde çalışmasını sağlayan kapsamlı bir mimari yapıdır. Operasyonel teknolojilerde sıklıkla tercih edilen PURDUE mimarisi, segmentasyon, erişim listeleri, güvenlik cihazları vb. gibi bilgi teknolojilerinde kullanılan birçok geleneksel güvenlik prosedürünü barındırmaktadır. Fakat PURDUE mimarisinde operasyonda meydana aksaklıklar ve fiziksel anomali ile sonuçlanan siber saldırılara yönelik bir güvenlik prosedürü bulunmamaktadır. PURDUE mimarisinde geleneksel siber güvenlik prosedürlerine ek olarak fiziksel anomalileri tespit edebilen EA-GAT modelinin eklenmesi, güvenlik seviyesini üst düzeye çıkaran yenilikçi bir mimari oluşturmaktadır. EA-GAT modeli, operasyonel teknolojilerde meydana gelen olayları dinamik bir graf oluşturma yaklaşımıyla modelleyerek sistemdeki anomali durumlarını tespit eden bir yaklaşımdır. EA-GAT, veri odaklı ve tasarım merkezli yaklaşımları bir araya getirerek sistemdeki olayları modelleyebilen hafızalı bir mimari kullanmaktadır. Olay tespit ve modelleme modülleri fiziksel olayları tespit ederek olaya ait bir graf modeli oluşturmaktadır. Oluşturulan graf modelleri kullanılarak graf dikkat ağı eğitilmektedir. Bu sayede, sistem ile ilgili tasarım bilgisine ihtiyaç duymadan sistemin ilişkisel durumu öğrenilmektedir. Ayrıca saldırı zamanına ait olduğu tespit edilen grafın incelenmesi ile saldırı hedefi olan bileşen ve etkilenen diğer bileşenler tespit edilebilmektedir. EA-GAT yöntemi SWaT, WADI ve MSL veri setleri ile test edilerek sırasıyla %97.40, %66.20 ve %92.85 F1 skorlarını elde ederek, literatürdeki mevcut çalışmalardan öne çıkmaktadır.
Derin öğrenme yöntemleri ile ilişkisel doküman sınıflandırılması
Metin sınıflandırması, geniş ve karmaşık metin havuzlarından anlamlı bilgiler çıkarmak ve bu metinleri otomatik olarak kategorilere ayırmak için kullanılan doğal dil işleme (NLP) uygulamalarından biridir. Ancak, zengin morfolojik yapıya sahip dillerde ve çeşitli veri kaynaklarında bu yöntemler yetersiz kalabilir. Bu sorunu ele almak için, bu çalışma Named Entity Recognition (NER) modelleri ve ön eğitimli BERT tabanlı modeller ile Wikidata'dan elde edilen varlık-ilişki bilgilerinin metinlere entegrasyonunu araştırmaktadır. Türkçe ve İngilizce metin veri setleri üzerinde yapılan değerlendirmeler, çeşitli makine ve derin öğrenme sınıflandırma algoritmalarının performansını incelemiştir. Bulgular, varlık-ilişki bilgilerinin metinlere eklenmesi ile algoritmaların başarımını önemli ölçüde artırdığını göstermektedir. Özellikle BBC-News ve TTC-4900 veri setlerinde, ilişkisel bilgi entegrasyonu sınıflandırma başarısını belirgin şekilde iyileştirmiştir. Türkçe metinlerin zengin yapılarını etkin bir şekilde işleyebilmek için TRT-Haber web sayfasından elde edilen veri seti üzerinde graf tabanlı derin öğrenme teknikleri uygulanmış, bu tekniklerle dikkate değer bir doğruluk oranı elde edilmiştir. Araştırmanın sonuçları, ilişkisel bilginin eklenmesinin metin sınıflandırmasında etkinliğini ve potansiyelini göstermekte olup, Türkçe metinlerin daha iyi anlaşılmasına katkıda bulunmaktadır. Bu çalışma, ilişkisel metin sınıflandırma sistemlerinin geliştirilmesine önemli katkılar sağlamış ve gelecek araştırmalar için önemli bir referans noktası oluşturmuştur.
Tehlikeli nesnelerin tespiti için süper çözünürlük tabanlı hibrit modelin geliştirilmesi
Kamusal alanda yetkisiz kişiler tarafından taşınan ya da kullanılan tehlikeli nesnelerin varlığı halkın can güvenliğini tehdit ettiği bilinmektedir. Yetkililer güvenliği sağlamak için kamusal alanda CCTV ve MOBESE gibi kamera sistemleri bulundurmaktadır. Fakat bu sistemler operatörler tarafından 7/24 izlendiği için olası insani hatalar meydana gelebilmektedir. Bu sebepten tehlikeli nesneleri otomatik tanıyan operatörlere yardımcı sistemlerin geliştirilmesi oldukça önemlidir. Bu doğrultuda tez kapsamında tehlikeli nesneleri tespit etmek için dijital görüntü ve videolar üzerindeki hedeflenen nesneyi tespit eden YOLO ve görüntüyü iyileştiren SR algoritmasının birleşiminden oluşan hibrit bir model önerilmiştir. Önerilen hibrit modelin eğitimi için DMGDATA adında 18,231 adet veriden meydana gelen yeni bir veri seti hazırlanmıştır. Bu veri seti ile YOLO mimarisine ait seçilen versiyonlar eğitilmiş ve elde edilen metriklere göre tez için YOLOv8m modelinin uygun olduğu tespit edilmiştir. Önerilen hibrit model içerisinde yer alan SR katmanı için ise; kanal dikkat mekanizması ve artık blok katmanlarından meydana gelen DCASR adında yeni bir algoritma önerilmiştir. Bu algoritma benzerleri ile karşılaştırıldığında, hız ve PSNR değeri açısından daha başarılı sonuç ürettiği görülmüştür. DCASR modeli ile iyileştirilen görüntülerin BF filtresi ile gürültüsü giderildikten sonra tespit için YOLOv8m modeline gönderilmiştir. Önerilen YOLOv8m+DCASR+BF modeli iki farklı çözünürlükten oluşan test seti ve farklı SR algoritmaları ile test edilmiştir. Test işlemlerinin sonucunda DCASR algoritması kullanılarak oluşturulan hibrit modelin diğerlerine göre daha başarılı olduğu tespit edilmiştir. Önerilen hibrit model ile normal çözünürlüklü görüntülerde nesne tespit başarısında iyileşme sağlanmazken, düşük çözünürlüklü görüntülerde nesne tespit başarısının %4 ila %6 oranında iyileştiği görüşmüştür. Bu sayede düşük kaliteli kaynaktan gelen görüntülerin algoritmik yöntemler kullanılarak daha başarılı nesne tespit işlemi gerçekleştirebileceği düşünülmektedir.
Radyoterapi başarım kestirimi için akciğer malin tümörlerinin bilgisayar destekli 3-boyutlu modellenmesi
Akciğerler içerisinde kontrolsüz ve hızlı büyüyen kötü huylu tümörler akciğer kanseri hastalığına sebep olurlar. Akciğer kanseri hastalığı dünya genelinde en sık görülen kanser hastalığıdır. Kanser hastalıkları arasında en ölümcül olanıdır. Kötü huylu tümörlerin büyüyüp yayılması solunum fonksiyonun zorlaşmasına ve nihayetinde işlev görmemesine sebebiyet verir. Kötü huylu tümörler diğer doku, lif yapıları veya organlara da sıçrama yaparak bu organ ve sistemleri de işlevsiz hale getirme potansiyeline sahiptirler. Akciğer kanserinde teşhis, Bilgisayarlı Tomografi(BT), MR gibi görüntüleme teknolojileriyle elde edilen görüntüler ve biyopsi yardımıyla yapılır. Akciğer kanseri hastalığında cerrahi tedavinin yanında gerekli görülen durumlarda radyoterapi veya kemoterapi tedavisi verilir. Radyoterapi tedavisinde amaç kontrolsüz büyüyen kötü huylu tümörün büyümesi durdurularak kitleyi yok etmek veya küçülmesini sağlamaktır. Akciğer kanserine sebep olan tümörlerin uygulanan radyoterapi tedavisine tepkisinin izlenmesi, tedavinin başarısı hakkında bilgi verir. Tespit edilen tümörlerin, radyoterapi tedavisi boyunca değişimi ve tedaviye verdiği tepkiyi izlemek ve yorumlamak için Makine Öğrenmesine dayalı Bilgisayar Destekli Tanı Sistemleri kullanılır. Bu sayede tedavi sonuçları doğru ve ayrıntılı bir şekilde incelenebilmektedir. Bu çalışmada tümörlü kitle akciğerden bölütlenerek 3-boyutlu modellenmiştir. Bölütlenen tümör görüntüsüne ait doku, şekil ve istatistik öznitelikler elde edilmiştir. Bunun yanında hastaların demografik verileri ve tümörün patolojik sonuçları veri setine eklenmiştir. Elde edilen veri seti üzerinde makine öğrenmesi ve derin öğrenmeye dayalı sınıflandırma yöntemleri uygulanarak hastaların radyoterapi tedavisindeki başarı durumları tahmin edilmiştir. Makine Öğrenmesi Yöntemleri içinde en yüksek doğruluk sonucu Destek Vektör Makineleri tabanlı Kernel yöntemi ile %75,26 olarak elde edilmiştir. Derin öğrenme modelleri ile yapılan sınıflandırmada ise VGG16 modeli ile %79,31 doğruluk oranı elde edilmiştir.