Theses supervised by Doç. Dr. Banu Diri
11 theses · Yıldız Technical University
Yapay bağışıklık sistem tabanlı algoritma ile aykırı değer tespiti
Aykırı değer tespiti; kredi kartı sahtekarlık tespiti, ağ saldırı tespiti, çok boyutlu verilerde hataların ayıklanması, veri trafiğinde sistem yükünün hafifletilmesi gibi birçok alanda başarıyla uygulanan metince zengin bilgice fakir mantığını referans alan bir veri madenciliği metodolojisidir.Çok boyutlu veri kümelerinde aykırı değerleri tespit etmek oldukça zordur. Aykırı değerleri teşhis etmede etkili olabilecek birçok algoritma olmasına rağmen, bu algoritmalardan birçoğu geniş ve büyük boyutlu veri kümeleri için kullanışsız olmaktadır. Verilerdeki örnek ve özellik sayısı arttıkça veri madenciliği metotlarının aykırı veri tespit etmedeki başarıları da düşmektedir. Bu tez çalışmasında, veri kümelerinde aykırı değerleri büyük bir oranda teşhis edebilen ve diğer metotlara göre daha etkin çözümler üretebilen Yapay Bağışıklık Sistem Paradigmasından yararlanılan bir algoritma kullanılmıştır. Algoritma, ikisi gerçek hayattan alınmış, diğeri rastgele değerlerle oluşturulmuş üç veri kümesi üzerine uygulanmıştır. Algoritmanın performansı, k - En Yakın Komşuluk Algoritması, Uzaklık Tabanlı Aykırı Değer Tespit Algoritması ve Kutu Grafik yöntemlerinin aykırı değer tespit etmedeki başarısı ile karşılaştırılmıştır. Elde edilen sonuçlar kıyaslandığında, aykırı değer tespit etmede Yapay Bağışıklık Sistem Tabanlı algoritmasının daha iyi sonuçlar verdiği ve daha düşük hata oranı ile çalıştığı görülmüştür.
İnsan sesinden duygu tanıma
İnsanlar arasındaki en önemli iletişim aracı konuşmadır. Konuşma ile insanlar birbirlerine sadece düşüncelerini değil duygularını da aktarabilirler. Bunun yanı sıra insan sesi, parmak izi ve iris gibi biyometrik özellikleri de beraberinde taşıyabilmektedir. Konuşma ile karşımızdaki kişinin düşüncesini, duygusunu, cinsiyetini ve yaşını da tahmin edebilmekteyiz. İnsan sesi ve konuşması ile ilgili çalışmalar her ne kadar çok eski olsa da insan sesinden duygu analizi yeni bir araştırma alanıdır. Özellikle son 20 yıl içinde bu alanda çok önemli çalışmalar yapılmıştır. Bu çalışmalar başlangıçta sadece konuşmanın olumlu veya olumsuz olmasıyla ilgilenirken zamanla daha fazla duygu türleri çalışma kapsamına alınmış ve bu amaçla pek çok duygu veritabanı geliştirilmiştir. Bu çalışmada veritabanlarından en popüler olanı Berlin Emotional Database ve kendi veritabanımız olan EmoSTAR kullanılmıştır. İnsan-robot iletişiminde de duygu analizi önemli bir yer tutmaktadır ve gün geçtikçe daha ileri adımlar atılmaktadır. Önceleri konuşma sentezi yoluyla makinelerin insanlara konuşarak cevap vermeleri amaçlanmaktaydı. Bu çalışmalar oldukça başarılı olmuş ve ilk başlarda mekanik gözüken makine sesi artık insan sesine yakın bir doğallığa kavuşmuştur. Makine konuşmasındaki doğallığı daha ileri seviyelere taşımanın bir yoluda makine konuşmasına duygu ilave edebilmektir. Duygu tanıma çalışmaları konuşma ve konuşmacı tanıma ve sentez sistemlerinin geliştirilmesinde de faydalıdır.
Türkçe metinlerde şartlı rastgele alanlarla varlık ismi tanıma
Varlık İsmi Tanıma, Doğal Dil İşleme'de bilgi çıkarımın bir alt dalı olup, kişi ve kurum ismi, yer, zaman, saat, kısaltma ve para gibi önceden belirlenmiş olan varlık sınıflarını dile bağımlı veya dilden bağımsız olarak bir doküman içerisinde arayıp bulan sistemlerdir.Varlık İsmi Tanıma için kullanılan ilk sistemler kural tabanlı iken, son zamanlarda makine öğrenmesi teknikleri kullanılarak modern sistemler geliştirilmiştir. Hem kural tabanlı hem de makine öğrenmesini birlikte kullanan hibrit sistemler de mevcuttur.Bu tez çalışmasında resmi olmayan bir dilde yazılmış Türkçe dokümanlar için tasarlanmış, Şartlı Rastgele Alanları kullanan Varlık İsmi Tanıma çalışmasından bahsedilmektedir. Sınıflama ve etiketleme işlemi kişi, kurum ve yer isimleri temel olmak üzere tarih ve para varlıkları için de gerçekleştirilmiştir. Çalışmanın gerçeklenmesi sırasında makine öğrenmesi teknikleri kullanılarak daha verimli sonuçlar elde etme işlemine odaklanılmıştır.Çalışma üç adımdan oluşmaktadır. İlk olarak, resmi olmayan bir dilde yazılmış Türkçe e-postalar içerisinden Şartlı Rastgele Alanlar kullanılarak özel isimlerin etiketlenerek çıkartılması gerçekleştirilmiştir. Çalışmanın ikinci adımında, belli bir çalışma alanına bağlı olmayan, konudan bağımsız dokümanlar için Şartlı Rastgele Alanlar kullanılarak dokümanlardaki varlık isimlerinin belirlenmesi gerçekleştirilmiştir. Çalışmanın son adımında ise, yarı eğiticili teknik ile uygulanan çalışma kural tabanlı yöntem ile desteklenerek dokümanlardan varlık isimlerinin çıkartılması gerçekleştirilmiştir.Varlık İsmi Tanıma için gerçekleştirilen çalışmada, eğitim verisi ne kadar çok etiketlenmiş varlık içerirse başarı oranı da o ölçüde etkilenmektedir. Çalışmada Şartlı Rastgele Alanlar yöntemi ile kişi isimlerinde elde edilen başarı kurum ve yer isimlerinde elde edilen başarıdan daha yüksek çıkmıştır.Anahtar Kelimeler: Varlık İsmi Tanıma, Doğal Dil İşleme, Şartlı Rastgele Alanlar, Resmi Olmayan Türkçe, Türkçe E-Posta
Türkçe arama motoru sonucu kümeleme çalışmaları
Internetteki bilgiler gün geçtikçe artmakta ve bu geniş bilgi ağında istenilen bilgiye ulaşmak büyük bir problem oluşturmaktadır. Bu problemi çözmek adına geliştirilen arama motorları, internet sitelerini olabildiğince indeksleyerek, kullanıcıların bu veriler üzerinde istedikleri bilgileri aramalarına imkan sağlamaktadır.Internet gibi geniş bir ağ düşünüldüğünde, yapılan aramalarda ?seçilen sorguya göre- yeri geldiğinde milyonlarca internet sayfası bulunabilmektedir. Bulunan bu kadar sonuç arasından kullanıcının ulaşmak istediği bilgiye en yakın sayfayı bulması ise, ayrı bir problem oluşmaktadır. Bu problemi çözmek için günümüz arama motorları bir çok yöntem sunmaktadır. Arama sonuçlarının belirli kurallara göre derecelendirilerek sıralandırılması için sonuçların kümelenmesi ya da gruplanmasına dayanan yöntemler geliştirilmiştir.Arama sonucunun kümelenmesi de, bu probleme çözüm getirmek için uygulanan yöntemlerden biridir. Arama motoru tarafından getirilen sonuçların, çeşitli bilgi çıkarımı yöntemleriyle içeriğine göre kümelere ayrılmasına dayanır. Arama sonuçları, kullanıcıya açıklayıcı etiketler içeren kümeler halinde gösterilirler. Böylece kullanıcı, kümelerden aradığı bilgiye en yakın olanını seçerek, aradığına daha çabuk ulaşabilir.Arama sonucu kümeleme için bir çok çalışma yapılmıştır. Bu alanda kullanılan en yaygın ve hızlı algoritmalardan biri olan Son Ek Ağacı Kümeleme (Suffix Tree Clustering) algoritmasıdır.Bu tez'deki amacımız, Son Ek Ağacı Kümeleme algoritmasıyla ve doküman benzerliğine dayanan kendi geliştirdiğimiz bir algoritmayla Türkçe sayfalar üzerinde arama sonucu kümeleme çalışmaları yapmak ve mümkün olduğunca bu algoritmaları Türkçe için daha iyi sonuçlar verecek şekilde düzenleyerek başarısını ölçmektir.Çalışmamız çerçevesinde, doküman benzerliğine dayanan DBC, klasik SAK (KSAK), KSAK üzerinde geliştirmeler yaparak oluşturduğumuz GSAK ve GSAK'den elde edilen sonuçların DBC sonuçlarıyla karşılaştırılarak geliştirilmesine dayanan M-GSAK yöntemleri kullanılmıştır. Bu yöntemler kullanılarak yaptığımız deneyler neticesinde, Türkçe arama motoru sonuçları üzerinde, GSAK ve M-GSAK ile yaptığımız kümeleme işlemlerinde, KSAK'ye göre daha başarılı sonuçlar alınmıştır. F-Ölçüm sonuçlarına göre GSAK, KSAK'den %77, M-GSAK de, GSAK'den %13 oranında daha başarılı olmuştur. Ayrıca üzerinde geliştirmeler yapılan SAK tabanlı yöntemler ile doküman benzerliği tabanlı yöntemlerden daha başarılı sonuçlar alındığı da görülmüştür. GSAK, DBC'den %9 oranında daha başarılı sonuç elde etmiştir.
Corpus-driven semantic relations extraction for Turkish language
Identification of semantic relations is the core problem in many Natural Language Processing tasks. One of the important tasks is to build up ontology or to construct thesaurus/lexicon. The most popular and widely used lexical database, WordNet is developed by manually. So it is used as source and also comparable work for most of the studies. Although these types of lexicons are reliable and effective, their production can be troublesome and time-consuming in some cases. So acquisition of semantic relation automatically from large amount of electronic documents (corpora, dictionaries, newspapers, newswires, etc.) becomes more important. In this study, automatic and semi-automatic acquisition system for acquisition of hyponym/hypernym, meronym/holonym and synonym relations are handled from large corpus in Turkish Langage for nouns. For this purpose, some sort of methods is proposed to realize the model. The method for hyponym/hypernym relation relies on lexico-syntactic pattern and semantic similarity. Once the model has extracted the items using patterns, it applies similarity based elimination of the incorrect ones in order to increase precision. Second model is based on similarity based expansion in order to increase recall. Several scoring functions are within bootstrapping algorithm are applied. For meronym/holonym, lexico-syntactic patterns are utilized and adopted again to a Turkish huge corpus. Two different approaches are proposed to prepare patterns; one is based on pre-defined patterns that are taken from literature, second automatically produces patterns by means of bootstrapping method. Pre-defined patterns are categorized into two clusters; General and Dictionary-based patterns. Once these patterns help the system to extract matched cases, it proposes a list of part-whole pairs depending on their co-occur frequencies. For latter, bootstrapping model takes manually prepared unambiguous seeds to induce syntactic patterns and estimates their reliabilities. Then, system extracts pair instances then ranks them by instance reliability scoring. Additional, statistical selection is used on global data obtaining from all results of entire patterns, where global data refers to a whole-by-part matrix on which several association metrics such as information gain, T-score etc. are measured and compared Finally, how these patterns and statistical method improve the system accuracy especially within corpus-based approach and distributional feature of words is evaluated. For synonym relation, the main assumption is that synonym pairs show similar semantic and syntactic characteristics by the definition. They share same meronym/holonym and hypernym/hyponym relations. Contrary to synonymy, hypernymy and meronymy relations can be easily acquired by applying lexico-syntactic patterns to a corpus. Such acquisition might be utilized and ease detection of synonymy. Likewise, some particular syntactic relations are utilized such as object/subject of a verb etc. Machine learning algorithms were applied on all these acquired features. The first aim is to find out which syntactic and semantic features are the most informative and contributes most to the model. Performance of each feature is individually evaluated with cross validation. The model that combines all features shows promising results and successfully detects synonymy relation. Another model is proposed to extract synonym relation with using integration of some sort of sources such as WordNet, bilingual on-line dictionary and monolingual on-line dictionary. The main contributions of the study is considered as being first major attempt for Turkish hyponym/hypernym, meronym/holonym and synonym identification based on corpus-driven approach for Turkish Language. Second contribution is to use integrated approaches such as pattern-based method with statistical elimination and expansion, bootstrapping patterns, etc. for extracting relations. Third contribution is to use multiple resources such as WordNet, mono/bilingual on-line dictionaries, etc. and to integrate them.
Twitter verilerini anlamsal sınıflandırma
İnternetin büyümesi ve insanların kişisel fikirlerini paylaşmaları ile sosyal medya önemli bir bilgi kaynağı haline gelmiştir. Sosyal medya verileri ham haliyle çok kirli olduğu için üzerinde işlem yaparak gerçeğe uygun sonuçlar çıkarmak mümkün olamaz. Bu çalışmada, Twitter'dan toplanan veriler üzerinde algı analizi yapılmıştır. Bu analiz gerçekleştirilirken doğal dil işleme ve Naïve Bayes, Rastgele Orman ve Destek Vektör Makinesi gibi makine öğrenmesi yöntemleri kullanılarak, akıllı bir sistem oluşturulmuş ve elde edilen sonuçlar karşılaştırmalı olarak verilmiştir.
Twitter verilerini anlamsal sınıflandırma
İnternetin büyümesi ve insanların kişisel fikirlerini paylaşmaları ile sosyal medya önemli bir bilgi kaynağı haline gelmiştir. Sosyal medya verileri ham haliyle çok kirli olduğu için üzerinde işlem yaparak gerçeğe uygun sonuçlar çıkarmak mümkün olamaz. Bu çalışmada, Twitter'dan toplanan veriler üzerinde algı analizi yapılmıştır. Bu analiz gerçekleştirilirken doğal dil işleme ve Naïve Bayes, Rastgele Orman ve Destek Vektör Makinesi gibi makine öğrenmesi yöntemleri kullanılarak, akıllı bir sistem oluşturulmuş ve elde edilen sonuçlar karşılaştırmalı olarak verilmiştir.
Twitter verilerini anlamsal sınıflandırma
İnternetin büyümesi ve insanların kişisel fikirlerini paylaşmaları ile sosyal medya önemli bir bilgi kaynağı haline gelmiştir. Sosyal medya verileri ham haliyle çok kirli olduğu için üzerinde işlem yaparak gerçeğe uygun sonuçlar çıkarmak mümkün olamaz. Bu çalışmada, Twitter'dan toplanan veriler üzerinde algı analizi yapılmıştır. Bu analiz gerçekleştirilirken doğal dil işleme ve Naïve Bayes, Rastgele Orman ve Destek Vektör Makinesi gibi makine öğrenmesi yöntemleri kullanılarak, akıllı bir sistem oluşturulmuş ve elde edilen sonuçlar karşılaştırmalı olarak verilmiştir.
Mikrobloglarda içerik madenciliği
Web 2.0 ile birlikte kullanıcılar sosyal ağlarda ilgi alanlarını, düşüncelerini, başka kullanıcıların yazılarını veya gündelik aktivitelerini takipçileriyle paylaşabilmektedir. Kullanıcılar paylaştıkları içeriklerle birbirleriyle etkileşim içerisindedir. Sosyal ağların alt uygulama alanı olan mikroblog uygulamalarının en popüler olanı Twitter'dır. Twitter kullanımı son yıllarda oldukça popüler olmasından dolayı Twitter üzerindeki büyük ölçekte işlenmemiş veri bulunmaktadır. Mikrobloglar üzerine yapılan çalışmalar genellikle değerli içerik giren kullanıcıların belirlenmesi ve kullanıcıların kategorizasyonuyla ilgili çalışmalardır.Tez kapsamında amacımız kategori bilgileri wefollow.com uygulamasıyla elde edilmiş haber içeriği giren kullanıcıların ve normal kullanıcıların içeriklerinin kategorilerini ne ölçüde temsil ettiğini belirlenmektir. Sistem eğitim ve test aşamasından oluşmaktadır. Eğitim verisi olarak ekonomi, spor, teknoloji ve eğlence kategorilerine ait 3337 haber RSS haber beslemesi kategori kullanılmıştır. Test aşamasında ise normal kullanıcı ve haber içeriği giren kullanıcıların içerikleri (tvitleri) test verisi olarak kullanılmıştır.Benzer çalışmalardan farklı olarak Twitter kullanıcılarının içeriklerine ait özellikler RSS haber beslemelerinde yer aldığı takdirde içerik özelliği olarak alınmış, aksi durumda özellikler değerlendirmeye katılmamıştır. Sadece eğitim aşamasında elde edilen özelliklerin test verisi olarak kullanılan kullanıcı içeriklerinde aranmasıyla mikrobloglarda karakter sınırı yüzünden çokça kullanılan anlamsız kısaltma ve kelimelerin elenmesi amaçlanmıştır.Performans değerlendirme sonuçlarına göre haber içeriği giren kullanıcıların (botlar) içerikleri normal kullanıcı içeriklerine oranla daha başarılı kategorize edildiği gözlemlenmiştir. Aynı zamanda hem normal kullanıcı hem de haber içeriği giren kullanıcılarından en başarılı sınıflandırma sonuçları spor alanında içerik giren kullanıcılarından en başarısız sınıflandırma sonuçları ise teknoloji alanında içerik giren kullanıcılardan elde edilmiştir.Öngörülen sistem aynı zamanda eğitim ve test aşamasında sadece tvitlerin kullanıldığı modelle de karşılaştırılmıştır. Sınıflandırma performans sonuçlarına göre öngörülen sistemin başarı oranları sadece kullanıcı içerikleri kullanılarak oluşturulmuş sistemin başarı oranlarından yüksek çıkmıştır.
Mikrobloglarda içerik madenciliği
Web 2.0 ile birlikte kullanıcılar sosyal ağlarda ilgi alanlarını, düşüncelerini, başka kullanıcıların yazılarını veya gündelik aktivitelerini takipçileriyle paylaşabilmektedir. Kullanıcılar paylaştıkları içeriklerle birbirleriyle etkileşim içerisindedir. Sosyal ağların alt uygulama alanı olan mikroblog uygulamalarının en popüler olanı Twitter'dır. Twitter kullanımı son yıllarda oldukça popüler olmasından dolayı Twitter üzerindeki büyük ölçekte işlenmemiş veri bulunmaktadır. Mikrobloglar üzerine yapılan çalışmalar genellikle değerli içerik giren kullanıcıların belirlenmesi ve kullanıcıların kategorizasyonuyla ilgili çalışmalardır.Tez kapsamında amacımız kategori bilgileri wefollow.com uygulamasıyla elde edilmiş haber içeriği giren kullanıcıların ve normal kullanıcıların içeriklerinin kategorilerini ne ölçüde temsil ettiğini belirlenmektir. Sistem eğitim ve test aşamasından oluşmaktadır. Eğitim verisi olarak ekonomi, spor, teknoloji ve eğlence kategorilerine ait 3337 haber RSS haber beslemesi kategori kullanılmıştır. Test aşamasında ise normal kullanıcı ve haber içeriği giren kullanıcıların içerikleri (tvitleri) test verisi olarak kullanılmıştır.Benzer çalışmalardan farklı olarak Twitter kullanıcılarının içeriklerine ait özellikler RSS haber beslemelerinde yer aldığı takdirde içerik özelliği olarak alınmış, aksi durumda özellikler değerlendirmeye katılmamıştır. Sadece eğitim aşamasında elde edilen özelliklerin test verisi olarak kullanılan kullanıcı içeriklerinde aranmasıyla mikrobloglarda karakter sınırı yüzünden çokça kullanılan anlamsız kısaltma ve kelimelerin elenmesi amaçlanmıştır.Performans değerlendirme sonuçlarına göre haber içeriği giren kullanıcıların (botlar) içerikleri normal kullanıcı içeriklerine oranla daha başarılı kategorize edildiği gözlemlenmiştir. Aynı zamanda hem normal kullanıcı hem de haber içeriği giren kullanıcılarından en başarılı sınıflandırma sonuçları spor alanında içerik giren kullanıcılarından en başarısız sınıflandırma sonuçları ise teknoloji alanında içerik giren kullanıcılardan elde edilmiştir.Öngörülen sistem aynı zamanda eğitim ve test aşamasında sadece tvitlerin kullanıldığı modelle de karşılaştırılmıştır. Sınıflandırma performans sonuçlarına göre öngörülen sistemin başarı oranları sadece kullanıcı içerikleri kullanılarak oluşturulmuş sistemin başarı oranlarından yüksek çıkmıştır.
Mikrobloglarda içerik madenciliği
Web 2.0 ile birlikte kullanıcılar sosyal ağlarda ilgi alanlarını, düşüncelerini, başka kullanıcıların yazılarını veya gündelik aktivitelerini takipçileriyle paylaşabilmektedir. Kullanıcılar paylaştıkları içeriklerle birbirleriyle etkileşim içerisindedir. Sosyal ağların alt uygulama alanı olan mikroblog uygulamalarının en popüler olanı Twitter'dır. Twitter kullanımı son yıllarda oldukça popüler olmasından dolayı Twitter üzerindeki büyük ölçekte işlenmemiş veri bulunmaktadır. Mikrobloglar üzerine yapılan çalışmalar genellikle değerli içerik giren kullanıcıların belirlenmesi ve kullanıcıların kategorizasyonuyla ilgili çalışmalardır.Tez kapsamında amacımız kategori bilgileri wefollow.com uygulamasıyla elde edilmiş haber içeriği giren kullanıcıların ve normal kullanıcıların içeriklerinin kategorilerini ne ölçüde temsil ettiğini belirlenmektir. Sistem eğitim ve test aşamasından oluşmaktadır. Eğitim verisi olarak ekonomi, spor, teknoloji ve eğlence kategorilerine ait 3337 haber RSS haber beslemesi kategori kullanılmıştır. Test aşamasında ise normal kullanıcı ve haber içeriği giren kullanıcıların içerikleri (tvitleri) test verisi olarak kullanılmıştır.Benzer çalışmalardan farklı olarak Twitter kullanıcılarının içeriklerine ait özellikler RSS haber beslemelerinde yer aldığı takdirde içerik özelliği olarak alınmış, aksi durumda özellikler değerlendirmeye katılmamıştır. Sadece eğitim aşamasında elde edilen özelliklerin test verisi olarak kullanılan kullanıcı içeriklerinde aranmasıyla mikrobloglarda karakter sınırı yüzünden çokça kullanılan anlamsız kısaltma ve kelimelerin elenmesi amaçlanmıştır.Performans değerlendirme sonuçlarına göre haber içeriği giren kullanıcıların (botlar) içerikleri normal kullanıcı içeriklerine oranla daha başarılı kategorize edildiği gözlemlenmiştir. Aynı zamanda hem normal kullanıcı hem de haber içeriği giren kullanıcılarından en başarılı sınıflandırma sonuçları spor alanında içerik giren kullanıcılarından en başarısız sınıflandırma sonuçları ise teknoloji alanında içerik giren kullanıcılardan elde edilmiştir.Öngörülen sistem aynı zamanda eğitim ve test aşamasında sadece tvitlerin kullanıldığı modelle de karşılaştırılmıştır. Sınıflandırma performans sonuçlarına göre öngörülen sistemin başarı oranları sadece kullanıcı içerikleri kullanılarak oluşturulmuş sistemin başarı oranlarından yüksek çıkmıştır.