Natural language processing
95 theses under this subject heading
Natural language processing (NLP) of languages that use Arabic alphabet
In general and globally, about 7,000 natural spoken languages are available. Technically observed, about 20 languages of these resourced well in NLP term. Almost all the Arabic scripted languages are considered a low-resourced language, only the Arabic language itself in some aspects of NLP are well resourced. In addition, some Arabic-scripted languages are very low-resourced in text or abounded Arabic scripts such as Old Turkish language (Ottoman script). Widely speaking, all Arabic-scripted languages require NLP resources to bridge the gap with advanced tools and use available materials. Our study's main aim is to transfer learning from well-resourced languages, for instance, Arabic language to other Arabic-scripted languages. We successfully implemented a sample of transfer learning and applied them to a very low-resourced language, such as Ottoman Turkish and Kurdish language, Arabic and Parso-Arabic scripted languages. This transfer learning is a machine-based transliterate, the automatic transliteration from Ottoman to the modern Latin Turkish script. The system achieved 73.3% accuracy in general. Related to the Kurdish NLP, the transliteration system was implemented too. Moreover, we focused on the hurdles and barriers that researchers experience in this field. The conclusions related to Arabic-scripted languages NLP are: first, it is hard to process Arabic scripted low-resourced languages, but using transfer learning of the similar languages experience may make it possible. Second: there should be minimum resources and knowledge about the language to start with its NLP.
Konuşma dili işleme
İster Türkçe, ister Tagalog dilinde olsun, herhangi bir konuşma dilini kullanarak iletişim kurma kabiliyeti sadece insan ırkına mahsus bir üstünlüktür. Bilgisayarlar, bu dil kullanma yeteneğini insanlarla paylaşana kadar insanların günlük hayatlarında yapabildikleri pek çok işi yerine getiremeyeceklerdir. Sadece 3 yaşında olan bir çocuk, geçerli bir satranç oyunu oynayamamasına, en azından bir ustayı yenememesine rağmen kendi ana dilini rahatça konuşur ve anlar. Buna karşılık dünyada hala insanların bu dil yeteneğinin üstesinden gelebilmiş bir bilgisayar programı geliştirilebilmiş değildir. Konuşma dilinin yapısını anlayabilmek çok zor bir işlemdir. Bunun için kullanılan dilin gramer bilgisine ve tartışılmakta olan konuya bağlı olarak genel kültüre ihtiyaç vardır. Ancak, her şeyden önce bilgisayarın, işleyeceği konuşma dili hakkında yeterli bir alt yapıya sahip olması gerekir. Bunun için de o dilin kelimeleri, kelimelerin fonksiyonları, cümle kurarken kullanılan yapılar ve kurulmuş cümlelerin çeşitleri hakkında ayrıntılı bilgisi olmalıdır. Bu bilgilerin veri tabanına yerleştirilmesinden sonra dışarıdan girilen bilginin analiz edilmesi, cümlenin manalandırılması ve metin içinde ne anlama geldiğinin değerlendirilmesi aşamaları gelir. Bu aşamaların ortak adı "konuşma dili işleme"dir. Bu tezde, zekânın ve yapay zekâ'nın tanımları ayrıntılı olarak incelendikten sonra, bu kavramları kullanarak anlama için gerekli olan dilbilimsel kültürün düzgün bir konuşma dili için nasıl kullanıldığı incelenmiştir. Daha sonra PROLOG dili kullanılarak, bir Türkçe cümle parser'ı yazılmış ve Yunus Emre'nin 180 beyiti üzerinde kullanılarak, şairin kullandığı kelimelerin köken ve görev dağılımları çıkarılmıştır.
Bilgisayar destekli sözlük bilimi çalışmalarında derleme sözlüğü veri tabanı örneği
Bu çalışmada Anadolu ağızlarının söz varlığını içeren 12 ciltlik Derleme Sözlüğü'nün çevrim içi sorgulanabilir veri tabanı hazırlanmıştır. Sözlüğün madde başı, tanımlamalarını içeren anlam bölümü, örnek cümlelerin verildiği tanık bölümü, madde başlarının değişkeleri (varyantları) tablosu ve derleme yeri verisini içeren yer tablosu sözlükteki yapı esas alınarak oluşturulmuştur.124.692 adet madde başından oluşan sözlüğün birbiriyle ilişkilendirilmiş veri tabanı modeli sorgu arayüzünde gelişmiş sorgulama seçenekleriyle desteklenmiştir. Anlam tablosundaki eşdizim örüntüleri, kavramsal sorgulama, anlamlarda anahtar sözcükler , sıklık listesi ve en çok derleme yapılan yer bilgisini veren derleme yeri listesi de çıkarılmıştır.Doğal Dil İşlemenin çeşitli uygulama alanları, derlem dil biliminin tanımı, sözlük ve sözlük tekniği kavramları da tanıtılmaya çalışılmıştır.
Derin öğrenme yaklaşmaları ile yazılım proje gereksinimlerinin sınıflandırılması ve başarım sonuçlarının değerlendirilmesi
Günümüzde hızla gelişen teknoloji, yaşamımızın ayrılmaz bir parçası haline gelmiştir. Bu durum yazılım sistemlerine duyulan ihtiyacı artırmaktadır. Birçok alanda kullanılan yazılım sistemlerinin geliştirilmesinde belirli aşamalar vardır. En önemli aşamalardan biri gereksinim analizi aşamasıdır. Bu aşamada, sistemi talep eden paydaşlar gereksinimlerini belirtir. Gereksinim mühendisleri veya proje analistleri gereksinimleri amaç, işlev ve özelliklerine göre temelde işlevsel ve işlevsel olmayan gereksinimler olarak sınıflandırmaktadır. Gereksinimlerin doğru bir şekilde sınıflandırılıp, önceliklendirilmesi, yazılım yaşam döngüsünün diğer aşamalarının sorunsuz ilerlemesini sağlar. Gereksinimlerin doğal dil ile yazılıyor olması, talep sahibinin ihtiyaçlarını tam olarak aktaramaması, analiz yapacak kişilerin ilgili alana yeterince hâkim olmamasıya dagereksinimleri farklı şekilde yorumlamaları gereksinimlerin yanlış sınıflandırılmasına neden olmaktadır. Böyle bir durum yazılım geliştirme sürecine hatalı başlanılmasına yol açmaktadır. Yazılım gereksinim analizinin otomatik olarak yürütülmesi için doğal dil işleme yöntemleri kullanılarak yazılım gereksinimleri sınıflandırılabilir. Bu amaç doğrultusunda üniversite öğrencilerinin geliştirdiği yazılım projeleri içerisinde yer alan gereksinimler toplanarak, bir Türkçe veri seti oluşturulmuştur. Toplanan gereksinimlerin 3000'ini işlevsel, 1600'ü ise işlevsel olmayan gereksinim olmak üzere manuel olarak etiketlenmiştir. %80'ieğitim, %20'si test verisi olarak ayrılan veri seti sırasıyla makine öğrenmesi algoritmaları, derin öğrenme algoritmaları ve transformer modelleri ile eğitilerek performansları test edilmiştir. Makine öğrenimi algoritmalarından Naive Bayes Multinomial, derin öğrenme algoritmalarından CNN ve transformer modellerden de BERTürk'ün en iyi performans sonuçlarını verdiği gözlemlenmiştir. Ele alınan tüm algoritmalar içinde %95 doğruluk değeri ile BERTürk en başarılı algoritma olduğu tespit edilmiştir. Elde edilen sonuçlar yazılım gereksinim sınıflandırmada geliştirilen modellerin kullanılabilirliğini açıklamaktadır.
Çift yönlü enkoder transformatör tabanlı duygu analizi derin öğrenme modeli geliştirilmesi
Bu tezde, Türkçe duygu analizi için yeni sinirsel dil modeli olan BERT modeli uygulanmıştır. Doğal dil işleme son zamanlarda ilerleme kaydetmiş olsa da bileşik anlamları temsil etmek zorlu bir iştir. Geleneksel derin öğrenme yöntemleri, cümlelerin sıradan bir doğrusal yapı, yani zincirler veya diziler olduğunu iddia eder. Bu tezde, kelimelerin morfolojik yapısı dikkate alınarak Türkçe duygu analizi problemi için daha başarılı sonuçlar elde etmek amacıyla önceden eğitilmiş sinir ağı kullanılarak uygulama geliştirilmiştir. Etiketlenmemiş metinden yakın zamanda yapılan derin çift yönlü bir kendi kendine dikkat gösterimi olan BERT, ince ayarlı birçok Doğal Dil İşleme (DDİ) görevinde dikkate değer sonuçlar elde etti. Bu tezde, morfolojik olarak zengin bir dil olan Türkçe için BERT algoritması etkinliğini göstermek amaçlanmıştır. Morfolojik olarak zengin diller, verileri Makine Öğrenimi (MÖ) algoritmalarına uygun olacak şekilde modellemek için yoğun dil ön işleme adımları gerektirir. Özellikle, veri seyrekliği veya yüksek boyutlu problemlerin üstesinden gelmek için verimli bir veri modeli elde etmek için parçalama, kök bulma görevlerine ihtiyaç vardır. Bu bağlamda, literatürden Türkçe için yaygın DDİ araştırma problemlerinden duygu analizi problemi seçilmiştir. Sonrasında BERT'in deneysel performansı temel MÖ algoritmalarıyla karşılaştırıldı. Ağır ön işleme görevlerini ortadan kaldırırken, seçilen DDİ probleminde temel MÖ algoritmalarına kıyasla gelişmiş sonuçlar elde edilmiştir.
A sentence boundary detection system for Turkish textual documents
This study aims to design a high-performance method for sentence boundary detection in accordance with its own language structure in order to increase the prevalence of Turkish in the digital world. When general-purpose sentence boundary detection applications were tested on corpora containing different usage patterns of Turkish, it was observed that these applications remained at low success rates. In the study within the scope of the thesis, a hybrid method is proposed by combining the FP-Growth method, which is used to generate association rules, and Recurrent Neural Network (RNN) methods. A set of features has been obtained, in which suffix and POS tag information are used together, as well as some formal rules for the tokens before and after the possible end-of-sentence character. Then, this data set was tested with RNN methods such as LSTM and BiLSTM in the Turkish National Corpus (TNC) sub-corpus. In general-purpose applications, it was observed that the f-score value, which was 77% in the tests performed with the same data set, reached 96% with the proposed method. Within the scope of the study, it was observed that the success reached similar values in different Turkish corpora. In addition, in the study, it was concluded that the POS tag information and suffix structures of the tokens for Turkish play an important role in the detection of the boundary of a sentence. Keywords: Sentence Boundary Detection, Recurrent Neural Network, FP-Growth, Turkish Natural Language Processing, Corpus Annotation, Grammatical Cues
Sosyal Ağlarda Duygu Analizi için Hibrit Bir Yöntem Geliştirilmesi
Teknolojinin gelişmesi, insanların sosyal hayatlarında birçok alışkanlığının değişimine sebep olmuştur. Pandeminin de etkisiyle eğitim başta olmak üzere birçok alanda yüz yüze iletişim oldukça azalmıştır. İnsanlar, sosyalleşmek için sosyal medya ve web sitelerine hızlıca erişim sağlayabilecekleri mobil cihazlar ile vakit geçirir hale gelmişlerdir. Pandemi sona ermesine rağmen, insanlar sosyalleşmek için web sitelerini ve sosyal medya uygulamalarını hala yaygın olarak kullanmaya devam edilmektedirler. İnsanlar birlikte izledikleri film, gittikleri restoran gibi birçok deneyimleri hakkında fikirlerini anlık şekilde paylaşmaktadırlar. Bu durum sosyal medya ve web siteleri aracılığıyla sürekli bir veri paylaşımına sebep olmaktadır. Bu veri paylaşımı çok büyük boyutta veri toplanmasına sebep olmaktadır. Bu veriler, pazarlamadan, reklama kadar birçok kurumu yakından ilgilendirmektedir. Bu kurumlar kendileri veya sektörlerine yönelik paylaşılan verileri kullanmak amacıyla çalışmalar yapmaktadırlar. Gelişen yapay zeka teknolojileriyle, bu çalışmalar firmalara katma değer kazandırmaktadır. Bu değeri kazandıran çalışma alanlarından biri de yapay zekanın alt dalı olan doğal dil işleme görevlerinden duygu analizidir. Bu çalışmada, IMDB web sayfasından toplanan veri kümesinde duygu analizi görevine yönelik deneysel çalışmalar gerçekleştirilmiştir. IMDB veri kümesi üzerinde Word2Vec kelime gömme yöntemi sonrası altı adet BiGRU ve sonrasına iki Evrişim Sinir ağı ile MBiGRUMCONV olarak isimlendirilen yeni bir yöntem önerilmiştir. Önerilen bu yöntemin en iyi doğruluk performansını verdiği %80-%20 eğitim-test ve %10 doğrulama kümesinde test sonuçları; %90,59, doğrulama kümesi sonuçları %94,67'dir. Ayrıca önerilen modelin 3, 5 ve 10 kat çapraz geçerleme sonuçları da alınmıştır. En iyi sonuç, 5-kat çapraz geçerleme ayrımında %90,67 doğruluk değeri ile alınmıştır. Tüm sonuçlar bir arada değerlendirildiğinde önerilen yöntemin literatür çalışmalarına kıyasla rekabetçi bir performans sergilediği görülmüştür. Çalışma kapsamında TripAdvisor, Rotten Tomatoes ve Twitterdan toplanan açık kaynak olarak sunulan veri kümeleri üzerinde farklı metin temsili yöntemleri sonrasında çeşitli derin öğrenme, makine öğrenmesi ve topluluk öğrenme yöntemleriyle modeller oluşturulmuştur. Yüksek model başarımı almak için gelecek çalışmalarda, hibrit model oluştururken; ön eğitimli BERT türevleri ile metin temsili çıkarıldıktan sonra çift yönlü sinir ağlarının kullanılması önerilmektedir.
Yapay zeka tabanlı dil modelleri ile ilgili öğretmen görüşlerinin incelenmesi
Bu araştırmada; yapay zeka tabanlı dil modelleri ile ilgili öğretmen görüşlerinin incelenmesini amaçlamaktadır. Eğitimin paydaşlarından biri olan öğretmenlerin yapay zeka uygulamaları hakkındaki görüşleri doğrultusunda çalışmalar yürütülerek yapay zekanın eğitime entegrasyonu sağlanabilir. Bu bakımdan araştırma önemli görülmektedir. Ayrıca bu araştırmanın nitel veriler sunacağından literatüre katkı sağlayacaktır. Araştırmada nitel araştırma yöntemlerinden durum çalışması deseni kullanılmıştır. Araştırmanın çalışma grubunu 2022-2023 öğretim yılı bahar döneminde, Düzce'de merkeze bağlı altı farklı ilkokulda görev yapmakta olan 11 sınıf öğretmeni oluşturmaktadır. Durum çalışması deseni olarak yürütülen bu araştırmada öğretmenlerin görüşleri ele alınmıştır. Araştırma kapsamında araştırmacının; bir öğretim görevlisi ve yedi öğretmenin görüşleri doğrultusunda oluşturduğu "Yarı Yapılandırılmış Görüşme Formu" kullanılmıştır. Araştırma verilerinin toplanması aşamasında örnekleme türlerinden olan kolay ulaşılabilir durum örneklem yöntemi kullanılmış ve belirlenen altı farklı ilköğretim okulunda çalışmakta olan gönüllü on bir sınıf öğretmeni ile yüz yüze yarı yapılandırılmış görüşmeler gerçekleştirilmiştir. Görüşme öncesinde katılımcıların izinleri alınarak görüşmeler ses kayıt cihazı ile kayıt altına alınmıştır. Katılımcıların yanıtlarından elde edilen veriler, içerik analiz tekniği ile incelenerek tema ve kategoriler belirlenmiştir. Araştırmanın geçerliği ve güvenirliği arttırmak amacıyla katılımcıların ifadeleri doğrudan alıntılar ile sunulmuş ve araştırmaya katılan öğretmenlere bir harf ve rakam verilerek katılımcılar kodlanmıştır. Araştırma kapsamında ulaşılan bulgulara bakıldığında, sınıf öğretmenlerinin yapay zeka tabanlı dil modellerine ilişkin bilgilerinin sınırlı olduğu görülmüştür. Ayrıca öğretmenlerin görüşlerinden yararlanarak yapay zeka tabanlı dil modellerinin öğrenci ve öğretmenlere zaman tasarrufu sağlayarak avantaj oluşturacağı ve bu uygulamaların tembelleştirme ve etkisizleştirme gibi dezavantajlarının olduğu sonucuna ulaşılmıştır. Aynı zamanda yapay zekanın kişilerarası iletişimin zayıflatacağını ve bireylerin sosyal becerilerinin etkileneceği de görülmüştür. Gelecekte önemli yere sahip olacağı düşünülen bu teknolojik araca ilişkin öğretmenlerin çok fazla bilgiye sahip olmadığı görüldüğünden öğretmenler bu konuda araştırmalar yaparak kendilerini geliştirebilirler. Yine aynı zamanda yapay zekanın okullarda yaygınlaşması hedeflendiğinde öğretmenlere bu programlar hakkında hizmetiçi eğitimler ve seminerler verilerek öğretmenlerin farkındalığı arttırılabilir. Anahtar Kelimeler: ChatGPT, Doğal dil işlemleme, Öğretim teknolojileri, Yapay zeka, Yapay zeka tabanlı dil modelleri.
Tarihî suç coğrafyası: İstanbul şer'iye sicillerinin yapay zekâ ile analizi
Bu çalışma, Osmanlı dönemi İstanbul'unun tarihî suç coğrafyasını, şer'iye sicillerinden türetilen kayıtların yapay zekâ destekli çözümlemesi ve Tarihsel Coğrafî Bilgi Sistemleri (TCBS) üzerinden mekânsal değerlendirmesiyle ortaya koyar. Veri kümesi, www.kadisicilleri.org'da yer alan İstanbul'a ait 100 cilt şer'iye sicilindeki 54.593 hükmün tamamından yapay zekâ destekli ön işleme ile ayıklanan 2.653 suç kaydını kapsamaktadır. Metinlerden Python tabanlı betikler ve OpenAI destekli doğal dil işleme (NER/tematik kodlama) yoluyla yapılandırılmış bilgi çıkarılmış; çıktılar doğruluk açısından manuel kontrollerle teyit edilmiştir. Elde edilen veriler ArcGIS Pro'da katmanlaştırılarak nicel haritalar üretilmiş, suç türlerinin mekânsal kümelenmeleri ve yoğunluk örüntüleri analiz edilmiştir. Bulgular, Suriçi'nin idarî-ticari çekirdeği ile Tophane–Haliç liman-tersane hattında alan başına riskin belirginleştiğini; içki başta olmak üzere dine/toplumsal düzene ilişkin fiillerin liman hinterlandında yoğunlaştığını; vücut dokunulmazlığına karşı fiillerde ise İstanbul Mahkemesi ve Tophane'nin yüksek yoğunluk değerleri üretirken, geniş yetki alanı nedeniyle Üsküdar'ın yüksek mutlak sayı fakat düşük yoğunluk sergilediğini göstermektedir. İdarî çekirdekte (Bâb-ı Âli çevresi) görevi kötüye kullanma ve rüşvet kayıtlarının yığılması, bürokratik merkeziliğin etkisini teyit eder. Genel olarak "çekirdek–kıyı koridoru–çevre" hiyerarşisi farklı suç tiplerinde yeniden üretilmekte; örüntüler Rutin Faaliyetler ve "crime of place/hot spots" yaklaşımlarıyla uyumlu bir çerçeve sunmaktadır. Yöntemsel olarak, klasik tarihî kaynakların yapay zekâ-NLP ve TCBS entegrasyonuyla sistematik, hızlı ve yeniden üretilebilir biçimde analiz edilebileceğine yönelik bir çerçeve sunulmuştur.
Türkçe Braille - 2 otomatik dönüşüm sisteminin tasarlanması
Gelişen teknoloji ile birlikte, görme engelli bireylerin kendini ifade etme imkanları da gelişmektedir. Braille yazı sistemini kullanarak okuyup yazan körlerin, yazı ile ifade ettiklerini, görebilen kişiler genellikle anlayamamaktadırlar. Bu iletişim problemini ortadan kaldırmak için Braille çeviri programlarına ihtiyaç duyulur. Birçok dil için bu uygulamalar yapılsa da Türkçe Braille sistemi için yapılan çalışmaların yetersiz olduğu görülmektedir. Bu çalışmada, Türkçe Braille sistemi için, Braille'den Latin alfabesiyle yazılan metinlere, metinden Braille'e çeviri ve yorumlama sistemi geliştirilmiştir. Braille yazıların fotoğrafı çekilerek ve yazılar taratılarak dijital ortamda görüntüsü elde edilmiştir. Görüntünün yatay ve düşey eksende çıkarılan histogram grafiğinden faydalanılarak yazı önce satırlara, ardından Braille ifadelerine ayrılır. Veritabanıyla karşılaştırılarak metne dönüştürülür. Metinden Braille'e dönüştürürken, kelimelerin morfolojik analizi yapılarak metnin Braille kısaltma listesinde bulunan kök ve eklere ayrılması sağlandı. Kısalmalı-kısaltmasız harf ve ekler, Braille ifadesi veritabanıyla karşılaştırılarak metne dönüştürüldü. Braille'den metne karakter çeviri başarı oranı %99,32, kelime çeviri başarı oranı %97.41 ve metinden Braille'e kelime çeviri başarı oranı %99.84 olarak elde edilmiştir.
Unsupervised learning of morphology
Unsupervised learning of morphological rules is one of the expected abilities of natural language processing (NLP) models since children learn these rules during their native language acquisition without supervision. Based on this expectation, we present a comprehensive experimental setup for evaluating the morphological learning of several unsupervised models such as Autoencoders (AE), Variational Autoencoders (VAE), Character-level Language Models (CharLM) and Vector Quantized Variational Autoencoders (VQVAE) at the following tasks: probing for morphological features, morphological segmentation and morphological reinflection. In our study, we show that for probing, all models outperform baselines with an indication of encoding morphological knowledge; for morphological segmentation, VAE and CharLMs have comparable performances to unsupervised SOTA models; for morphological reinflection, VQVAE with multiple codebooks has the ability to identify the lemma and suffixes of a word and turns out to be a good candidate to perform inflectional tasks.
Comicverse: Expanding the frontiers of ai in comic books with holistic understanding
Comics are a unique and multimodal medium that conveys stories and ideas through sequential imagery often accompanied by text for dialogue and narration. Comics' elaborate visual language exhibits variations from different authors, cultures, periods, technologies, and artistic styles. Consequently, the computational analysis of comic books requires addressing fundamental challenges in computer vision and natural language processing. In this thesis, I aim to enhance neural comic book understanding by making use of comics' unique multimodal nature and processing comics in a character-centric approach. The primary data source for this thesis is the Golden Age of American Comics due to its public accessibility and abundance of comic series. However, the availability of annotated data is limited. Thus, to achieve my goal, I have adopted a holistic approach composed of four main steps ranging from curating datasets to proposing novel tasks and architectures for comics. The first three steps aim to create a machine-readable comics database by locating comic book panels, identifying their components, and transforming character identities into a dialogue-like structure and the final step uses this database to train a transformer- based model. The first step involves extracting high-quality text data from speech bubbles and narrative box images using OCR models. I decompose comic pages into their constituent components in the second step through detection, segmentation, and association tasks with a refined Multi-Task Learning (MTL) model. Detection involves identifying panels, speech bubbles, narrative boxes, character faces, and bodies. Segmentation focuses on isolating speech bubbles and panels, while the association task involves linking speech bubbles with character faces and bodies. In the third step, I utilize the paired character faces and bodies obtained from the previous stage to create character instances and, subsequently, reidentify and track these instances across sequential panels. In the final step of my thesis, I propose a multimodal framework by introducing the ComicBERT model, which exploits the abovementioned structure. Cloze-style tasks were used to evaluate ComicBERT's contextual understanding capabilities. Furthermore, I propose a new task called Scene-Cloze, which predicts the next panel given n previous panels as context. As a result, my approach achieves a new state-of-the-art performance in Text-Cloze and Visual-Cloze tasks with accuracies of 69.5% and 77.1%, respectively, thus getting closer to the human baseline. Overall, the highlights of my contributions are as follows: 1. I curated and shared COMICS Text+ Dataset with over two million transcrip- tions of textboxes from the golden age of comics. In addition, I open-sourced the text detection and recognition models that are fine-tuned for the task and datasets used in their training. 2. I refined a MTL framework for detection, segmentation, and association tasks and achieved SOTA results in comic character face and body-to-speech bubble association tasks. 3. I proposed a novel Identity-Aware Semi-Supervised Learning for Comic Character Re-Identification framework to generate unified and identity-aligned comic character embeddings and identity representations. Furthermore, I generated two new datasets: the Comic Character Instances Dataset, encompassing over a million character instances used in the self-supervision phase, and the Comic Sequence Identity Dataset, containing annotations of identities within sets of four consecutive comic panels used in semi-supervision phase. 4. I introduced the multimodal Comicsformer, a transformer-encoder architecture capable of processing sequential panels and their constituents. It serves as the backbone for the Masked Comic Modeling (MCM) task, a novel self- supervised pre-training strategy for comics, resulting in ComicBERT, a potential foundation model for golden age comics. ComicBERT achieves SOTA performance in cloze-style tasks, particularly in text-cloze and visual-cloze tasks, approaching human-level comprehension.
Dataset cartography for compositional generalization
Neural networks have revolutionized language modelling and excelled in various downstream tasks. However, the extent to which these models achieve compositional generalization comparable to human cognitive abilities remains debatable. While existing approaches in the field have mainly focused on novel architectures and alternative learning paradigms, we introduce a pioneering method harnessing the power of dataset cartography [Swayamdipta et al., 2020]. By strategically identifying a subset of compositional generalization data using this approach, we achieve a remarkable improvement in model accuracy, yielding enhancements of up to 10% on CFQ and COGS datasets. Notably, our technique incorporates dataset cartography as a curriculum learning criterion, eliminating the need for hyperparameter tuning while consistently achieving superior performance. Moreover, as the data becomes the bottleneck in the current large language model (LLM) pipeline, covering every possible combination of known words or phrases becomes infeasible. Therefore, we focus on compositional generalization in LLMs to help LLMs process the combinations of unseen language parts faithfully. We expand the previously described setting above to LLMs and propose a new diversity-aware subset selection method named DiCart, a fusion of dataset cartography and determinantal point processes. DiCart results in better or on-par compositional generalization than baselines and even the full training set.
Veri madenciliği ve doğal dil işleme teknikleri kullanılarak salgın hastalıklarda tutum, davranış ve bilgi kirliliğinin belirlenmesi
Günümüzde bilgi toplumunun unsurlarını hayatın her alanında görmek mümkündür. Bu durum veri üretimi istatistiklerine net bir şekilde yansımaktadır. 2012 rakamları ile dünyada günlük 2.5 Kentirilyon byte veri üretilmektedir. Bu çapta büyük veriyi işleme, transfer etme gibi işlerin tümüne Büyük veri (Big Data) adı verilmektedir. Alanında uzman olmayan kişilerin; herhangi bir deneyime dayalı olmayan, bir akıl ve mantık süzgecinden geçirilmemiş bazı şeyleri, doğru bir bilgi gibi insanların kullanımına sunması da "bilgi kirliliği" denilen kavramı günümüzde ortaya çıkarmıştır. Denetimsiz bir mecra olan internette, doğruluğu ispat edilmemiş ve güvenirliği sorgulanmayan, kaynağı belirsiz her şeyi aklına geldiği gibi yazarak bunu gerçek bir bilgi gibi paylaşması sonucunda; değerli ve yararlı bilgiye erişmek oldukça zor hâle gelmiştir. Bu bilgi kirliliğinin sağlık yönetimi üzerine olan negatif etkilerinin araştırılması, bu negatif etkilere karşı akılcı önlemler alınması sağlık yönetimini kolaylaştırabilir. En güncel örnek olarak covid 19 pandemisi süresince uzman olmayan kişiler tarafından bilinçsizce veya kasıtlı olarak sosyal medya mecralarında paylaşılan kaynaksız bilgiler salgın yönetimini zorlaştırmıştır. Anılan sebepler doğrultusunda bu alanda bilgi kirliliğini tespit edip azaltmaya yarayacak algoritmalar denemek ve bu doğrultuda analiz çalışmaları yapmak problemin çözümü açısından faydalı olabilir. Çalışmamızda veri madenciliği teknikleri kullanılarak sosyal medyada (Twitter) paylaşılan bilgilerin salgın ve sağlık yönetimi açısından etkileri araştırılmıştır. Bilgi kirliliğinin toplum sağlığına etkileri programlama dilleri vasıtasıyla internet tabanlı sosyal mecralardan toplanan verilerle analiz edilmeye çalışılmış ve etkileri sunulmuştur.
E-ticaret ürünlerindeki türkçe kullanıcı yorumlarınınoyunlaştırma, nlp ve makine öğrenmesi teknikleri ile sınıflandırılması
Türkiye'de ve dünyada internet alışverişi, günden güne büyüyen, önemi giderek artan, dev bir sektör halini almış durumdadır. Özellikle bu tezin yazıldığı dönem itibari ile pandemi sürecinin getirdiği global kısıtlamalarla beraber altın çağını yaşayan internet alışverişinin önemi bir kez daha görülmüştür. Zaman tasarrufu, evden çıkmadan alışveriş yapmanın rahatlığı, yorulmadan ayağımıza gelen hizmet, ürün çeşitliliği, ödeme kolaylığı, ürünler ile ilgili yorumları görebilme, ürün karşılaştırmaları ve teslimat kolaylığı tüketicileri internet alışverişine çeken önemli unsurların başında gelmektedir. Bu unsurlardan bazıları tüketicilerin ürün tercihlerini ciddi oranda etkilemektedir. Bunlardan biri de ürünlere yapılmış olan tüketici yorumlarıdır. Bir ürünü daha önce almış ve deneyimlemiş tüketicilerin yorumları, ürünü alacak olan tüketicilerin tercihlerini etkilemektedir. Bu tezin başlıca amacı, Türkiye'deki internet alışverişi sitelerindeki satılan ürünlere yapılan yorumları sınıflandırma algoritmaları, oyunlaştırma ve doğal dil işleme (NLP) teknikleri kullanılarak değerlendirilmesi amacıyla gelecek çalışmalara ışık tutmaktır. Toplamda 27 teknoloji ürünü ve 11236 kullanıcı yorumu üzerinde oyunlaştırma tekniği kullanılmıştır. Mobil uygulama oyunu üzerinden yapılan bir yarışma ile veri tabanında saklanan veriyi, rastgele bir şekilde uzmanlara göstererek, manuel etiketlemeler sonucu kategorize edilmiş eğitim verisi, doğal dil işleme (Zemberek, gürültü azaltma,belirteç oluşturma, normalleştirme), makine öğrenmesi ve sınıflandırma teknikleri (Fasttext, cbow, skipgram) kullanılarak 5 farklı duyguya (Çok olumlu, olumlu, nötr, olumsuz, çok olumsuz) kategorize edilmiştir. Kullanıcıların yazdıkları yorumlar ve verdikleri puanlardaki bazı tutarsızlıklar da grafiksel olarak gösterilmiş olup, gelecek çalışmalara yönelik olarak yorumlanmıştır.
Türkçe yoruma dayalı metin özetlemede transformer tabanlı veri arttırma destekli hibrit yaklaşım önerisi
Bu tez çalışması, Türkçe dilinde otomatik metin özetleme alanında transformer tabanlı modellerin ince ayar süreçlerini sistematik olarak incelemeyi ve farklı veri artırma stratejilerinin model performansı üzerindeki etkilerini değerlendirmeyi amaçlamaktadır. Düşük kaynaklı diller arasında yer alan Türkçe için, sınırlı veri miktarının özetleme modelleri üzerindeki etkisini azaltmak ve daha yüksek performanslı özetleme sistemleri geliştirmek hedeflenmiştir. Çalışmada, kodlayıcı-çözücü mimarisine sahip Multilingual Bidirectional and Auto-Regressive Transformer (MBART), Multilingual Text-to-Text Transfer Transformer (MT5) ve VBART modelleri seçilerek hem orijinal veri hem de farklı veri artırma teknikleriyle zenginleştirilmiş veri setleri üzerinde eğitim süreçleri gerçekleştirilmiştir. Bu kapsamda üç farklı veri senaryosu tasarlanmış; geri çeviri, eş anlamlı kelime değiştirme ve her iki yöntemin birleşimiyle oluşturulan hibrit veri artırımı stratejileri uygulanmıştır. Tez kapsamında, yalnızca farklı veri artırma yöntemlerinin nicel etkilerini ortaya koymak değil, aynı zamanda bu yöntemlerin model çıktılarının içerik kalitesi ve bağlamsal tutarlılığı üzerindeki etkilerini de nitel olarak değerlendirmek amaçlanmıştır. Bu çerçevede, Recall-Oriented Understudy for Gisting Evaluation (ROUGE) metrikleriyle yapılan ölçümler istatistiksel yöntemlerle desteklenmiş, model çıktıları ise içerik analizi yöntemiyle derinlemesine incelenmiştir. Bu çalışma ile Türkçe için daha etkili özetleme modellerinin geliştirilmesine katkı sunmak, aynı zamanda düşük kaynaklı dillerde doğal dil işleme alanında veri artırma stratejilerinin önemini vurgulamak hedeflenmiştir.
Havayolu işletmelerinde müşteri tatmin boyutlarının cümle gömme tabanlı konu modelleme yöntemiyle belirlenmesi
Yoğun rekabetin hâkim olduğu havacılık sektöründe, müşteri tatminini sağlamak ve yolcuları sadık müşterilere dönüştürmek önemli bir rekabet avantajı olarak kabul edilmektedir. Verilen hizmetlerin yolcular tarafından nasıl değerlendirildiği anlamak ve müşteri tatminini oluşturan unsurları tespit etmek havayolu işletmeleri için büyük bir önem taşımaktadır. Geleneksel yöntemlerin yanı sıra geliştirilen yeni analiz yöntemleri, yolcuların seyahat deneyimlerine dair çevrim içi değerlendirmelerini inceleme fırsatı sunmaktadır. Bu kapsamda araştırma, havayolu işletmelerinde müşteri tatminini belirleyen faktörlerin çevrim içi yolcu değerlendirmeleri üzerinden analiz edilmesini amaçlamıştır. Çalışmada küresel ölçekte farklı havayolu işletmelerine ait 436.343 yolcu değerlendirmesi analiz edilmiş ve güncel metin madenciliği yöntemleri kullanılarak müşteri tatminine ilişkin boyutlar belirlenmiştir. Araştırmanın ilk aşamasında, geleneksel ile cümle tabanlı yöntemleri karşılaştırmak ve veri setine en uygun konu modelleme yöntemini belirlemek amacıyla performans testi uygulanmıştır. Ön eğitimli dil modellerinden faydalanan cümle gömme tabanlı bir yöntem olan CombinedTM, belirlenen performans ölçütleri çerçevesinde daha yüksek başarı sağlamış ve araştırmanın devamında kullanılacak yöntem olarak belirlenmiştir. Araştırma sonuçları, müşteri tatmin boyutlarının gecikme, fiyat, kabin sınıfı, koltuk, havaalanı prosedürleri, müşteri hizmetleri, fiyat-değer oranı, kabin ekibi ve uçuş içi hizmetler gibi havayolu hizmet özellikleri etrafında şekillendiğini göstermiştir. Ayrıca farklı iş modelleri (tam hizmet sunan ve düşük maliyetli havayolu işletmeleri), kabin hizmet sınıfları (birinci sınıf, iş amaçlı sınıf ve ekonomi sınıfı) ve seyahat yönlerine (iç hat ve dış hat) göre müşteri tatmin boyutlarını da detaylı olarak incelemiştir. Sonuç olarak araştırma, cümle gömme tabanlı konu modelleme yöntemlerinin uygulanabilirliğiyle literatüre katkı sunarken, yolcuların seyahatlerine ilişkin ele alınan değişkenler çerçevesinde müşteri tatmin boyutlarındaki farklılıkları inceleyerek araştırmacılara ve uygulayıcılara pratik katkılar sağlamaktadır.
Doğal dil işleme ile makinelerin kendi dilini modellemesi
Doğadaki tüm canlılar birbirleri ile haberleşmek için çeşitli yöntemler kullanmaktadır. Dillerin oluşumu ve gelişimi hakkında hala yeterli bilgi bulunmamaktadır. Dillerin oluşumu ve doğal dil işleme süreçleri ile ilgili geçmişten günümüze kadar çeşitli çalışmalar yapılmış olup bu çalışmalar farklı metot, farklı analiz ve farklı yaklaşımlar içermektedir. Makinelerin kendi dillerini üretebilmesi için yaklaşım geliştirilmesi, böylece insansı makinelerin oluşturulma sürecinde bu makinelerin de tıpkı insanların sahip olduğu gibi kendi dilleri ile iletişim kurabilme süreçlerine katkıda bulunulmak, doğal dillerin oluşumu sürecinde de dil bilimcilere yol göstermesi, evrişimli sinir ağlarını kullanarak canlıları ayırt etme ve sınıflandırma yetilerini, yeni sesler türetme yetisini kazanması hedeflenmiştir. Görüntü işleme algoritmalarının ses işlemede kullanılarak daha etkin ses analizlerinin yapılmasının sağlanması ve ses işlemede yeni model geliştirilmesi konularına odaklanılmıştır. İnsanlar yüzyıllardır dillerin oluşumu ve gelişimi üzerine çalışmalar yapmaktadır. Diller sayesinde insanlar birbirleri ile etkileşimde bulunabilmektedir. Çalışma ile bu yetinin makinelere kazandırılması sağlanması için modeller oluşturulmuştur. Çalışmada var olan doğal dil işleme modelleri ile ses işleme modelleri kullanılmıştır. Öncelikle makineye günümüzde var olan alfabelerden hangisini kullanmak istediği karar verdirtilmiş ardından da Yenilemeli Yapay Sinir Ağları, Mel Frekans Cepstral Katsayısı ve Dinamik Zaman Çözgü yaklaşımı modellerinin birlikte kullanılması ile canlıların seslerine benzer sesler türetilmiş ve canlılar bu sesler ile adlandırılmıştır. Çalışma sonucunda, makinelerin kendi dillerini üretebilmesi için yaklaşım geliştirilmiştir. Böylece insansı makinelerin oluşturulma sürecinde bu makinelerin de tıpkı insanların sahip olduğu gibi kendi dilleri ile iletişim kurabilme süreçlerine katkıda bulunulmuştur. Doğal dillerin oluşumu sürecinde de dil bilimcilere yol göstermesi hedeflenmiştir.
Automated audio captioning with acoustic and semantic feature representation
Today, audio data is increasing rapidly with the developing technology and the increasing amount of data. Therefore, there is a need for understanding and interpretation of the content of audio data by human-like systems. Generally, audio processing studies have focused on speech recognition, audio event/scene, and tagging to process audio data. Speech recognition aims to translate a spoken language into text. Audio event/scene and tagging studies make single or few-word explanations of an audio recording. Unlike the previous studies, automatic audio captioning aims to explain an environmental audio record with a natural language sentence. This thesis explores the importance of using semantic information to improve audio captioning performance after a detailed literature study on audio processing, image/video, and audio captioning. In this context, computational models have been developed using linguistic knowledge (subject-verbs), topic model, knowledge graphs, and acoustic events for audio captioning. As a methodology, the contributions of different features, word embedding methods, deep learning architectures and datasets, and the contribution of semantic information to audio captioning were examined. Within the scope of the studies, two publicly open audio captioning datasets were used. The success of the models proposed in the thesis was compared with the studies using the same datasets. The results show that the proposed methods improve AAC performance and give results comparable to the literature.
Text conversion system between Turkic dialects
Turkic communities come from a common culture; however the interaction with other communities over years caused diversion especially in written language. A system which can automatically translate documents written in different Turkic languages will be an important step towards eliminating the disunity of Turkic communities on written work of art over past ninety years and obtaining fusion of Turkic communities. In this study, a rule-based and semi-supervised machine translation system (MT-Turk), which is designed for closely related Turkic languages and implemented on Turkish, Kirghiz and Kazan Tatar, is presented. MT-Turk is an extensible bidirectional translation infrastructure in which new Turkic dialects can be added by just adding the lexicon of roots/stems, suffixes, and the rules. Furthermore, it is open to extension by suggestion. In order to form a multilingual machine translation infrastructure, two subsets of rule-based approach, the interlingual machine translation approach and transfer-based approach were used in combination to achieve extensibility and interoperability. The success of the translation process was evaluated using both BLEU and NIST metrics. The evaluated scores were between 5.04 and 15.12 for BLEU, between 3.12 and 4.64 for NIST in unsupervised translation and between 7.20 and 21.71 for BLEU, between 3.52 and 4.77 for NIST in semi-supervised translation for various language pairs and translation directions. Depending on these results, it was seen that the efficiency of the translation process is extremely dependent on the size of the lexicon and the rule base. Keywords: Machine translation, natural language processing, rule-based machine translation, multi-word expressions, Turkic dialects, Turkish, Kirghiz, Kazan Tatar
Uluslararası inşaat sözleşmeleri için doğal dil işleme ve makine öğrenimi teknikleri kullanılarak potansiyel risk tespit modeli geliştirilmesi
Uluslararası inşaat projelerinde, tarafların görev ve sorumluluklarının belirlendiği inşaat sözleşmelerinden kaynaklı pek çok hak talebi ve uyuşmazlıklar ortaya çıkmaktadır. Özellikle inşaat projelerinin ihale sürecinde işveren tarafından sağlanan sözleşme şartlarının yüklenici tarafından detaylı bir şekilde gözden geçirilmemesi bu hak talebi ve uyuşmazlıklara sebep olmaktadır ve taraflar büyük kayıplara uğramaktadır. Bu amaçla tez çalışmasında ihale sürecinde taslak halinde olan inşaat sözleşmelerindeki potansiyel riskli sözleşme maddelerini tespit etmek için doğal dil işleme ve makine öğrenimi teknikleri kullanılarak bir model geliştirilmiştir. Geliştirilen model için FIDIC standart sözleşme şartları kullanılarak veri seti oluşturulmuştur. Oluşturulan veri setinin etiketlenmesi için anket çalışması ile potansiyel riskli 25 madde başlığı belirlenmiş ve belirlenen madde başlıkların üzerinde yapılan anahtar kelime çıkarma uygulaması ile riskle ilgili olabilecek 45 kelime ve kelime grubu çıkarılmıştır. Çıkarılan anahtar kelimeler için yapılan anket çalışmasında risk matrisi kullanılarak risk puanı belirlenmiş ve bu risk puanları kullanılarak oluşturulan veri seti etiketlenmiştir. Etiketlenen veri seti üzerinde doğal dil işleme teknikleri uygulanarak veriler makine öğrenimi algoritmalarının uygulanması için hazır hale getirilmiştir. Modelde altı farklı makine öğrenimi algoritması uygulanmış ve uygulanan makine öğrenimi algoritmaları başarılı sınıflandırma performansı göstererek potansiyel riskli sözleşme maddelerini tespit etmiştir. Yapılan çalışma ile uluslararası inşaat projelerinde sözleşme yöneticilerini karar verme sürecinde destekleyici ve sözleşmenin gözden geçirilmesi sürecinde kullanabileceği hızlı ve verimli bir teknik model sunulmuştur.
Türkçe magazin haberlerinde adlandırılmış varlık tanıma
Bu tez çalışması, Türkçe magazin haberlerinde adlandırılmış varlık tanıma üzerine odaklanmaktadır. Amaç, Türkçenin eklemeli yapısı ve magazin dilinin bağlama dayalı özellikleri karşısında derin öğrenme tabanlı modellerin performansını değerlendirmektir. Bu kapsamda, kişi, tarih, organizasyon, konum ve ilişki gibi on bir varlık türünü içeren, manuel olarak etiketlenmiş alana özgü bir veri kümesi oluşturulmuştur. Etiketleme BIO ve non-BIO formatlarında yapılmış, veriler eğitim ve test kümelerine ayrılmıştır. Üçü Türkçeye özgü, ikisi çok dilli olmak üzere beş farklı dönüştürücü tabanlı model eğitilmiş ve doğruluk, kesinlik, duyarlılık, F1 skoru gibi metriklerin yanı sıra karışıklık matrisi ve t-SNE görselleştirmeleri ile analiz edilmiştir. Karşılaştırmalar, her iki etiketleme sisteminde de en yüksek başarının mBERT modeli ile elde edildiğini ortaya koymuştur. Çok kelimeli varlıkların tespitinde, kullanılan etiketleme formatı ile modelin yapısal özelliklerinin uyumu belirleyici olmuştur. Ayrıca modellerin karar süreçlerini yorumlayabilmek için LIME tabanlı açıklanabilirlik analizi de gerçekleştirilmiştir. Sonuçlar, derin öğrenme yöntemlerinin Türkçe magazin haberlerinde etkili bir şekilde uygulanabileceğini ve doğru model ile etiketleme formatı uyumu sağlandığında yüksek doğruluk elde edilebileceğini göstermektedir.
Hakem ataması için bir karar destek sistemi
Son zamanlarda artan Ar-Ge proje sayıları ve farklılaşan proje faaliyet alanları ile birlikte Ar-Ge projelerinin ait olduğu araştırma alanlarının belirlenmesi ve bu araştırma alanlarına uygun hakemlerin tespitinde yaşanan sıkıntılar nedeniyle projelerin desteklenme süreçleri olumsuz etkilenebilmektedir. Bu çalışmada, Ar-Ge projelerinin sınıflandırılması amacıyla öncelikli olarak çalışmanın gerçekleştirildiği veri tabanındaki veriler temizlenmiştir. Ardından, doğal dil tekniklerinden biri olan "Word2Vec" kelime temsili yöntemi ile otomatik özellik öğrenme yaklaşımı kullanılarak özelliklerin sınıflandırılması amacıyla "Evrişimsel Sinir Ağları (CNN-Convolutional Neural Network) modelleri oluşturulmaya çalışılmıştır. Bununla birlikte hakem performansının hiyerarşik bir yapıda ölçülmesi tez kapsamında amaçlanmıştır. Ana grupların ve alt grupların performans kriter değerleri, grup çok kriterli karar verme yaklaşımında kullanılan tereddütlü bulanık sayılarla VIKOR yöntemine entegre edilmiş ve Ar-Ge proje hakemlerinin TOPSIS yöntemine göre performansları ölçülmeye çalışılmıştır. Son olarak, Ar-Ge projelerinin metin tanıma yöntemleri ile sınıflandırılması ve çok kriterli karar verme yöntemleri kullanılarak projelere hakem atanmasının sağlanmasına imkan veren yapay zekâ temelli bir karar destek sistemi geliştirilmiştir.
Determination of Turkish word clauses for part of speech tagging
According to their types of duties in a sentence, the meaning of the sentence varies. Therefore, in order to determine the exact meaning of the words in a sentence, the type and duty of the words should be examined. After the type determination process, the word phrases can be obtained.In Turkish, depending on the word combinations, different word phrases can be occurred based on the types of the words. For this reason, all phrase possibilities should be considered during type determination process. After determining the word phrases, word clauses can be detected.The most common problem faced in Natural Language Processing studies for Turkish is ambiguity problem. By determining word clauses, the ambiguities can be mainly solved and most exact meanings of the words can be determined.In this study, rule based algorithm for determinant of word clauses in Turkish and software based on this algorithm was developed. It was seen that, by adding more rules to the system, the results are engetting more reliable.