Metin madenciliği ve derin ağlar ile soru cevap sistemi

Günümüzde teknolojinin hızlı gelişimi, insanların yaşam şekillerinde birçok alışkanlığında değişimine sebep olmuştur. Pandeminin de etkisiyle eğitim başta olmak üzere birçok alanda yüz yüze iletişim oldukça azalmıştır. Birçok kurum sektörlerine yönelik verileri kullanmak amacıyla çalışmalar yapmaktadırlar. Gelişen yapay zekâ teknolojileriyle, bu çalışmalar firmalara katma değer kazandırmaktadır. Bu değeri kazandıran çalışma alanlarından biri de yapay zekânın alt dalı olan doğal dil işlemede soru cevaplama sistemleridir. Soru cevaplama sistemleri, kullanıcıların doğal dildeki sorularına cevap verebilme yeteneğine sahip sistemlerdir. Bu sistemler soruları anlama ve doğru cevapları bulma aşamalarından oluşmaktadır. Sorular doğal dil işleme teknikleriyle analiz edilir ve cevaplar bilgi çekme yöntemleriyle ilgili veri kaynaklarından elde edilir. Bu çalışmada, metin madenciliği ve derin ağlar kullanılarak soru cevaplama modelleri tasarlanmıştır. Önceden eğitilmiş İngilizce BERT-base modeli farklı hiperparametrelerle ince ayar tekniği kullanılarak Stanford Soru Cevaplama Veri Seti (SQuADv1.1) ile eğitimi yapılmıştır. Eğitim sonucu literatürde yapılan çalışmalara kıyasla %88,13 F1 skoru ve %80,74 Tam Eşleşme (Exact Match - EM) oranıyla yüksek başarı elde edilmiştir. Ardından Türkçe Tarih Soru Cevaplama Veri Seti (THQuADv1.0) üzerinde iyileştirme çalışması yapılmıştır. Veri setine Düzce Üniversitenin birimleriyle ilgili sorularda eklenerek THQuADv2.0 olarak güncellenmiştir. Önceden eğitilmiş Türkçe BERTurk-base modeli İngilizce modelde elde edilen başarılı hiperparametrelerle ince ayar tekniği kullanılarak THQuADv2.0 veri seti ile eğitimi yapılmıştır. Yapılan eğitim sonucunda Türkçe soru cevaplama için BERTDuQuA (BERT Düzce University Question Answering) modeli oluşturulmuştur. BERTDuQuA modeli %87,10 F1 skoru ve %76,90 EM ile yüksek başarı elde edilmiştir. BERT modeline BiLSTM katmanıda eklenerek yeni bir model oluşturulmuştur. Türkçe modelde elde edilen başarılı hiperparametrelerle ince ayar tekniği kullanılarak THQuADv2.0 veri seti ile eğitimi yapılmıştır. Yapılan eğitim sonucunda Türkçe soru cevaplama için BERTBiDuQuA (BERT&BiLSTM Duzce University Question Answering) modeli oluşturulmuştur. BERTBiDuQuA modeli %88,84 F1 skoru ve %78,43 EM ile yüksek başarı elde edilmiştir.