Geleneksel regresyon analizi ile yapay sinir ağlarının farklı aktivasyon fonksiyonları kullanılarak karşılaştırılması

Yapay zekâ insan zekasını taklit eden, topladığı bilgileri anlamlandırıp çıkarımlar yaparak karar alan ve uygulamaya koyan sistemlerdir. Yapay sinir ağları (YSA) ise yapay zekânın bir alt dalıdır ve araştırmacılar tarafından yaygın olarak kullanılmaktadır. Her YSA'nın temelinde, ağın eğitiminde önemli bir rol oynayan aktivasyon fonksiyonu (AF) yatmaktadır. AF, nöronun girişi ile çıkışı arasında matematiksel bir ilişki oluşturur ve modele doğrusal olamama özelliği kazandırır. Bunların yanında ağın hızına ve doğru tahmin etme yeteneğine önemli oranda katkı sağlar. Bu tezin amacı, önceden tanımlanmış AF'lerin avantajlarını birleştiren ve onlardan daha iyi performans gösteren yeni AF'leri tanımlamaktır. Bu amaçla Sigmoid, ReLU, Swish ve cebirsel AF'lerden yararlanarak Gen-Swish, Mean-Swish, ReLU-Swish, TS-Swish, SiPA, TS-Sigmoid, Exp-Swish, Sinc-Sigmoid AF tanımlanmıştır. Önerilen yeni AF'ler farklı ağ mimarilerinde kullanılarak elde edilen sonuçlar ile geleneksel regresyon sonuçları karşılaştırılmış ve YSA modellerinin regresyona göre daha başarılı oldukları görülmüştür. Ayrıca kullanılan veri setlerine bağlı olarak ağ performansları değişse de önerilen bazı fonksiyonların sık kullanılan fonksiyonlara göre daha başarılı olduğu tespit edilmiştir.