Adaptif öğrenme oranı ve karmaşık sayıların makine öğrenmesine etkisi

Öğrenme katsayısı, yapay sinir ağlarının eğitim performansını doğrudan etkileyen temel hiperparametrelerden biridir. Bu parametrenin uygun seçilmemesi, ağın yakınsama hızını, genelleme kabiliyetini ve eğitim sürecini olumsuz yönde etkilemektedir. Literatürde bu problemin çözümü için adaptif öğrenme katsayıları, hata temelli dinamik ayarlamalar ve katman bazlı yöntemler önerilmiş olmakla birlikte kesin ve genel bir çözüm geliştirilememiştir. Sabit bir öğrenme katsayısının kullanımından kaynaklanan sınırlamaları gidermek amacıyla KarcıFANN yöntemi kullanılmaktadır. KarcıFANN yöntemi, kesir dereceli türev yapısı nedeniyle bazı durumlarda karmaşık değerler üretmektedir. Eğitim sürecinde reel bileşenlerin işlenmesi, bilgi kaybına ve optimizasyon kararsızlıklarına yol açabilmektedir. Bu tezde, YSA'larda karşılaşılan bu problemleri çözmek amacıyla karmaşık değer kullanımının öğrenmeye etkisi incelenmektedir. Bu doğrultuda reel ve sanal bileşenleri birlikte işleyen bir yöntem önerilmektedir. Digits, MNIST Rotation 45°, 2BFT-Digits ve 2BFT-MNIST Rotation 45° veri setleri kullanılarak yapılan sınıflandırma sürecinde; reel değerlerin kullanıldığı Reel model, reel ve sanal bileşenlerin birlikte kullanıldığı Kompleks model ile karmaşık değerin genlik bilgisini değerlendiren Abs modeli kullanılmıştır. Elde edilen sonuçlar, Kompleks modelin en yüksek performansa sahip olduğunu ve Reel modelin frekans dönüşümlü verilerde düşük performans sergilediğini göstermiştir. Ayrıca, Abs modelinde faz bilgisi kullanılamadığından başarımın düştüğü görülmüşür. Bu bulgular, karmaşık sayılarla hesaplamaların, KarcıFANN'ın öğrenme performansını belirgin biçimde artırdığını kanıtlamıştır. KarcıFANN ve klasik YSA yöntemlerinin performansları, Kuzushiji-MNIST, GinaPrior2 ve Sign-MNIST veri setlerinin sınıflandırılmasında karşılaştırmalı olarak değerlendirilmiştir. Ayrıca, SGD, Momentumlu GD ve Adam optimizasyon yöntemleri ile KarcıFANN'ın yakınsama davranışları XOR problemi üzerinde incelenmiştir. Son olarak KarcıFANN'ın farklı hata fonksiyonları (MSE, RMSE ve MAE) ile kullanımının modellerin performansına etkileri incelenmiştir. Anahtar Kelimeler: KarcıFANN, yapay sinir ağları, SGD, Momentumlu GD, ADAM