End-to-end hybrid architectures for effective sequential data prediction

Çevrimiçi öğrenim ile doğrusal olmayan tahminlemeyi çalıştığımız bu tezde, iki adet etkili melez öğrenme metodu sunmaktayız. Bu metotlar, uçtan uca mimariler olup etkili bir şekilde geleneksel algoritmaların zaaflarından olan ihtisasa ve elle ayarlamaya dayalı öznitelik ve model seçimini ortadan kaldırmaktadır. Ayrıntılı olarak, ilk modelimizde gelişmiş bir yinelemeli yapay sinir ağı (Uzun-Kısa-Soluklu Bellek) kullanarak sıralı ham veriden öznitelik özümlemesini otomatik olarak gerçekleştirirken, yumuşak (türevlenebilir) gradyan destekli karar ağaçlarıyla nihai tahmini etkili bir şekilde sağlamaktayız. Bu iki taban modelin birbirine bağlanması uçtan uca olup tüm mimari olasılıksal gradyan inişi (OGİ) ile ortaklaşa eğitilmektedir. İkinci modelimizde ise yine yinelemeli yapıları (UKSB) kullanarak ham veriden öznitelik çıkarımını özedimli hale getirirken, yanına zaman serileri için özel olarak tasarlanmış geleneksel bir model olan harici değişkenli ve tümlevli mevsimsel otoregresif hareketli ortalamalar modelini koyarak ardıl verilere has mevsimsellik gibi çetrefilliklere daha etkili bir şekilde hitap etmekteyiz. Bu iki modelin çalışması yine ayrışık olmayıp tüm mimariyi tek bir durum uzayında toplayıp parçacık süzme (PS) tekniği ile eğitimini gerçekleştirmekteyiz. Sunduğumuz her iki melez mimari de jenerik olup istenirse UKSB yerine, örneğin, geçitli yinelemeli ünite (GYÜ) gibi modeller kullanılabileceği gibi, diğer bileşenler için de herhangi bir türevlenebilir makine öğrenmesi modeli ve durum uzayı temsiline sahip bir geleneksel zaman serisi modeli de kullanılabilmektedir. Ortaya koyduğumuz mimarilerin öğrenme davranışlarını yapay veri setleri ile gösterirken, hem diğer geleneksel metotlara hem de ayrışık hallerine kıyasla elde ettikleri kaydadeğer performans artışlarını da çeşitli gerçek hayat verileri ile sunuyoruz; bu verilerle aynı zamanda modellerin jenerikliğini de göstermekteyiz. Ayriyeten, ortaya konulan modellerin kaynak kodlarını da açık bir şekilde paylaşmaktayız.