İkili ağırlıklı ağ ve XNOR-ağ ikilileştirilmiş evrişimsel derin sinir ağlarının analizi

Evrişimsel derin sinir ağları (ESA), çoğunlukla görüntü tanıma ve görüntü tespiti işlemlerinde kullanılmakta ve etkileyici performanslar göstermektedir. ESA modellerinin boyutları gün geçtikçe daha da genişlemektedir. Bu sayede başarıları dolaylı olarak artırmakla beraber yüksek olan parametre sayıları, bellek ve işlem maliyetleri de artmaktadır. Bu yüksek bellek ve işlem maliyetinden dolayı gömülü sistemler, mobil aygıtlar, IoT (Nesnelerin İnterneti) gibi kısıtlı donanımlarda uygulanmasında problemler meydana gelmektedir. Bu problemler için çeşitli çözüm yolları geliştirilmektedir. ESA'ların yüksek olan bellek ve işlem maliyetlerini azaltmak için ortaya sunulmuş yöntemlerden birisi ağı ikilileştirmektir. ESA'ların büyük bir çoğunluğunun efektif çalışabilmesi için GPU'lar (Grafik İşlem Birimi) gereklidir. Tek başına CPU'lar (Merkezi İşlem Birimi) yeterli olamamaktadır. İkilileştirilmiş yapay derin sinir ağları, GPU bağımlılığına çözüm sunulabilmekte ve orta – düşük performanslı CPU'larda da ESA'ların çalışmasına olanak sağlanabilmektedir. Bu çalışmada, ağ ikilileştirme yöntemlerinden olan İkili Ağırlıklı Ağ (İAA) ve XNOR-Ağ yapıları incelenmiştir. CIFAR-10, CIFAR-100, MNIST ve SVHN veri setleri kullanılarak LeNet-5, AlexNet, VGG modelleri ve bu çalışma için özelleştirilmiş ağ modelleri ile belirtilen algoritmalar test edilmiştir. Klasik ondalıklı parametrelere sahip ağlarla doğruluk, işlem hızı, bellek maliyeti, enerji tüketimi gibi kriterler temel alınarak karşılaştırmaları yapılmıştır. XNOR-Ağ ile ESA'lar yaklaşık 58 kat daha hızlı çalışmaktadır. Hem XNOR-Ağ hem de İAA ile tek duyarlıklı kayan noktalı formata göre 32 kat, çift duyarlıklı kayan noktalı formata göre 64 kat bellek tasarrufu sağlanmaktadır.