Privacy-preserving data normalization techniques with multiparty homomorphic encryption for federated learning

Veri normalleştirme, model performansını ve eğitim kararlılığını artırmak için çok önemli bir ön işleme adımıdır. İşbirliğine dayalı model eğitimi sırasında verilerin birden fazla tarafa dağıtıldığı federe öğrenmede (FL), verilerin merkezi olmayan ve genellikle heterojen yapısı nedeniyle normalleştirme benzersiz zorluklar ortaya çıkarır. Geleneksel yöntemler ya bağımsız istemci tarafı işlemeye, yani yerel normalleştirme, ya da tüm veri kümesini taraflara dağıtmadan önce normalleştirmeye, yani havuzlanmış normalleştirme, dayanır. Yerel normalleştirme heterojen veri dağılımlarında sorunluyken, havuzlanmış normalleştirme FL'nin merkeziyetsiz yapısıyla çelişir. Bu tezde, yaygın olarak kullanılan normalleştirme tekniklerinin FL'ye uyarlanmasını araştırıyor ve federe normalleştirme terimini tanımlıyoruz. Federe normalleştirme, taraflar arasında parametre paylaşımıyla havuzlanmış normalleştirmeyi simüle eder. Böylece, veri yerelliğinden ödün vermeden havuzlanmış normalleştirme ile eşit performans elde eder. Bununla birlikte, medyan gibi normalleştirme parametrelerinin paylaşılması potansiyel gizlilik risklerini beraberinde getirir ve biz de bu riskleri gizliliği koruyan sağlam bir çözümle azaltıyoruz. Katkılarımız şunları içermektedir: (i) Bağımsız ve özdeş dağılımlı olmayan FL senaryolarında çeşitli federe ve yerel normalleştirme tekniklerinin etkisini sistematik olarak değerlendiriyoruz, (ii) Güvenli ve verimli federe normalleştirme sağlayan, federe ortam için uyarlanmış yeni bir homomorfik olarak şifrelenmiş k-inci sıralı eleman (ve medyan) hesaplaması öneriyoruz, (iii) Çok partili tam homomorfik şifrelemeden (MHE) yararlanarak FL için yaygın olarak kullanılan normalleştirme tekniklerinin gizliliği koruyan uygulamalarını öneriyoruz.