Byzantine attack robust federated learning

Federe öğrenmede, katılımcılar yerel verilerini paylaşmadan, toplu olarak, küresel bir modeli eğitirler. Katılımcıların yerel eğitim süreçlerinden elde edilen yerel model parametreleri, global modeli oluşturmak üzere güvenilir bir sunucuda toplanır. Gizliliği korumak adına, güvenilir sunucunun eğitim prosedürü üzerinde hiçbir yetkisi yoktur. Bu nedenle, küresel model, veri zehirlenmesi ve model zehirlenmesi gibi saldırılara karşı savunmasızdır. Bu saldırılara karşı birçok savunma stratejisi önerilmiş olsa da bu stratejiler çoğu zaman federe öğrenmenin karakteristiğiyle uyumlu olmayan güçlü varsayımlarda bulunurlar. Bu çalışmalar çoğunlukla kapsamlı deneysel analizler de yapmamışlardır. Bu tezde, BARFED (Bizans Saldırısına Dayanıklı Federe Öğrenim) adı verilen varsayımdan bağımsız bir savunma mekanizması öneriyorum. BARFED, kötü niyetli katılımcı oranı, katılımcıların verilerinin dağılımları ve gradyan güncelleme benzerliği gibi federe öğrenme ortamı hakkında varsayımda bulunmaz. BARFED, küresel model ile katılımcıların yerel modelleri arasındaki mesafeyi katman bazında inceler ve katılımcıların aykırı değer olması durumuna göre ana model toplama kuralı adımına katılıp katılmayacağına karar verir. Başka bir deyişle, yalnızca model mimarisinin herhangi bir katmanında aykırı değer olarak etiketlenmeyen katılımcılar toplama adımına katılabilir. Data dağılımı, saldırganların organize olup olmadığı gibi birçok yönü kapsayan kapsamlı deneyler yaparak BARFED'in farklı saldırılara karşı güçlü bir savunma sağladığını gösteriyorum.