Analysis of gender bias in legal texts using natural language processing methods

Kelime temsilleri, doğal dil işlemede (NLP) sıkça kullanılan önemli yapı taşları haline gelmiştir. Çeşitli avantajlarına rağmen, kelime temsilleri, üzerinde eğitildikleri derlemlerde bulunan bazı cinsiyet ve etnik kökene dayalı önyargıları istemeden barındırabilir. Kelime temsilleri birçok üst düzey algoritmada yaygın olarak kullanıldığından etik kaygılar ortaya çıkmıştır. Ayrıca, dönüştürücü tabanlı bağlamsallaştırılmış dil modelleri, çeşitli doğal dil işleme (NLP) görevlerinde ve uygulamalarında en son teknolojiyi oluşturmaktadır. Yararlarına rağmen, bağlamsallaştırılmış modeller, eğitim derlemleri genellikle insan tarafından üretilen metinlerden oluştuğu için insan benzeri sosyal önyargılar içerebilir. NLP modellerinde sosyal önyargıları değerlendirmek ve ortadan kaldırmak, devam eden ve öne çıkan bir araştırma çabası olmuştur. Buna paralel olarak, hukuk alanındaki NLP yaklaşımları, yani yasal NLP veya hesaplama hukuku da son zamanlarda sıkça çalışılan alanlardır. Hukuk alanında istenmeyen önyargıların ortadan kaldırılması iki kat önemlidir, çünkü hukukun insanlar üzerindeki önemi ve etkisi en üst düzeydedir. Cinsiyet yanlılığı sorununa yasal metin işleme alanı kapsamında yaklaşmaktayız. Çalışmamızın ilk aşamasında, Word2Vec ve GloVe gibi geleneksel kelime yerleştirmelerdeki cinsiyet yanlılığına odaklandık. Yasal belgelerdeki cinsiyet yanlılığını ölçmek ve ortadan kaldırmak için farklı ülkelerdeki yasal belgeler ve mevzuattan oluşan derlemler üzerinde eğitilen kelime temsilleri modelleri kullanılmıştır. Cinsiyet önyargısının derecesini ortaya çıkarmak ve ülkeler arasındaki değişimini gözlemlemek için çeşitli yöntemler kullanılmıştır. Ayrıca, istenmeyen önyargıyı etkisiz hale getirmek için bir önyargısızlaştırma yöntemi kullanılmıştır. Saptırılmış vektör uzayının anlamsal tutarlılığının korunduğu, üst düzey görevler kullanılarak da gösterilmiştir. İkinci aşamada, BERT tabanlı modellerde kodlanan cinsiyet yanlılığını inceledik. FBI veri tabanından suç sözcükleri kullanan bir önyargı değerlendirme külliyatı ile şablon tabanlı yeni bir önyargı ölçüm yöntemi önerdik. Bu yöntem, yasal uygulamalar için BERT tabanlı modellerde bulunan cinsiyet yanlılığını ölçmektedir. Ayrıca, yasal olarak önceden eğitilmiş modellerin önyargısını gidermek için Avrupa İnsan Hakları Mahkemesi (AİHM) külliyatını kullanan ince ayara dayalı bir önyargı azaltma yöntemi önerdik. Önyargısızlaştırma işlemi sırasında altta yatan semantik vektör uzayının bozulmadığını doğrulamak için LexGLUE kıyaslamasında önyargısız modelleri test ettik. Son olarak, genel sonuçlar ve bunların yansımaları, yasal alanda NLP kapsamında tartışılmıştır.