Önyargı ölçütleri birbiriyle çelişir; hepsini birlikte sağlamak imkânsız

Tez#

Adillik çalışmaları sık sık bir mühendislik problemi olarak kuruluyor: bir önyargı ölçütü seçilir, model o ölçüte göre iyileştirilir, pano yeşile döner. Bu kurgu, ölçütlerin birbirinden bağımsız olduğu varsayımına dayanıyor ve varsayım yanlış.

Yaygın ölçütler arasında matematiksel bir gerilim var. Gruplar arası temel oranlar farklıysa — yani ilgilenilen sonucun gerçek sıklığı gruplarda farklıysa — eşit hata oranı ile eşit kalibrasyonu aynı anda sağlamak mümkün değil. Bu bir uygulama zorluğu değil, bir imkânsızlık sonucu: hangi modeli kurarsanız kurun, hangi veriyi toplarsanız toplayın, bu iki koşul birlikte sağlanamıyor. Dolayısıyla "modelimiz adil" cümlesi tek başına anlamsız; hangi ölçüte göre adil olduğu söylenmeden bir bilgi taşımıyor.

Bağlam: üç ölçüt ve ne söyledikleri#

Ölçütlerin çeliştiğini görmek için ne söylediklerini ayırmak gerekiyor. Üçü de makul ve üçü de farklı bir adillik sezgisini kodluyor.

Üçüncü satırın bir sonucu çoğu tartışmada atlanıyor: kalibrasyondan vazgeçmek, skorun anlamını gruplar arası farklılaştırmak demek. Yani aynı skoru alan iki kişinin gerçek olasılığı farklı oluyor ve skor, karar vericiye yanlış bilgi veriyor. Bu bazı bağlamlarda kabul edilebilir bir bedel, bazılarında değil — ve ayrım teknik değil normatif.

Kanıt: kararın nasıl verilmesi gerektiği#

Ölçüt tercihi teknik bir tabloda çözülemiyor ama yapılandırılmış biçimde verilebiliyor. Aşağıdaki sorular kararı gerekçelendirilebilir kılıyor.

• Hatanın kime maliyeti var: yanlış olumlu mu yanlış olumsuz mu daha zarar veriyor? Kredi reddi ile hatalı kredi onayı aynı zarar değil.
• Skorun kim tarafından okunduğu: skor bir insana karar desteği olarak sunuluyorsa kalibrasyon önemli; otomatik eşikle kullanılıyorsa hata oranları öne çıkıyor.
• Temel oran farkının kaynağı: fark gerçek bir farklılıktan mı geliyor, yoksa geçmiş ayrımcılığın verideki izinden mi? İkincisi ölçüt seçimini değiştiriyor.
• Grup tanımının kaynağı: hangi gruplar için ölçüm yapılıyor ve bu gruplar kim tarafından belirlendi? Ölçülmeyen grupta adillik iddiası yok.
• Kesişimsellik: tek boyutlu grup ölçümü, iki boyutun kesiştiği alt gruplardaki bozulmayı gizliyor.
• Kararın kaydı: seçilen ölçüt ve gerekçesi yazılı olmalı; yazılı olmayan tercih sonradan gerekçeye dönüşüyor.

Beşinci madde pratikte en çok kaçırılan bozulma kaynağı. Bir model cinsiyet boyutunda ve yaş boyutunda ayrı ayrı dengeli görünürken, genç kadınlar gibi kesişen bir alt grupta belirgin biçimde bozuk olabiliyor. Tek boyutlu ölçüm bunu göstermiyor; kesişen alt gruplarda örnek sayısı düştüğü için ölçüm de gürültülü oluyor. Bu, ölçümü bırakmanın değil örnek toplamanın gerekçesi.

Mekanizma: dil modellerinde ölçüm neden daha zor#

Klasik sınıflandırma modellerinde bu ölçütler tanımlıydı çünkü çıktı bir skor ya da bir etiketti. Dil modellerinde çıktı serbest metin ve bu, ölçütlerin doğrudan uygulanmasını engelliyor.

Serbest metinde önyargı üç farklı biçimde ortaya çıkabiliyor ve üçü ayrı ölçüm gerektiriyor. Birincisi temsil: belirli gruplar hakkında üretilen metnin niteliği ve tonu farklılaşıyor. İkincisi karar: model bir değerlendirme yapıyorsa — bir özgeçmişi puanlamak, bir metni uygunluk açısından incelemek — klasik ölçütler uygulanabilir hâle geliyor ama çıktıyı yapılandırmak gerekiyor. Üçüncüsü kapsama: modelin belirli dillerde ya da belirli kültürel bağlamlarda belirgin biçimde kötü çalışması, bir hata oranı farkı olarak ölçülebiliyor. Türkçe bu üçüncü kategorinin doğrudan örneği: aynı görevde Türkçe girdilerdeki hata oranı İngilizceden yüksekse, bu bir dil temelli performans farkı ve genel ortalama bunu tümüyle saklıyor.

Karşı görüş#

Üç itiraz ciddi. Birincisi: imkânsızlık sonucu teorik; pratikte farklar küçükse üç ölçüt yaklaşık olarak birlikte sağlanabiliyor. İkincisi: ölçüt seçimini ekibe bırakmak, ekibin işine gelen ölçütü seçmesine yol açıyor. Üçüncüsü: grup bazlı ölçüm için hassas özellik verisi toplamak gerekiyor ve bu kendi başına bir gizlilik riski.

Üç ölçütü de panoya koyduk. Biri iyileşince diğeri bozuluyordu ve ekip her sprint farklı ölçüte bakıyordu. Sonunda bir tercih yaptık ve gerekçesini yazdık; asıl iş buydu.

Birinci itiraz teknik olarak doğru: temel oran farkı küçükse gerilim de küçük. Ama bu bir muafiyet değil bir ölçüm gerekliliği — farkın küçük olduğunu göstermek gerekiyor ve çoğu bağlamda fark küçük değil. İkinci itiraz en güçlüsü ve alıntının işaret ettiği yer: çözüm ölçütü seçmemek değil, seçimi ölçümden önce yapıp yazılı hâle getirmek. Sonuçlar görüldükten sonra seçilen ölçüt bir tercih değil bir gerekçe. Üçüncü itiraz gerçek bir gerilim ve tek çözümü yok; ama hassas özelliği hiç toplamamak adilliği sağlamıyor, yalnızca ölçülemez kılıyor — ve ölçülemeyen bir bozulma düzeltilemiyor.

Sınırlar ve belirsizlik#

Bu analiz bir ölçüt önermiyor; tercih bağlama ve normatif bir değerlendirmeye bağlı.

• Ölçüt tercihi normatif: teknik bir tablodan çıkarılamıyor, bir değer yargısı içeriyor.
• Serbest metinde ölçüm standartları olgun değil: temsil önyargısının ölçülmesi için yerleşmiş bir yöntem yok.
• Kesişen alt gruplarda örnek sayısı düşük: ölçümler gürültülü ve yorumlanması dikkat gerektiriyor.
• Türkçe için karşılaştırmalı veri sınırlı: dil temelli performans farkını ölçen yayımlanmış çalışmalar az.

Sonuç#

"Modelimiz adil" cümlesi, hangi ölçüte göre adil olduğu söylenmeden bir bilgi taşımıyor. Yaygın ölçütler birbiriyle çeliştiği için bir modelin hepsini birlikte sağlaması mümkün değil; biri iyileştikçe diğeri bozuluyor ve bu bir mühendislik eksiği değil matematiksel bir sonuç.

Bu yüzden adillik çalışmasının asıl işi ölçüt iyileştirmek değil, ölçüt seçmek ve gerekçelendirmek. Seçim ölçümden önce yapılmalı ve yazılı olmalı — sonrasında seçilen ölçüt bir tercih değil bir gerekçe olur. Dil modellerinde ise ölçüm üç ayrı kategoriye ayrılmalı: temsil, karar ve kapsama. Türkçe için en somut olan üçüncüsü ve en kolay ölçüleni: dil bazlı hata oranı farkı.

Ne yapmalı?#

1. 1Ölçütü ölçümden önce seçin

   Sonuçlar görüldükten sonra seçilen ölçüt bir tercih değil, verilmiş kararın gerekçesi.

2. 2Hangi hatanın daha zararlı olduğunu tanımlayın

   Yanlış olumlu ile yanlış olumsuzun maliyeti farklı; ölçüt tercihi bu farktan çıkıyor.

3. 3Skorun nasıl kullanıldığını hesaba katın

   İnsana karar desteği ise kalibrasyon, otomatik eşik ise hata oranları öne çıkıyor.

4. 4Kesişen alt grupları ölçün

   Tek boyutlu denge, iki boyutun kesiştiği alt gruptaki bozulmayı gizliyor.

5. 5Dil bazlı hata farkını izleyin

   Türkçe girdilerdeki hata oranı ayrı raporlanmalı; genel ortalama bunu saklıyor.

6. 6Tercihi ve gerekçesini yazın

   Adillik iddiası ancak hangi ölçüte göre olduğu belirtildiğinde bir bilgi taşıyor.