Eğitim verisi geri alınamaz; bu yüzden karar eğitimden önce verilir

Tez#

Klasik veri işlemede geri alma mümkün: bir kayıt silinir, bir tablo temizlenir, bir yedek geri yüklenir. Bu tersinirlik, veri kararlarının görece rahat verilmesini sağlıyor — yanlış bir karar sonradan düzeltiliyor.

Model eğitiminde bu tersinirlik yok. Bir örnek eğitim kümesine girdiğinde, etkisi ağırlıklara dağılmış oluyor ve o etkiyi seçici biçimde geri almanın pratik bir yolu bulunmuyor. Silme talebi geldiğinde elde iki seçenek kalıyor: modeli o örnek olmadan yeniden eğitmek — pahalı ve her talepte tekrarlanamaz — ya da modelin o bilgiyi üretmesini bastırmaya çalışmak, ki bu etkiyi kaldırmıyor yalnızca çıktıda gizliyor. Sonuç: eğitim verisi kararı bir yapılandırma değil, geri dönüşü olmayan bir taahhüt ve buna uygun bir hazırlık gerektiriyor.

Bağlam: hangi kullanım hangi kalıcılığı taşıyor#

Verinin bir model sistemine girmesinin farklı yolları var ve kalıcılıkları çok farklı. Bu ayrım, kararın ne kadar dikkat gerektirdiğini belirliyor.

Birinci satırın bir nüansı var ve sık atlanıyor: istem içinde geçen veri çağrı süresince yaşıyor, ama sağlayıcı tarafında kayıt tutuluyorsa durum değişiyor. Bu yüzden sözleşmedeki kayıt ve saklama koşulları, kullanım biçiminin kalıcılığını doğrudan belirliyor — aynı teknik kullanım, farklı sözleşmeyle farklı bir kalıcılık sınıfına düşüyor.

Kanıt: eğitimden önce cevaplanacaklar#

İnce ayar ya da eğitim kararı öncesinde cevaplanması gereken sorular, teknik hazırlıktan önce geliyor. Bunlar cevaplanmadan başlanan bir eğitim, geri alınamayan bir taahhüt üretiyor.

• Hukuki dayanak: bu verinin bu amaçla işlenmesinin dayanağı ne? Rıza ise, rızanın geri çekilmesi hâlinde ne yapılacak yazılı olmalı.
• Telif durumu: metin, görsel veya kod üçüncü kişilere mi ait? Lisans eğitim kullanımına izin veriyor mu?
• Kişisel veri ayıklaması: kümeden kişisel veri çıkarıldı mı ve bu ayıklama doğrulandı mı? Örnekleme ile denetim asgari koşul.
• Köken kaydı: her örnek hangi kaynaktan geldi? Bir kaynak sorunlu çıktığında etkilenen örnekleri bulmanın tek yolu.
• Yeniden eğitim maliyeti: bir silme talebi geldiğinde yeniden eğitim gerçekten yapılabilir mi? Yapılamıyorsa bu baştan bilinmeli.
• Sürüm arşivi: hangi model sürümü hangi veri kümesiyle eğitildi? Kayıt yoksa sorunlu bir küme tespit edildiğinde hangi sürümlerin etkilendiği bilinemiyor.
• Çıkış planı: kümede sorun bulunursa hangi sürüme dönülecek? Geri dönülecek bir sürüm yoksa karar tek yönlü.

Altıncı madde denetimde en çok sorulan ve en az hazır olan kayıt. Bir veri kaynağının kullanım hakkı sonradan tartışmalı hâle geldiğinde — bir lisans değişikliği, bir şikâyet, bir mahkeme kararı — hangi model sürümlerinin o kaynaktan beslendiği bilinmiyorsa, etkilenen sürümlerin tümü şüpheli hâle geliyor. Bu kayıt bir tablo kadar basit ve yokluğu tüm sürüm geçmişini riske atıyor.

Mekanizma: neden seçici silme çalışmıyor#

Bir örneğin etkisinin geri alınamamasının nedeni, öğrenmenin nasıl gerçekleştiği. Eğitim sırasında her örnek ağırlıkları küçük bir miktar güncelliyor ve bu güncellemeler birbirinin üzerine biniyor; tek bir örneğin katkısı ayrı bir yerde durmuyor.

Bu yüzden önerilen yaklaşımlar iki gruba düşüyor ve ikisi de tam çözüm değil. Birinci grup yeniden eğitim temelli: kümeyi düzeltip modeli yeniden eğitmek. Doğru sonuç veriyor ama maliyeti her talepte karşılanamaz ve modelin başka davranışları da değişiyor — yani bir silme talebi, ilgisiz bir kullanım için regresyon üretebiliyor. İkinci grup bastırma temelli: modelin o bilgiyi üretmesini engelleyen bir katman eklemek. Bu, etkiyi kaldırmıyor, çıktıda gizliyor; bilgi ağırlıklarda durmaya devam ediyor ve başka bir istem biçimiyle yeniden ortaya çıkabiliyor. Hukuki açıdan da ikisi farklı: birincisi silme, ikincisi erişimin kısıtlanması ve bu ikisi aynı yükümlülüğü karşılamıyor.

Karşı görüş#

Üç itiraz var. Birincisi: makine öğrenmesinde unutturma üzerine aktif bir araştırma alanı var ve yöntemler gelişiyor. İkincisi: bu kaygı büyük ön eğitim için geçerli; bir kurumun kendi küçük ince ayar kümesini yeniden eğitmek zor değil. Üçüncüsü: pratikte silme talepleri eğitim verisi için neredeyse hiç gelmiyor.

İnce ayar kümesinde bir müşterinin verisi vardı ve sözleşme bitince kaldırılması gerekti. Yeniden eğitim teknik olarak mümkündü ama modelin başka davranışları da değişti; üç haftalık bir doğrulama turu gerekti.

Birinci itiraz doğru ve izlenmeye değer; ama bugün bu yöntemlerin ortak sorunu doğrulanabilirlik — etkinin kaldırıldığını kanıtlamanın standart bir yolu yok ve bir yükümlülük söz konusuysa kanıt gerekiyor. İkinci itiraz haklı ve tezin en pratik uygulandığı yeri gösteriyor: küçük kümelerde yeniden eğitim mümkün, dolayısıyla asıl gereklilik köken kaydı ve sürüm arşivi. Alıntının gösterdiği maliyet de burada: yeniden eğitim mümkün olsa bile yan etkileri doğrulamak gerekiyor. Üçüncü itiraz bugün için büyük ölçüde doğru ama bir karar gerekçesi olarak zayıf: talebin gelmemesi yükümlülüğün olmadığını göstermiyor ve ilk talep geldiğinde hazırlık yapılacak zaman kalmıyor.

Sınırlar ve belirsizlik#

Bu analiz hukuki görüş değil ve bu alanın hukuki çerçevesi henüz yerleşmemiş.

• Hukuki çerçeve oturmamış: eğitim verisinde silme hakkının nasıl uygulanacağı yargı kararlarıyla netleşecek.
• Unutturma yöntemleri gelişiyor: bu analizin teknik iddiası zamanla zayıflayabilir.
• Bastırmanın hukuki yeterliliği belirsiz: erişimin kısıtlanmasının silme yerine geçip geçmediği tartışmalı.
• Telif tarafı ülkeye göre değişiyor: eğitim kullanımının istisna kapsamında olup olmadığı tek bir cevaba indirgenemiyor.

Sonuç#

Eğitim verisi kararı, diğer veri kararlarından farklı bir sınıfta: tersinir değil. Bu, kararı yanlış yapmayı değil, kararı hazırlıksız yapmayı pahalı kılıyor. Hazırlık da karmaşık değil — köken kaydı, sürüm arşivi, hukuki dayanağın yazılı olması ve yeniden eğitim maliyetinin baştan bilinmesi.

Pratik ayrım şu: verinin istemde, dizinde ya da bellekte olması tersinir; eğitim kümesinde olması değil. Aynı veri politikası bu iki gruba birlikte uygulanamıyor. Tersinir olanlarda hızlı hareket edilebilir; tersinmez olanlarda karar öncesi hazırlık, sonrasında yapılacak her şeyden ucuz.

Ne yapmalı?#

1. 1Tersinir ve tersinmez kullanımları ayırın

   İstem, dizin ve bellek tersinir; eğitim kümesi değil. Aynı politika ikisine birlikte uygulanamıyor.

2. 2Köken kaydını zorunlu tutun

   Her örnek hangi kaynaktan geldi? Bir kaynak sorunlu çıktığında etkilenenleri bulmanın tek yolu.

3. 3Sürüm arşivi tutun

   Hangi model sürümü hangi kümeyle eğitildi? Kayıt yoksa tüm sürüm geçmişi şüpheli hâle geliyor.

4. 4Hukuki dayanağı yazın

   Dayanak rıza ise, rızanın geri çekilmesi hâlinde yapılacak iş baştan tanımlı olmalı.

5. 5Yeniden eğitim maliyetini ölçün

   Bir silme talebi geldiğinde yeniden eğitim gerçekten yapılabilir mi? Yapılamıyorsa karar bu bilgiyle verilmeli.

6. 6Kişisel veri ayıklamasını doğrulayın

   Ayıklama yapıldı demek yetmiyor; örnekleme ile denetim asgari koşul.