Veri nerede işlenir: yol haritası, saklama ve maskeleme
Bir yapay zekâ özelliğinde verinin hangi yollardan geçip hangi ömürde kopya bıraktığını haritalamayı, alan bazında maskeleme ve saklama kararı vermeyi ve bu kararları silme talebine cevap verebilecek biçimde yazmayı öğretir.
Önkoşul: Guardrails, Large Language Model
BU DERSİN SONUNDA
- Verinin istem, dizin, günlük, değerlendirme seti ve ince ayar yollarında bıraktığı kopyaları ayırt etmek
- Her veri alanı için saklama süresi ve maskeleme biçimini gerekçelendirmek
- Maskelemenin görev başarısına maliyetini ölçerek belirlemek
- Silme ve itiraz taleplerinin uçtan uca izleyeceği yolu yazmak
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Gizlilik kararı tek bir "veri dışarı çıkıyor mu" sorusu değildir. Bir özellikte veri birbirinden ayrı beş yoldan geçer: istem bağlamı, geri getirme dizini, uygulama günlükleri, değerlendirme setleri ve ince ayar verisi. Her yol farklı ömürde bir kopya bırakır. Doğru soru şudur: hangi kopyalar oluşuyor, ne kadar yaşıyorlar, kimler görebiliyor ve nasıl siliniyorlar? Karar bu yolların her biri için ayrı verilir.
Teori: her yol bir kopya, her kopya bir ömür#
Mekanizma basittir: veri bir sistemden her geçişinde kopya üretir. İstem geçici görünür, ama istek gövdesi bir yerde günlüğe düştüğü anda kalıcıdır. Ömür farkı önemlidir, çünkü bir silme talebinin maliyeti, bir ihlalin etkisi ve erişim yetkisinin anlamı doğrudan kopyanın ömrüyle ölçülür. Ömrü bilinmeyen kopya, yönetilmeyen kopyadır.
Yetki tarafında en sık kırılan yer geri getirme dizinidir. Farklı erişim seviyelerindeki belgeler tek dizine girdiğinde dizin, kurumun erişim modelini düzleştirir; arama bu modeli görmezse cevap, kullanıcının açmaya yetkisi olmayan bir belgeden cümle taşır. Bu yüzden yetki filtresi sorgunun kendisinin parçası olmalıdır — cevap üretildikten sonra uygulanan bir kontrol, sızıntı zaten olduktan sonra devreye girer.
Uygulamada: veri yolu haritası#
| Yol | Oluşan kopya | Tipik ömür | Verilecek karar |
|---|---|---|---|
| İstem bağlamı | Modele giden istek gövdesi | İstek süresi artı sağlayıcı tarafındaki günlük süresi | Hangi alanlar bağlama girer, hangileri maskelenir |
| Geri getirme dizini | Parça metni, vektörü ve üst verisi | Kaynak belge silinip yeniden dizinlenene kadar | Yetki filtresi ve yeniden dizinleme tetikleyicisi |
| Uygulama günlükleri | İstem ve cevabın tam metni | Günlük saklama politikası neyse o kadar | Örnekleme oranı, alan kırpma, saklama süresi |
| Değerlendirme ve hata ayıklama setleri | Elle seçilmiş gerçek kullanıcı örnekleri | Silme tetikleyicisi tanımlanmadıysa süresiz | Takma adlandırma ve erişimi daraltma |
| İnce ayar verisi | Ağırlıklara işlenmiş davranış örüntüsü | Model sürümü kullanımda kaldığı sürece | Kişisel veri bu yola hiç girmez |
Maskeleme dört biçimde yapılır#
- Kaldırma: alan tamamen çıkarılır. En güvenli ve en çok işlev kaybettiren biçim; modele sorulan soru o alana dayanıyorsa görev başarısız olur.
- Tutarlı takma ad: aynı gerçek değer her yerde aynı jetona çevrilir. "Aynı kişi mi" türü ilişkileri korur, ama jeton eşleme tablosu korunması gereken yeni bir sır hâline gelir.
- Genelleme: doğum tarihi yaş aralığına, tam adres il düzeyine çevrilir. Toplu analizi ayakta tutar, tekil kimlik çıkarmayı zorlaştırır.
- Ayrıştırma: hassas alan uygulama tarafında tutulur, modele yer tutucu gider, cevap kullanıcıya gösterilirken değer geri yerleştirilir. İşlevi en çok koruyan biçimdir; yer tutucu üretimi bir alanı kaçırırsa sızıntı sessizce olur.
Maskelemenin maliyeti görev başarısıdır ve bu maliyet tahmin edilmek zorunda değildir, ölçülebilir. Aynı değerlendirme setini bir kez maskelenmemiş, bir kez maskelenmiş girdiyle koşturun ve farkı alan alan inceleyin. Farkın hangi alanlarda yoğunlaştığı kurulumdan kuruluma değişir; ölçüm, hangi alanların görevi gerçekten taşıdığını ve hangilerinin ölçülebilir bir kayıp üretmeden maskelenebileceğini gösterir. Bu ölçüm, gizlilik ile işlev arasındaki pazarlığı sezgiden çıkarıp karara dönüştürür.
Karar akışı#
- 1Alanları sınıflandır
Özelliğin gördüğü her alanı üç kovaya ayır: göreve zorunlu, faydalı, gereksiz. Gereksiz olan alan hiç toplanmaz.
- 2Her zorunlu alan için yolu seç
Bu alan bağlama mı girecek, dizine mi yazılacak, ikisine de mi? En kısa ömürlü yol işi görüyorsa diğerini açma.
- 3Maskeleme biçimini alan bazında belirle
Görevi bozmayan en güçlü biçimi seç; ayrıştırma uygulanabiliyorsa kaldırmaya geçmeden önce onu dene.
- 4Saklama süresini ve silme yolunu yaz
Her kopya için kim silecek, hangi tetikleyiciyle, ne kadar sürede. Silme yolu tanımlanmayan kopya oluşturulmaz.
- 5Maskelenmiş kurulumu ölçerek doğrula
Aynı değerlendirme setiyle başarı farkını ölç; fark kabul edilemezse kararı alan alan gözden geçir, tümünü birden geri alma.
Sık yapılan hata#
En pahalı hata, kuruma özel veya kişisel bilgiyi "modele öğretmek" amacıyla ince ayar verisine koymaktır. İnce ayar davranış ve biçim öğretir; belirli bir bilgiyi güvenilir biçimde cevaba taşımanın yolu geri getirmedir. Sonuç iki katlı zarardır: bilgi zaten istikrarlı gelmez, ama veri geri alınamaz biçimde ağırlıklara işlenmiştir ve silme talebi geldiğinde tek gerçek çözüm yeniden eğitimdir. İkinci yaygın hata günlükleri unutmaktır: istemi özenle maskeleyip tam istemi hata ayıklama günlüğüne yazan bir kurulum, maskelemeyi tamamen geçersiz kılar.
LAB · UYGULAMALI ALIŞTIRMA
Özelliğinizin veri yolu haritasını çıkarın
- 1Özelliğin tek bir isteğinde gördüğü tüm alanları listeleyin; arayüzden gelmeyen ama sistemin eklediği alanları da (kullanıcı kimliği, kiracı, oturum, cihaz) ekleyin.
- 2Her alanı göreve zorunlu, faydalı veya gereksiz olarak etiketleyin ve gereksiz olanları listeden çıkarın.
- 3Kalan her alan için hangi yollarda kopya oluştuğunu işaretleyin: istem bağlamı, geri getirme dizini, uygulama günlüğü, değerlendirme seti, ince ayar verisi.
- 4Her kopya için saklama süresini ve silme yolunu yazın; süresi veya sahibi belirsiz kalan kopyaları ayrıca işaretleyin.
- 5Zorunlu ve hassas alanlara birer maskeleme biçimi atayın, sonra en az yirmi örneği — değerlendirme setiniz yoksa gerçek isteklerden derleyin — hem maskelenmiş hem maskelenmemiş girdiyle erişiminiz olan modelde koşturup başarı farkını alan alan not edin.
- 6Bir kullanıcının silme talebini masa başında uçtan uca simüle edin: hangi kopyalar hangi sırayla silinir, hangileri silinemez ve bu durumda kullanıcıya ne söylenir.
Beklenen çıktı
Alan × kopya × saklama süresi matrisi, alan bazlı maskeleme kararları ve bir silme talebinin uçtan uca izlediği yolun yazılı dökümü.
Sık sorulan sorular
Sağlayıcı verimizi eğitimde kullanmıyorsa gizlilik meselesi kapanır mı?
Hayır, eğitimde kullanım tek risk değildir. İstek günlükleri, hata ayıklama kayıtları ve alt işleyiciler bağımsız olarak yaşar; ayrıca kendi tarafınızda oluşan dizin, günlük ve değerlendirme seti kopyaları zaten sağlayıcı sözleşmesinin kapsamı dışındadır. Saklama süresi, günlüğe kimin eriştiği ve alt işleyici listesi ayrı ayrı okunacak maddelerdir.
Maskeleme her zaman kaliteyi düşürür mü?
Alana bağlıdır. Görevi taşıyan alanı maskelemek kaliteyi düşürür; göreve girmeyen kimlik alanlarını maskelemek çoğu zaman ölçülebilir bir fark üretmez, hatta bağlamdan ilgisiz ayrıntıyı çıkardığı için sonucu iyileştirebilir. Bu yüzden karar tüm alanlar için toptan değil, alan alan ve ölçümle verilir.
Veriyi kendi ortamımızda işlersek bu kararları atlayabilir miyiz?
Yerleşim kararını basitleştirir, diğerlerini ortadan kaldırmaz. Kendi ortamınızda da dizin, günlük ve değerlendirme seti kopyaları oluşur; yetki filtresi, saklama süresi ve silme yolu soruları aynen durur. Değişen tek şey kopyanın kimin sorumluluğunda olduğudur, var olup olmadığı değil.
LEARN
AI Product Manager rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.