Kaynak göstermek güven üretmez; alıntı doğrulaması üretir

Tez#

Geri getirme tabanlı sistemlerin en çok öne çıkarılan özelliği kaynak gösterimi. Ürün tanıtımlarında "her cevap kaynağına bağlı" ifadesi bir güvence olarak sunuluyor ve kullanıcılar bunu öyle okuyor. Ama ifade, teknik olarak söylediğinden fazlasını iddia ediyor.

Sistemin gerçekte yaptığı şu: ilgili görülen belgeleri getiriyor, bağlama koyuyor, model cevap üretiyor ve cevabın altına getirilen belgelerin bağlantısı yazılıyor. Bu zincirde hiçbir adım, üretilen cümlenin o belgelerden çıktığını doğrulamıyor. Model bağlamdaki bilgiyi kullanabilir, kısmen kullanabilir, yanlış yorumlayabilir ya da hiç kullanmayıp kendi ön bilgisinden üretebilir — üç durumda da aynı kaynak bağlantısı basılıyor. Kaynak gösterimi bir doğrulama değil, bir birlikte bulunma beyanıdır.

Bağlam: dört kaynak–cümle ilişkisi#

Aşağıdaki tablo, kaynak gösterilen bir cümlenin kaynakla kurabileceği dört ilişkiyi ve her birinin okur açısından anlamını gösteriyor.

İkinci satır en sık görüleni ve en az konuşulanı. Model kaynaktaki bilgiyi alıp üzerine bir çıkarım ekliyor; çıkarım yanlış olabilir ama kaynak bağlantısı cümlenin tamamına atfen basılıyor. Okur kaynağı açtığında ilk bölümün doğrulandığını görüyor ve geri kalanını da doğrulanmış sayıyor. Bu, kaynak gösteriminin en ince yanıltma biçimi.

Kanıt: alıntı doğruluğunu ölçmek#

Alıntı doğruluğu ölçülebilir bir büyüklük ve ölçümü diğer değerlendirme ölçütlerinden ayrı kurulmalı. Cevap doğruluğu ile alıntı doğruluğu bağımsız iki boyut: cevap doğru olup alıntısı yanlış olabilir ve tersi.

1. 1Cevabı iddia birimlerine ayırın

   Her cümle ya da her olgusal iddia ayrı bir denetim birimi olsun. Cevabın bütününe tek bir kaynak atfetmek ölçümü imkânsız kılar.

2. 2Her iddiayı gösterilen kaynakla eşleştirin

   Dört ilişkiden hangisi? Tam destek, kısmi, ilgisiz, çelişki. Sınıflandırma insan tarafından ya da kalibre edilmiş bir yargıçla yapılır.

3. 3Tam destek oranını raporlayın

   Bu tek sayı, kaynak gösteriminin gerçekten ne kadar güvence sağladığını söylüyor.

4. 4Çelişki vakalarını olay sayın

   Kaynağın tersini söyleyen bir cevap, kalite düşüklüğü değil bir arıza. Ayrı izlenmeli.

5. 5Cevap doğruluğundan ayrı izleyin

   İki ölçüm birbirinden bağımsız hareket edebilir. Birleştirilmiş bir skor, hangi boyutun bozulduğunu gizler.

Birinci adım en çok direnç gören. Cevabı iddia birimlerine ayırmak emek istiyor ve otomatikleştirilmesi zor. Ama ayırmadan yapılan bir ölçüm, cevabın tamamı için tek bir karar üretiyor ve kısmi destek vakalarını tümüyle kaçırıyor — yani en sık görülen hata sınıfını hiç ölçmüyor.

Mekanizma: tasarımla garanti edilebilir mi#

Alıntı doğruluğunu ölçmek bir teşhis; tasarımla garanti etmek ise bir çözüm arayışı. Tam garanti bugünkü mimaride mümkün değil ama olasılığı belirgin biçimde yükselten iki yaklaşım var.

Birincisi cümle düzeyinde eşleme zorunluluğu: modelden her olgusal cümlenin yanına hangi parçadan geldiğini yazması istenir ve o eşleme ayrıca doğrulanır. Bu, modelin kaynakla ilişkiyi açıkça beyan etmesini gerektiriyor ve beyan denetlenebilir hâle geliyor. İkincisi çıkarım yasağı: modele bağlamda olmayan bir bilgi ekleme izni verilmez ve cevap üretilemiyorsa reddetmesi istenir. İkisi birlikte uygulandığında kaynaklı yanlış oranı düşüyor ama karşılığında reddetme oranı yükseliyor — yani sistem daha az soru yanıtlıyor. Bu bir ödünleşim ve ürün kararı; teknik bir varsayılan değil.

Karşı görüş#

İki itiraz güçlü. Birincisi: kaynak gösterimi mükemmel olmasa da kullanıcıya denetleme imkânı veriyor; hiç kaynak göstermemekten iyi. İkincisi: alıntı doğruluğu ölçümü pahalı ve otomatikleştirilmesi zor; çoğu ekip için pratik değil.

Kaynak bağlantılarını ekledikten sonra kullanıcı şikâyetleri azaldı. Sonra fark ettik: şikâyetler azaldı ama hatalar azalmadı. Kullanıcılar kaynağı görünce kontrol etmeyi bırakmıştı.

Alıntı birinci itirazı tersine çeviriyor ve tezin en önemli noktasını veriyor: kaynak gösterimi denetleme imkânı verirken aynı zamanda denetleme motivasyonunu düşürüyor. Okur kaynağı gördüğünde sistemin işini yaptığını varsayıyor. Bu yüzden kaynak gösterimi net etkisi bakımından nötr değil — güvenilirlik artmadan güven artıyor ve bu tam olarak istenmeyen durum. İkinci itiraz için nüans şu: tam ölçüm pahalı ama örneklemeli ölçüm ucuz. Ayda elli cevabın iddia bazında denetlenmesi, tam destek oranı hakkında yeterli bilgi veriyor ve bir kişinin yarım gününü alıyor.

Sınırlar ve belirsizlik#

Bu analiz nicel bir tam destek oranı vermiyor; oran sisteme, derleme ve soru türüne göre değişiyor.

• Oranlar sisteme özgü: tam destek oranı derleme, parçalama stratejisine ve soru tipine göre büyük farklılık gösteriyor.
• İddia birimine ayırma standart değil: bir cevabın kaç iddia taşıdığına dair nesnel bir ölçüt yok; sınıflandırma editoryal.
• Otomatik doğrulama olgun değil: kaynağın cümleyi desteklediğini otomatik ölçmek hâlâ kalibre edilmiş yargıç gerektiriyor.
• Kullanıcı davranışı etkisi ölçülmemiş: kaynak gösteriminin denetleme motivasyonunu ne kadar düşürdüğü sistematik incelenmemiş.

Sonuç#

Kaynak gösterimi bir güvence olarak sunulduğunda, sağlamadığı bir şeyi vaat ediyor. Vaadi gerçek kılan tek şey alıntı doğruluğunun ölçülmüş olması — ve bu ölçüm, cevap doğruluğu ölçümünden ayrı yürütülmek zorunda.

Ürün tarafında da bir sonuç var: kaynak gösterimi kullanıcının denetleme motivasyonunu düşürdüğü için, gösterim ile doğrulama birlikte yürümek zorunda. Alıntı doğruluğu ölçülmeyen bir sistemde kaynak bağlantısı koymak, güvenilirlik artmadan güven artırmak anlamına geliyor. Bu, iyi niyetle yapılan ama net etkisi olumsuz olan bir tasarım kararı.

Ne yapmalı?#

1. 1Örneklemeli alıntı denetimi kurun

   Ayda elli cevabı iddia bazında denetlemek yarım gün alıyor ve tam destek oranını verir.

2. 2Cümle düzeyinde eşleme isteyin

   Her olgusal cümle hangi parçadan geldiğini beyan etsin; beyan denetlenebilir hâle gelir.

3. 3Çelişki vakalarını olay olarak izleyin

   Kaynağın tersini söyleyen cevap bir kalite düşüklüğü değil arızadır; ayrı uyarı üretsin.

4. 4Reddetme yolunu açık tutun

   Bağlamda cevap yoksa sistem cevap vermesin. Reddetme oranı bir başarısızlık değil bir kalite göstergesi.

5. 5Arayüzde kısmi desteği görünür kılın

   Tüm cevaba tek bağlantı koymak kısmi destek vakalarını gizler; bağlantı iddia bazında olsun.