Embedding Görselleştirici

Soru#

Gömme vektörleri yüzlerce boyutta yaşar, ekranda ise iki boyut vardır. Aradaki farkı bir indirgeme adımı kapatır ve bu adım kaçınılmaz olarak bilgi kaybeder. Deneyin sorusu kaybın nerede biriktiğidir: haritada yan yana duran iki nokta ne zaman gerçek komşudur, ne zaman yalnızca indirgemenin boşluk doldurmasıdır? Tek bir haritaya bakarak bu ayrım yapılamadığı için düzen, aynı veriyi farklı ayarlarla yeniden çizip ham uzaydaki komşulukla karşılaştırmak üzerine kurulur.

Düzen#

Düzen üç katmandan oluşur: sabit bir gömme kümesi, indirgeme uygulanmadan hesaplanan bir karşılaştırma tabanı ve üzerinde oynanan sayılı değişken. Karşılaştırma tabanı olmadan hiçbir harita değerlendirilemez, çünkü noktanın doğru konumu diye bir şey yok; yalnızca ham uzaydaki komşuluk listesine ne kadar sadık kalındığı var. Her koşu kendi parametre kaydıyla saklanır ve haritası parametresinden ayrı yayımlanmaz.

• Veri: aynı gömme modelinden geçirilmiş, konusu bağımsız biçimde bilinen bir metin kümesi; parça uzunluğu sabit tutulur
• Karşılaştırma tabanı: indirgeme uygulanmadan, ham vektör uzayında hesaplanan en yakın komşu listeleri
• Değiştirilen değişkenler: indirgeme yöntemi, komşuluk parametresi, uzaklık ölçüsü (kosinüs veya öklid), rastgele tohum
• Sabit tutulanlar: gömme modeli, metin ön işleme adımları, örnek sayısı
• Kayıt: her koşunun parametreleri, tohumu ve ölçüt çıktıları tek bir kayıtta tutulur

Ölçüt#

Ölçütler tek bir puana indirgenmez; her biri bozulmanın farklı bir yüzünü gösterir ve birbirini dengeler. Aşağıdaki tablo hangi ölçütün ne söylediğini ve hangi okuma hatasına davetiye çıkardığını sıralar. Düzen koşulduğunda bu sütunların hepsi birlikte raporlanır; seçilmiş tek bir ölçütle sonuç bildirmek düzenin dışındadır.

Beklenen kırılma noktaları#

• Komşuluk parametresi küçüldükçe haritanın parçalanması, büyüdükçe kümelerin birbirine yaklaşması; iki uçta da görsel yakınlığın okunamaz hale gelmesi
• Kosinüsten öklide geçildiğinde, uzunluğu normalize edilmemiş vektörlerde küme sınırlarının yer değiştirmesi
• Tohum değiştiğinde kümelerin konumunun değişmesi, küme içi bileşimin ise büyük ölçüde korunması
• Örnek sayısı azaldıkça kümelerin gerçek yapıdan çok indirgemenin doldurduğu boşluklarla belirlenmesi
• Kümeler arası boşluğun hiçbir ölçütte uzaklık taşımaması: yan yana iki kümenin arasındaki mesafe yorumlanamaz

Sınırlılıklar#

Düzen yalnızca indirgemenin sadakatini sınamak için kurulur; gömme modelinin kalitesi hakkında bir şey söylemez, çünkü zayıf bir gömme uzayı da kendi içinde tutarlı biçimde indirgenebilir. Kümelerin anlamlı olup olmadığı ancak dışarıdan gelen bir etiketle sınanır, haritanın kendisiyle sınanamaz. Kurulum kâğıt üzerindedir: ne çalışan bir arayüz ne de tek bir koşu kaydı mevcuttur.