Hibrit arama kurulumu
Hibrit arama, anlamsal benzerlik skorunu lexical eşleşme skoruyla birleştirip tek bir sıralama üretir.
ÖNKOŞULLAR
- Çalışan bir anlamsal arama (gömme + vektör dizin) kurulumu
- Lexical arama destekleyen bir dizin veya arama motoru
- 20 gerçek sorgu ve işaretlenmiş doğru sonuçlar
GEREKEN ARAÇLAR
- Vektör dizin (filtreli arama destekli)
- BM25 benzeri lexical arama
- Opsiyonel: cross-encoder yeniden sıralayıcı
- 01
Lexical katmanı ekle
Kesin terim eşleşmesi için klasik metin araması.
- 02
Skorları normalize et
İki farklı ölçekteki skoru karşılaştırılabilir hale getir.
İki yöntemin ürettiği puanlar aynı ölçekte değil: kosinüs benzerliği sınırlı bir aralıkta, lexical puan ise belge uzunluğuna ve terim seyrekliğine göre serbestçe değişir. Bu yüzden puanları doğrudan toplamak yanıltıcı olur.
Pratik çözüm, puan yerine sıra kullanmak: karşılıklı sıra birleştirmesi her kaydın iki listedeki sırasının tersini toplar. Ölçek uyumu gerektirmez ve üçüncü bir sinyal (başlık eşleşmesi, güncellik) eklemek için yeni bir liste vermek yeterlidir.
python # k, ilk sıraların aşırı baskın olmasını yumuşatır (tipik: 60) def rrf(listeler, k=60): puanlar = {} for liste in listeler: for sira, kimlik in enumerate(liste, start=1): puanlar[kimlik] = puanlar.get(kimlik, 0) + 1 / (k + sira) return sorted(puanlar, key=puanlar.get, reverse=True) - 03
Ağırlıkları ölç
Ağırlığı tahminle değil, kendi değerlendirme setinle belirle.
Sıra tabanlı birleştirmede bile hangi listeye ne kadar güvendiğinizi ayarlamak isteyebilirsiniz. Ama bu ayar tahminle değil ölçümle yapılmalı: sorgu günlüğünüzden 20 sorgu seçip her kurulum için Recall@5 hesaplayın.
Kurulum Ne ölçüyorsunuz Beklenen Yalnızca anlamsal Temel çizgi Kavramsal sorgularda iyi Yalnızca lexical Temel çizgi Kesin terimlerde iyi Hibrit (RRF) Birleştirmenin katkısı Her iki sorgu tipinde iyi Hibrit + yeniden sıralama Sıralama kalitesi İlk beşte belirgin iyileşme Dört kurulumu aynı sorgu setinde koşturmadan ağırlık ayarı yapmak, yön bilmeden yol almak. - 04
Meta veri filtrelerini bağla
Sürüm, dil ve erişim etiketleri sorgu düzeyinde uygulanır.
Kurumsal aramada sorgu neredeyse hiç filtresiz değildir: kullanıcı yetkisi, belge sürümü, yürürlük tarihi ve dil devreye girer. Filtreyi aramadan sonra uygulamak sonuç sayısını beklenmedik biçimde sıfıra düşürebilir; bu yüzden filtre indeks düzeyinde desteklenmeli.
- 05
Yeniden sıralayıcı ekle
İlk aşama geri çağırma odaklı, ikinci aşama kesinlik odaklı olsun.
Cross-encoder sorgu ve belgeyi birlikte okur; bu yüzden gömme aramadan isabetli ama çok daha yavaştır. Tüm dizine değil, birleştirilmiş listenin ilk 20-50 adayına uygulanır.
Etkisini iki metrikle birlikte raporlayın: ilk-beş ilgili oranı ve p95 gecikme. Etkileşimli bir arayüzde birleştirilmiş sonucu hemen gösterip yeniden sıralamayı arka planda tamamlamak makul bir uzlaşma olabilir.
- 06
İzleme kur
Hangi sorgularda hangi katmanın kazandığını kaydet.
- 07
Sorgu genişletme ekle
Kurum içi kısaltma ve eş anlamlı sözlüğüyle sorguyu zenginleştirin.
Kurum içi kısaltmalar ("KVKK", "SGK", ürün kodları) ve eş anlamlılar, arama kalitesinin en ucuz kazancı. Küçük bir eşleme sözlüğü, model değiştirmekten daha fazla fark yaratabiliyor.
- Kısaltma açılımı: "KVKK" → "Kişisel Verilerin Korunması Kanunu".
- Eş anlamlı genişletme: "fatura" → "fatura, irsaliye, e-fatura".
- Yazım düzeltme: yalnızca lexical tarafa uygulayın.
- Sözlüğü sürümleyin; değişiklik arama sonuçlarını değiştirir.
- 08
Boş dönüşleri izle
Sonuç üretmeyen sorguları içerik açığı panosuna akıtın.
Hiç sonuç dönmeyen sorgular iki bilgi taşır: arama hattındaki bir eksiklik veya içerikte gerçek bir boşluk. İkisi de değerli. Boş dönüş oranını izlemek, içerik yol haritasının en güvenilir girdisi.
SIK DÜŞÜLEN TUZAKLAR
Puanları doğrudan toplamak
İki yöntemin puan ölçekleri farklı. Toplama, genellikle lexical tarafı baskın hale getirir ve anlamsal katkıyı siler.
Aday sayısını çok dar tutmak
Yeniden sıralayıcı, aday kümesinde olmayan belgeyi bulamaz. İlk aşamanın geri çağırması düşükse sıralama kalitesi bir şey kurtarmaz.
ANN parametrelerini ölçmeden sıkılaştırmak
Gecikme düşer ama geri çağırma da sessizce düşer. Değişikliği Recall ile birlikte raporlayın.
KONTROL LİSTESİ
- 20 sorgu ve doğru sonuçları işaretlenmiş bir değerlendirme seti var
- Dört kurulum (anlamsal, lexical, hibrit, hibrit+yeniden sıralama) ölçüldü
- Yetki ve tarih filtreleri arama sorgusunun parçası
- Kısaltma ve eş anlamlı sözlüğü sürümlü
- p95 gecikme ve Recall@5 birlikte raporlanıyor
- Boş dönüş oranı izleniyor ve içerik açığı panosuna akıyor
Maddelerin tamamı işaretlenmeden kurulum üretime alınmamalı.
Sık sorulan sorular
Hibrit arama her zaman daha iyi mi?
Kurumsal belge setlerinde genellikle evet, çünkü kesin terim ve kod sorguları kaçınılmaz. Yalnızca kavramsal sorgu gelen setlerde anlamsal arama tek başına yeterli olabilir.
RRF sabiti k neden 60?
Yaygın bir başlangıç değeri; ilk sıraların aşırı baskın olmasını yumuşatır. Kendi setinizde 10-100 aralığını denemek anlamlı bir ayar çalışmasıdır.
Yeniden sıralayıcı gecikmeyi çok mu artırır?
Aday sayısıyla doğrusal artar. 20 aday çoğu etkileşimli senaryoda kabul edilebilir; 100 aday genellikle yalnızca arka plan işlerinde uygun.
Kaynaklar
- 01Sağlayıcı ve altyapı dokümantasyonları — Model ve altyapı sağlayıcıları · Dokümantasyon
- 02Sinaptik Research — uygulama notları — Sinaptik Lab · Teknik rapor
BUILD
Bu rehberi kurumunuzda uygulayalım mı?
Aynı mimariyi kendi verinizle kurmak için discovery oturumundan üretime kadar birlikte ilerliyoruz.
