Retrieval-Augmented Generation
RAG · Geri getirmeyle güçlendirilmiş üretim
Dil modelinin cevap üretmeden önce harici bilgi kaynaklarından ilgili bilgiyi getirip oluşturduğu bağlama eklediği yapay zekâ mimarisidir.
ÖnkoşulEmbedding · Tokenization
30 saniyede RAG#
Bir dil modeli yalnızca eğitim verisindeki bilgiyi taşır ve bu bilgi zamanla eskir. RAG, modele soru sorulduğunda önce bir arama yapar, bulduğu ilgili belge parçalarını istemin içine yerleştirir ve modelden cevabı bu parçalara dayanarak üretmesini ister. Böylece model, eğitimde görmediği kurumsal veya güncel bilgiyi kullanabilir.
RAG nasıl çalışır?#
- 1Parçalama
Belgeler anlamlı bütünlüğü koruyan parçalara bölünür.
- 2Gömme
Her parça, anlamını taşıyan bir vektöre dönüştürülür.
- 3Dizinleme
Vektörler bir vektör veritabanında saklanır.
- 4Geri getirme
Soru da vektöre çevrilir, en yakın parçalar bulunur.
- 5Yeniden sıralama
Adaylar alaka düzeyine göre yeniden sıralanır.
- 6Üretim
Model, seçilen parçaları bağlam alarak cevabı yazar.
RAG ile fine-tuning arasındaki fark#
| Boyut | RAG | Fine-tuning |
|---|---|---|
| Neyi değiştirir | Çıkarım anındaki bağlamı | Model parametrelerini |
| Güncelleme | Belgeyi değiştirmek yeter | Yeniden eğitim gerekir |
| Kaynak gösterme | Doğal olarak mümkün | Doğrudan mümkün değil |
| Tipik kullanım | Değişen bilgi, kurumsal belge | Biçim, üslup, alan dili |
Avantajlar ve sınırlılıklar#
- Bilgi güncellemesi için modele dokunmak gerekmez.
- Cevap, dayandığı kaynağa bağlanabilir — denetlenebilirlik artar.
- Erişim denetimi belge katmanında uygulanabilir.
Kullanım alanları#
- Teknik destek: ürün dokümantasyonu üzerinden cevap üretme.
- Bakım: ekipman el kitaplarında arıza kodu arama.
- Hukuk ve uyum: sözleşme ve mevzuat metinlerinde dayanak bulma.
- İK: iç politika ve prosedür soruları.
Sık sorulan sorular
RAG için fine-tuning gerekir mi?
Hayır. RAG, model parametrelerine dokunmadan çalışır. Üslup veya alan diline uyum gerekiyorsa ikisi birlikte kullanılabilir.
Parça uzunluğu ne olmalı?
Tek bir doğru değer yoktur; belgenin yapısına bağlıdır. Anlamlı bütünlüğü bölmeyen, örtüşmeli parçalar genellikle daha iyi sonuç verir.
RAG neden yanlış cevap veriyor?
Sorunun kaynağı çoğunlukla üretim değil geri getirmedir. İlk adımda doğru parça bulunmuyorsa modelin yapabileceği bir şey yoktur.
Kaynaklar
- 01Vektör veritabanı ürün dokümantasyonları — Sağlayıcılar · Dokümantasyon
- 02Sinaptik Research — geri getirme kalitesi notları — Sinaptik Lab · Teknik rapor
Güncelleme geçmişi
- v1.2Yeniden sıralama bölümü ve hibrit arama notu eklendi.
- v1.1RAG ile fine-tuning karşılaştırma tablosu eklendi.
- v1.0İlk yayın.
LEARN
Retrieval-Augmented Generation konusunu uygulamaya dökmek ister misin?
Kavramı okudun; sırada onu bir rotanın içinde öğrenmek ve bir testle ölçmek var.