Generative AI
RAG (retrieval-augmented generation), modeli yeniden eğitmek yerine soruya ilgili belgeleri arayıp bağlama koyarak yanıt üretmektir; kurumsal soruların çoğu güncel ve kaynaklı yanıt gerektirdiği için ilk tercih genelde budur. Kalitenin büyük kısmı modelden değil getirme (retrieval) hattından gelir: neyin dizinlendiği, nasıl parçalandığı, nasıl sıralandığı. Yanlış belge, eksik belge ve kaynağa uymayan yanıt gibi hata modları; RAG mimarileri ve ölçüm yöntemleriyle birlikte bu başlığın altında durur.
AI Radar
+1 son 7 gün
Heyecan azaldı, kurumsal uygulama arttı — olgunlaşma işareti.
Radar metodolojisi →Her alt konu kendi merkezine sahiptir; kavram, haber, ders ve test orada toplanır.
Dil modelinin cevap üretmeden önce harici bilgi kaynaklarından ilgili bilgiyi getirip oluşturduğu bağlama eklediği yapay zekâ mimarisidir.
Bir RAG sisteminin cevabı kötüyse sorun çoğunlukla modelde değil, modelin ne gördüğünde. Doğru parçayı görmeyen bir model hiçbir istemle kurtarılamaz; yanlış parçayı gördüğünde ise kaynaklı görünen bir yanlış üretir — bu, kaynaksız yanlıştan daha tehlikelidir. Bu yüzden model değiştirmek çoğu ekibin elindeki en zayıf kaldıraçtır.
Parçalama, RAG hattının en sessiz adımı: bir kez yapılır, sonra görünmez olur. Ama geri getirilebilecek en küçük birimi o tanımlar — parça bir tanımı ortadan kesiyorsa o tanım hiçbir arama stratejisiyle tam getirilemez, çünkü arama yalnızca var olan parçalar arasından seçim yapar. Bu yüzden parçalama bir ön işleme detayı değil, sistemin bilgi tavanını belirleyen mimari karardır.
Semantik komşuluk: bu konuyu anlamak için gereken veya ondan türeyen kavramlar.
Bir belgeyi, aranabilir ve bağlama sığacak anlamlı birimlere bölme işlemidir; geri getirme kalitesini belirleyen ilk karardır.
Bir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
Metin, görsel veya sesin anlamsal yakınlığı koruyacak biçimde sayısal vektörlere dönüştürülmüş temsilidir.
Önceden eğitilmiş bir modelin, belirli bir görev veya alana uyum sağlaması için ek veriyle yeniden eğitilmesidir.
Öğrendiği veri dağılımından yeni metin, görsel, ses, video veya kod örnekleri üreten model ailesinin genel adıdır.
Modelin akıcı ve kendinden emin biçimde, gerçekle uyuşmayan bilgi üretmesidir.
Aynı konunun öğretim ve ölçüm formatları.
Dersler
Testler
