YAZILIMCI · Orta → İleri
RAG Mühendisi
Bir vektör aramasını ayağa kaldırmış ama isabetsizliğin nereden geldiğini ayrıştıramayan geliştiriciyi, parçalama ve gömme kararlarını ölçüme bağlayan bir mühendise taşır. Hibrit arama, yeniden sıralama ve referanslı cevap üretimi tek bir hat olarak ele alınır. Kapanış bölümü geri getirme kalitesini cevap kalitesinden ayırarak ölçmeye ayrılmıştır.
- Bölüm
- 5
- Süre
- ~48 sa
- Ders
- 5
- Önkoşul
- 4
Bölüm döngüsü
- 1Teori
- 2Örnek
- 3Lab
- 4Test
- 5Proje
Önkoşullar
- Python ile dosya okuyup dönüştüren bir veri hattı yazabilmek
- Bir HTTP API'yi kendi başına çağırıp yanıtını ayrıştırabilmek
- Gömme ve benzerlik aramasının ne işe yaradığını örnekle açıklayabilmek
- Temel istem yazımıyla modelden biçimli çıktı alabilmek
Rotayı bitirdiğinde ne yapabiliyor olacaksın?
Python ile veri hattı yazabilen, bir benzerlik aramasını çalıştırmış ancak sonuçların neden yanlış geldiğini teşhis edemeyen geliştirici için.
- 01
Bir belge kümesi için parçalama stratejisini isabet ölçümüyle karşılaştırıp seçebilmek
- 02
Geri getirme kalitesini cevap kalitesinden ayrı ölçen bir değerlendirme kümesi kurabilmek
- 03
Anahtar kelime ve anlamsal aramayı birleştiren hibrit bir sorgu hattını çalıştırabilmek
- 04
Yeniden sıralama katmanının isabete katkısını ve gecikme maliyetini sayıyla gösterebilmek
- 05
Cevaptaki her iddiayı getirilen kaynak parçasına bağlayan bir referans zinciri kurabilmek
- 06
Üretimdeki geri getirme başarısızlıklarını günlükten teşhis edip düzeltme önerisi çıkarabilmek
5 bölüm
Her bölüm ilgili Atlas kavramlarına bağlanır; eksik önkoşul varsa beceri grafiği uyarır.
- 01
Geri getirme hattının anatomisi
8 saatSorgudan cevaba kadar hattın hangi adımlardan geçtiği, her adımın kendi hata biçimi ve nerede ölçüm noktası açılacağı ele alınır. Vektör deposunun görevi ile modelin görevi net biçimde ayrılır.
- 02
Belge parçalama ve gömme seçimi
10 saatParça boyu, örtüşme ve belge yapısına saygılı bölme yöntemleri karşılaştırılır. Farklı gömme modellerinin aynı veri üzerindeki davranış farkı ve jeton sayımının parçalama kararına etkisi çalışılır.
- 03
Hibrit arama ve yeniden sıralama
10 saatAnlamsal arama ile sözcük eşleşmesinin birlikte kullanılması, skorların birleştirilmesi ve filtreli sorgular incelenir. Yeniden sıralama katmanının isabeti artırırken getirdiği gecikme maliyeti ölçülür.
- 04
Referanslı cevap ve bağlam bütçesi
8 saatGetirilen parçaların bağlam penceresine hangi sırayla ve hangi bütçeyle yerleştirileceği, iddia-kaynak eşlemesinin nasıl kurulacağı işlenir. Kaynağı olmayan cevabın nasıl bastırılacağı üzerinde durulur.
- 05
Geri getirme kalitesini ölçme ve üretime alma
12 saatKendi verisinden değerlendirme kümesi çıkarma, isabet ve kapsama ölçütlerini ayrı raporlama, sürüm karşılaştırması yapma çalışılır. Günlükleme, kaynak sızıntısına karşı korkuluklar ve yayın sonrası izleme ile kapanır.
Bu rotadaki dersler
- Geri getirme hattını adımlara ayırmakRAG hattını sorgudan cevaba kadar altı adıma ayırır; her adımın kendi hata biçimini, kendi ölçüm noktasını ve kötü cevabın hangi halkadan geldiğini bulma sırasını gösterir.30 dk
- Parça boyu, örtüşme ve gömme modeli seçimiParça boyu ve örtüşme kararını jeton sayımına bağlar; aynı veri üzerinde iki gömme modelinin neden farklı davrandığını ve seçimin hangi ölçütle yapılacağını gösterir.40 dk
- Hibrit aramada birleştirme, filtre ve yeniden sıralamaİki arama yönteminin sonuçlarını sıra üzerinden birleştirmeyi, filtrenin aramanın neresinde uygulanacağını ve yeniden sıralama katmanının gecikme karşılığında ne kazandırdığını anlatır.40 dk
- Bağlam bütçesi ve iddia-kaynak eşlemesiGetirilen parçaların isteme hangi bütçeyle ve hangi sırayla yerleştirileceğini, her iddianın kaynağa nasıl bağlanacağını ve kaynağı olmayan cevabın kod tarafında nasıl bastırılacağını gösterir.35 dk
- Değerlendirme kümesi, sürüm karşılaştırması ve korkuluklarKendi verinizden dondurulmuş bir değerlendirme kümesi çıkarmayı, kapsama ile isabeti ayrı raporlamayı, tek değişkenli sürüm karşılaştırması yapmayı ve yayın sonrası korkulukları kurmayı anlatır.50 dk
Rotada geçen kavramlar
- Large Language ModelsRetrieval-Augmented GenerationDil modelinin cevap üretmeden önce harici bilgi kaynaklarından ilgili bilgiyi getirip oluşturduğu bağlama eklediği yapay zekâ mimarisidir.
- Large Language ModelsEmbeddingMetin, görsel veya sesin anlamsal yakınlığı koruyacak biçimde sayısal vektörlere dönüştürülmüş temsilidir.
- AI InfrastructureVector DatabaseYüksek boyutlu vektörleri saklayıp anlamsal yakınlığa göre hızlı komşu araması yapabilen veri tabanıdır.
- Large Language ModelsChunkingBir belgeyi, aranabilir ve bağlama sığacak anlamlı birimlere bölme işlemidir; geri getirme kalitesini belirleyen ilk karardır.
- Large Language ModelsTokenizationMetnin, modelin işleyebileceği en küçük birimlere (token) bölünmesi işlemidir.
- NLPSemantic SearchKelime eşleşmesi yerine anlam yakınlığına dayanarak sonuç döndüren arama yaklaşımıdır; gömme vektörleri arasındaki mesafeyle ölçülür.
- Large Language ModelsRerankingArama adımından dönen ilk adayların, sorgu ve belgeyi birlikte okuyan daha maliyetli bir modelle yeniden puanlanıp sıralanmasıdır.
- Large Language ModelsContext WindowBir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
- Responsible AIHallucinationModelin akıcı ve kendinden emin biçimde, gerçekle uyuşmayan bilgi üretmesidir.
- Generative AIPrompt EngineeringBir dil modelinden istenen davranışı almak üzere girdinin yapısını, bağlamını ve kısıtlarını sistematik biçimde tasarlama pratiğidir.
- MLOps / LLMOpsEvaluationBir yapay zekâ sisteminin çıktısının, tanımlı ölçütlere göre sistematik biçimde ölçülmesidir.
- MLOps / LLMOpsLLMOpsDil modeli tabanlı uygulamaların istem, bağlam, araç ve model sürümlerini izlenebilir, ölçülebilir ve geri alınabilir biçimde işletme pratiğidir.
- AI SecurityGuardrailsBir yapay zekâ sisteminin girdi, çıktı ve eylem katmanlarına yerleştirilen, istenmeyen davranışı sınırlayan programatik denetimlerdir.
Sana uygun olmayabilir mi?
ÖLÇ
Rotaya başlamadan önce nerede durduğunu gör
15 soruluk seviye testi, hangi bölümden başlaman gerektiğini söyler.
