YAZILIMCI · Başlangıç → Orta
Prompt ve Bağlam Mühendisi
İstemi deneme yanılmayla iyileştiren geliştiriciyi, istem ve bağlam kararlarını sürümleyip ölçebilen birine taşır. Örnekleme ayarları, bağlam bütçesinin dağıtımı ve uzun bağlamda bilgi kaybı sırayla işlenir. Kapanış bölümü değerlendirme takımı kurmaya ve değişiklikleri geri alınabilir biçimde yayına almaya ayrılmıştır.
- Bölüm
- 6
- Süre
- ~38 sa
- Ders
- 6
- Önkoşul
- 3
Bölüm döngüsü
- 1Teori
- 2Örnek
- 3Lab
- 4Test
- 5Proje
Önkoşullar
- Bir model API'sini kod içinden çağırabilmek
- İstem metinlerini sürüm kontrolünde tutabilmek
- Basit bir betikle çıktıları toplayıp tabloya dökebilmek
Rotayı bitirdiğinde ne yapabiliyor olacaksın?
Modelle düzenli çalışan, ancak bir istem değişikliğinin sonucu gerçekten iyileştirdiğini kanıtlayamayan geliştirici için.
- 01
İki istem sürümünün başarı farkını sabit bir örnek küme üzerinde sayıyla gösterebilmek
- 02
Örnekleme ayarlarını değiştirerek çıktı kararlılığındaki değişimi ölçebilmek
- 03
Bağlam penceresini talimat, örnek ve kaynak arasında gerekçeli biçimde bölüştürebilmek
- 04
Uzun bağlamda hangi konumdaki bilginin kaybolduğunu ölçüp yerleştirme sırasını düzeltebilmek
- 05
Bir istemi enjeksiyon denemelerine karşı sınayıp açık kalan yolu kapatabilmek
- 06
İstem değişikliklerini sürümleyip geri alınabilir bir değerlendirme kaydı tutabilmek
6 bölüm
Her bölüm ilgili Atlas kavramlarına bağlanır; eksik önkoşul varsa beceri grafiği uyarır.
- 01
İstemin çalışan parçaları
5 saatGörev tanımı, rol, kısıt, örnek ve çıktı biçimi gibi parçaların her birinin sonuca katkısı ayrı ayrı sınanır. Aynı görevin farklı yazımlarının neden farklı sonuç verdiği üzerinde durulur.
- 02
Örnekleme ayarları ve tekrarlanabilirlik
5 saatSıcaklık, üst olasılık ve uzunluk sınırı gibi ayarların çıktı kararlılığına etkisi ölçülerek incelenir. Aynı istemin tekrarlarında sapmanın nasıl izleneceği ve uydurma cevap riskinin ayarlarla ilişkisi ele alınır.
- 03
Bağlam bütçesi ve yerleştirme sırası
7 saatPencerenin talimat, örnek ve kaynak metin arasında nasıl bölüştürüleceği, uzun girdinin nasıl bölünüp özetleneceği çalışılır. Modelin girdinin hangi bölümüne daha çok ağırlık verdiği ve konum kaynaklı bilgi kaybı incelenir.
- 04
Muhakeme istemleri ve adım ayrıştırma
7 saatÇok adımlı görevlerin ara adımlara bölünmesi ve adımların ayrı isteklerle yürütülmesi karşılaştırılır. Ara adımların kullanıcıya ne kadar gösterileceği ve uzun akıl yürütmenin maliyeti tartışılır.
- 05
İstem enjeksiyonu ve korkuluklar
6 saatKullanıcı girdisi ve dış kaynaklı metnin talimat gibi davranabildiği durumlar örneklerle sınanır. Girdi ayrıştırma, çıktı denetimi ve yetki sınırlaması gibi savunmaların hangi saldırıyı gerçekten kestiği ölçülür.
- 06
Sürümleme, değerlendirme takımı ve yayına alma
8 saatKendi görevinden sabit bir örnek küme çıkarma, başarı ölçütünü tanımlama ve sürümleri bu küme üzerinde karşılaştırma çalışılır. İstem sürümlerinin depoda izlenmesi, geri alma yolu ve yayın sonrası sapma takibi ile kapanır.
Bu rotadaki dersler
- İstemin çalışan parçalarıBir istemi görev, rol, bağlam, kısıt, örnek ve çıktı biçimi parçalarına ayırmayı ve her parçanın sonuca katkısını tek değişkenli denemeyle sınamayı öğretir.25 dk
- Örnekleme ayarları ve tekrarlanabilirlikSıcaklık, üst olasılık ve durdurma ayarlarının çıktı dağılımını nasıl biçimlendirdiğini, tekrarlar arası sapmanın nasıl ölçüleceğini ve bu ayarların uydurma cevapla ilişkisinin neden yanlış kurulduğunu öğretir.30 dk
- Bağlam bütçesi ve yerleştirme sırasıBağlam penceresini talimat, örnek, kaynak metin, geçmiş ve çıktı payları arasında bölüştürmeyi, kritik talimatı konum etkisini hesaba katarak yerleştirmeyi ve uzun girdiyi bölerken neyin kaybolduğunu izlemeyi öğretir.40 dk
- Muhakeme istemleri ve adım ayrıştırmaÇok adımlı bir görevi ara adımlara bölmenin neyi satın aldığını, tek çağrı ile çok çağrılı ayrıştırma arasındaki ödünleşimi ve muhakeme metninin neden bir denetim kanıtı sayılamayacağını öğretir.35 dk
- İstem enjeksiyonu ve işleyen savunmalarTalimat ile verinin aynı kanaldan akmasının neden yapısal bir açık ürettiğini, doğrudan ve dolaylı saldırı yollarını ve hangi savunmanın hangi yolu gerçekten kestiğini öğretir.40 dk
- Sürümleme, değerlendirme takımı ve yayına almaKendi işinizden sabit bir değerlendirme kümesi kurmayı, başarı ölçütünü otomatikleştirmeyi, istem sürümlerini aynı küme üzerinde karşılaştırmayı ve yayın sonrası sapmayı geri alma eşiğiyle birlikte izlemeyi öğretir.45 dk
Rotada geçen kavramlar
- Generative AIPrompt EngineeringBir dil modelinden istenen davranışı almak üzere girdinin yapısını, bağlamını ve kısıtlarını sistematik biçimde tasarlama pratiğidir.
- Large Language ModelsLarge Language ModelÇok büyük metin derlemleri üzerinde bir sonraki tokeni tahmin etmeyi öğrenmiş, transformer tabanlı ve genel amaçlı dil görevlerinde kullanılabilen sinir ağı modelidir.
- Generative AIGenerative AIÖğrendiği veri dağılımından yeni metin, görsel, ses, video veya kod örnekleri üreten model ailesinin genel adıdır.
- Responsible AIHallucinationModelin akıcı ve kendinden emin biçimde, gerçekle uyuşmayan bilgi üretmesidir.
- Large Language ModelsContext WindowBir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
- Large Language ModelsChunkingBir belgeyi, aranabilir ve bağlama sığacak anlamlı birimlere bölme işlemidir; geri getirme kalitesini belirleyen ilk karardır.
- Deep LearningAttentionBir dizideki her ögenin, çıktı üretilirken diğer ögelere ne kadar ağırlık vereceğini öğrenilebilir biçimde belirleyen mekanizmadır.
- Large Language ModelsChain-of-ThoughtModelin nihai cevaba gitmeden önce ara adımları açıkça üretmesini isteyen istem tekniğidir; çok adımlı görevlerde doğruluğu artırabilir.
- Large Language ModelsReasoning ModelsCevabı doğrudan üretmek yerine, çıkarım anında daha fazla hesaplama harcayarak ara adımlar üreten ve bu adımlar üzerinden sonuca varan dil modeli ailesidir.
- AI SecurityPrompt InjectionModelin işlediği içeriğe gizlenen yönergelerle sistem talimatlarının geçersiz kılınmaya çalışıldığı saldırı sınıfıdır.
- AI SecurityGuardrailsBir yapay zekâ sisteminin girdi, çıktı ve eylem katmanlarına yerleştirilen, istenmeyen davranışı sınırlayan programatik denetimlerdir.
- Responsible AIResponsible AIYapay zekâ sistemlerinin adillik, şeffaflık, hesap verebilirlik, gizlilik ve güvenlik boyutlarını tasarım aşamasından itibaren yönetme yaklaşımıdır.
- MLOps / LLMOpsEvaluationBir yapay zekâ sisteminin çıktısının, tanımlı ölçütlere göre sistematik biçimde ölçülmesidir.
- MLOps / LLMOpsLLMOpsDil modeli tabanlı uygulamaların istem, bağlam, araç ve model sürümlerini izlenebilir, ölçülebilir ve geri alınabilir biçimde işletme pratiğidir.
Sana uygun olmayabilir mi?
ÖLÇ
Rotaya başlamadan önce nerede durduğunu gör
15 soruluk seviye testi, hangi bölümden başlaman gerektiğini söyler.