YAZILIMCI · Başlangıç → Orta
LLM Uygulama Geliştirici
Modeli sohbet arayüzünden tanıyan geliştiriciyi, model çağrısını hata toleransı ve bütçesi olan bir ürün akışına oturtabilen birine taşır. İstem tasarımı, şemaya uyan çıktı, akış ve hata kurtarma sırayla kurulur. Son bölüm yanlış cevap oranının yayın öncesinde nasıl raporlanacağını ele alır.
- Bölüm
- 5
- Süre
- ~40 sa
- Ders
- 5
- Önkoşul
- 4
Bölüm döngüsü
- 1Teori
- 2Örnek
- 3Lab
- 4Test
- 5Proje
Önkoşullar
- Tercih ettiği dilde bir HTTP isteği kurup yanıtını ayrıştırabilmek
- JSON şemasıyla gelen veriyi doğrulayabilmek
- Eşzamansız çağrı ve zaman aşımı kavramlarını uygulamada kullanabilmek
- Gizli anahtarı ortam değişkeniyle yönetebilmek
Rotayı bitirdiğinde ne yapabiliyor olacaksın?
Bir web veya servis uygulaması yazabilen, model çağrısını tek seferlik denemeden öteye taşımamış geliştirici için.
- 01
Araç çağrısıyla modeli uygulama işlevlerine yönlendirip dönen argümanları doğrulayabilmek
- 02
Modelden şemaya uyan çıktı alıp doğrulama hatasında yeniden denemeyi kurabilmek
- 03
Akışlı yanıtı arayüze bağlayıp yarı yolda kesilen üretimi kurtarabilmek
- 04
Uçtan uca bir isteğin jeton ve gecikme maliyetini ölçüp bütçe eşiği koyabilmek
- 05
Biçim hatası, zaman aşımı ve oran sınırını ayrı ayrı ele alan bir hata yolu yazabilmek
- 06
Yayına almadan önce yanlış cevap oranını örnek küme üzerinde raporlayabilmek
5 bölüm
Her bölüm ilgili Atlas kavramlarına bağlanır; eksik önkoşul varsa beceri grafiği uyarır.
- 01
Model çağrısının temelleri
6 saatBir üretici model çağrısının girdi, çıktı ve ücretlendirme birimleri incelenir. İstek gövdesindeki ayarların yanıtı nasıl değiştirdiği ve jeton sayımının neden her hesabın merkezinde durduğu gösterilir.
- 02
İstem tasarımı ve yapılandırılmış çıktı
8 saatGörevi netleştiren istem iskeleti, örnekle yönlendirme ve çıktının şemaya bağlanması ele alınır. Araç çağrısıyla modelin uygulama işlevlerine yönlendirilmesi ve dönen argümanların doğrulanması çalışılır.
- 03
Akış, zaman aşımı ve hata kurtarma
8 saatYanıtın parça parça arayüze akıtılması, kesilen üretimin sürdürülmesi ve uzun yanıtta pencere sınırına çarpma durumları işlenir. Girdi ve çıktı tarafına konan basit korkuluklarla hatalı akışın durdurulması gösterilir.
- 04
Maliyet ve gecikme bütçesi
8 saatİstek başına jeton, istem yeniden kullanımı ve yanıt uzunluğu sınırlarıyla maliyet bütçesi kurulur. Küçük ve büyük model arasındaki seçim, yeniden kullanılan istem parçaları ve isteklerin toplanması gibi ucuzlatma yollarıyla birlikte gecikme tarafından değerlendirilir.
- 05
Doğrulama, günlükleme ve yayına alma
10 saatUydurma cevabın uygulama içinde nasıl yakalanacağı, örnek küme üzerinde hata oranının nasıl raporlanacağı ele alınır. İstem ve model sürümlerinin günlüğe işlenmesi ve yayın sonrası izleme ile kapanır.
Bu rotadaki dersler
- Model çağrısının anatomisiBir üretici model çağrısının istek gövdesini alan alan çözer; örnekleme ayarlarının yanıtı nasıl değiştirdiğini ve jeton muhasebesinin neden her hesabın merkezinde durduğunu gösterir.25 dk
- Şemaya bağlı çıktı ve araç çağrısıGörev istemini dört parçaya ayırmayı, çıktıyı serbest metin yerine doğrulanabilir bir şemaya bağlamayı ve araç çağrısında dönen argümanları güvenilir biçimde doğrulamayı öğretir.35 dk
- Akış, kesilme ve kurtarmaYanıtın parça parça akıtılmasının neyi çözüp neyi çözmediğini, kesilmenin sebeplerini ve her sebebe karşılık gelen doğru kurtarma davranışını öğretir.35 dk
- Maliyet ve gecikme bütçesi kurmakİstek başına jetonu kovalarına ayırarak bir bütçe denklemi kurmayı, hangi kaldıracın neyi düşürüp neyi bozduğunu ve gecikme ile maliyet arasındaki ödünleşimi değerlendirmeyi öğretir.40 dk
- Doğrulama, günlükleme ve yayına almaUydurma cevabın uygulama içinde hangi katmanlarda yakalanacağını, sürümlenmiş bir ölçüm kümesiyle regresyonun nasıl görüleceğini ve yayın sonrası izleme ile geri almanın nasıl kurulacağını öğretir.45 dk
Rotada geçen kavramlar
- Large Language ModelsLarge Language ModelÇok büyük metin derlemleri üzerinde bir sonraki tokeni tahmin etmeyi öğrenmiş, transformer tabanlı ve genel amaçlı dil görevlerinde kullanılabilen sinir ağı modelidir.
- Generative AIGenerative AIÖğrendiği veri dağılımından yeni metin, görsel, ses, video veya kod örnekleri üreten model ailesinin genel adıdır.
- Large Language ModelsTokenizationMetnin, modelin işleyebileceği en küçük birimlere (token) bölünmesi işlemidir.
- Generative AIPrompt EngineeringBir dil modelinden istenen davranışı almak üzere girdinin yapısını, bağlamını ve kısıtlarını sistematik biçimde tasarlama pratiğidir.
- AI AgentsFunction CallingModelin serbest metin yerine, verilen şemaya uygun yapılandırılmış bir çağrı üretmesi ve uygulamanın bu çağrıyı gerçek bir fonksiyona bağlamasıdır.
- Large Language ModelsContext WindowBir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
- AI SecurityGuardrailsBir yapay zekâ sisteminin girdi, çıktı ve eylem katmanlarına yerleştirilen, istenmeyen davranışı sınırlayan programatik denetimlerdir.
- Responsible AIHallucinationModelin akıcı ve kendinden emin biçimde, gerçekle uyuşmayan bilgi üretmesidir.
- MLOps / LLMOpsEvaluationBir yapay zekâ sisteminin çıktısının, tanımlı ölçütlere göre sistematik biçimde ölçülmesidir.
- MLOps / LLMOpsLLMOpsDil modeli tabanlı uygulamaların istem, bağlam, araç ve model sürümlerini izlenebilir, ölçülebilir ve geri alınabilir biçimde işletme pratiğidir.
Sana uygun olmayabilir mi?
ÖLÇ
Rotaya başlamadan önce nerede durduğunu gör
15 soruluk seviye testi, hangi bölümden başlaman gerektiğini söyler.