PLATFORM · Orta → İleri
MLOps Mühendisi
Model ve istem değişikliklerini elle yürüten bir ekibi, sürümü izlenebilir ve geri alınabilir bir hatta geçirir. Sürüm kimliği, veri kökeni, dağıtım, gözlemlenebilirlik ve kayma tespiti sırayla kurulur. Son adımda değerlendirme koşusu hattın zorunlu bir parçası hâline getirilir.
- Bölüm
- 6
- Süre
- ~45 sa
- Ders
- 6
- Önkoşul
- 4
Bölüm döngüsü
- 1Teori
- 2Örnek
- 3Lab
- 4Test
- 5Proje
Önkoşullar
- Bir CI/CD hattını kendi başına kurup sürdürebilmek
- Konteyner imajı üretip bir orkestrasyon ortamına dağıtabilmek
- Ölçüm, kayıt ve uyarı araçlarını birbirine bağlayabilmek
- Bir modeli veya dil modeli API'sini servis arkasından çağırabilmek
Rotayı bitirdiğinde ne yapabiliyor olacaksın?
CI/CD ve konteyner işletmeyi bilen, makine öğrenmesi veya dil modeli iş yükünü ilk kez üretimde taşıyacak platform mühendisleri için.
- 01
Bir sürümü model, veri, istem ve yapılandırma bileşenleriyle birlikte tek kimlik altında etiketleyebilmek
- 02
Üretimdeki tek bir yanıtı, onu üreten veri kümesi ve sürüme kadar geriye izleyebilmek
- 03
Gecikme, maliyet ve hata oranını sürüm bazında ayrıştıran bir gösterge düzeni kurabilmek
- 04
Girdi dağılımındaki kaymayı eşiğe bağlı bir uyarıya dönüştürüp yanlış uyarı sayısını ölçebilmek
- 05
Bozuk bir sürümü hedeflenen süre içinde geri alıp etkilenen istek sayısını kayıtla gösterebilmek
- 06
Değerlendirme koşusunu hattın zorunlu adımı hâline getirip geçme eşiğini yazılı olarak tanımlayabilmek
6 bölüm
Her bölüm ilgili Atlas kavramlarına bağlanır; eksik önkoşul varsa beceri grafiği uyarır.
- 01
Sürüm kimliği: model, veri, istem
7 saatÜretimde çalışan şeyin tek bir bileşen olmadığı, model ağırlığı, veri kümesi, istem ve yapılandırmanın birlikte bir sürüm oluşturduğu gösterilir. Bu bileşenleri tek kimlikte etiketleme ve kayıt defterinde tutma düzeni kurulur. Yeniden üretilebilirliğin neye bağlı olduğu somutlaşır.
- 02
Veri kökeni ve yeniden üretilebilirlik
7 saatVeri hattının adımları, dönüşümleri ve türetilmiş yapıların kaynağı izlenebilir hâle getirilir. Gömme üretimi ile vektör deposunun yeniden inşası sürüm kaydına bağlanır. Bir çıktının hangi veriyle üretildiğini geriye izleme alıştırması yapılır.
- 03
Dağıtım hattı ve model sunumu
8 saatSunum katmanı kurulur: ölçekleme, eşzamanlılık sınırları, önbellek ve aşamalı yayma. Kendi barındırılan modelde nicemlemenin kaynak ve kalite üzerindeki etkisi, dış sağlayıcıda ise kota ve yeniden deneme düzeni ele alınır. Yayma stratejileri geri alma kolaylığına göre karşılaştırılır.
- 04
Gözlemlenebilirlik ve maliyet muhasebesi
8 saatGecikme, hata oranı ve jeton tüketimi sürüm ile uç nokta kırılımında ölçülür. Bağlam uzunluğunun maliyet ve gecikmeye etkisi gösterge düzenine yansıtılır. İstek başına maliyetin hangi kararla değiştiği izlenebilir hâle gelir.
- 05
Kayma tespiti ve yeniden eğitim tetikleyicileri
8 saatGirdi dağılımı, çıktı davranışı ve iş sonucundaki kayma ayrı ayrı izlenir. Eşik seçimi, uyarı yorgunluğu ve mevsimsel dalgalanmanın ayrıştırılması ele alınır. Yeniden eğitim veya istem güncellemesi için tetikleyici koşullar yazılır.
- 06
Sürüm kapıları, geri alma ve otomasyon
7 saatDeğerlendirme koşusu hattın zorunlu adımına dönüştürülür; geçme eşiği ve elle aşma yolu tanımlanır. Geri alma tek komutla yürütülebilir hâle getirilir ve hedef süre ölçülür. Kapanışta bütün hat bir örnek sürüm üzerinde baştan sona çalıştırılır.
Bu rotadaki dersler
- Üretimdeki sürümün bileşenleriÜretimde çalışan davranışın tek bir model dosyası değil; model, istem, dizin, parametre ve araç şemalarının birlikte ürettiği bir bileşim olduğunu gösterir. Bu bileşenleri tek bir sürüm kimliğinde toplamanın düzenini kurar.35 dk
- Veri kökeni ve türetilmiş yapıların iziVeri hattının her adımında hangi kökensel alanların kaydedileceğini ve bir cevaptan kaynak belge sürümüne nasıl geri izleneceğini kurar. Gömme ve dizin gibi türetilmiş yapıları sürüm kaydına bağlar.35 dk
- Sunum katmanı ve aşamalı yaymaSunum kapasitesini belirleyen ön dolum ve çözümleme evrelerini, nicemlemenin bellek kazancı ile kalite riski arasındaki ödünleşimini ve yayma stratejilerinin geri alma kolaylığına göre karşılaştırmasını kurar.45 dk
- Gecikme, jeton ve maliyetin kırılımıGecikmeyi kuyruk, ilk jeton ve tamamlanma olarak ayrıştırır; istek başına maliyeti sürüm ve uç nokta kırılımında hesaplanabilir hâle getirir. Bağlam uzunluğunun gecikme ve eşzamanlılık üzerindeki etkisini gösterge düzenine yansıtır.45 dk
- Kayma sinyalleri ve tetikleyici eşikleriGirdi dağılımı, çıktı davranışı ve iş sonucundaki kaymayı ayrı sinyaller olarak izlemeyi öğretir. Eşik seçimi, uyarı yorgunluğu ve mevsimsellik ayrıştırmasını ele alıp tetikleyici koşullarını müdahale türüne bağlar.45 dk
- Değerlendirme kapısı ve geri alma yoluDeğerlendirme koşusunu hattın zorunlu adımına dönüştürür: bloke eden ve uyaran eşikleri ayırır, kayıtlı bir elle aşma yolu tanımlar. Geri almayı ölçülen bir yetenek hâline getirir ve hattın tamamını tek bir sürüm üzerinde birleştirir.40 dk
Rotada geçen kavramlar
- MLOps / LLMOpsMLOpsMakine öğrenmesi modellerinin geliştirilmesini, dağıtımını, izlenmesini ve yenilenmesini tekrarlanabilir ve denetlenebilir hale getiren mühendislik disiplinidir.
- Machine LearningMachine LearningKuralları insanın yazması yerine, örnek veriden istatistiksel örüntü çıkararak yeni veride tahmin üretmeyi öğrenen sistemlerin alanıdır.
- MLOps / LLMOpsLLMOpsDil modeli tabanlı uygulamaların istem, bağlam, araç ve model sürümlerini izlenebilir, ölçülebilir ve geri alınabilir biçimde işletme pratiğidir.
- Large Language ModelsEmbeddingMetin, görsel veya sesin anlamsal yakınlığı koruyacak biçimde sayısal vektörlere dönüştürülmüş temsilidir.
- AI InfrastructureVector DatabaseYüksek boyutlu vektörleri saklayıp anlamsal yakınlığa göre hızlı komşu araması yapabilen veri tabanıdır.
- AI InfrastructureQuantizationModel ağırlıklarının ve/veya ara değerlerin daha az bitle temsil edilerek bellek ve hesaplama maliyetinin düşürülmesidir.
- Large Language ModelsLarge Language ModelÇok büyük metin derlemleri üzerinde bir sonraki tokeni tahmin etmeyi öğrenmiş, transformer tabanlı ve genel amaçlı dil görevlerinde kullanılabilen sinir ağı modelidir.
- Large Language ModelsContext WindowBir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
- Large Language ModelsTokenizationMetnin, modelin işleyebileceği en küçük birimlere (token) bölünmesi işlemidir.
- MLOps / LLMOpsEvaluationBir yapay zekâ sisteminin çıktısının, tanımlı ölçütlere göre sistematik biçimde ölçülmesidir.
- Large Language ModelsFine-TuningÖnceden eğitilmiş bir modelin, belirli bir görev veya alana uyum sağlaması için ek veriyle yeniden eğitilmesidir.
Sana uygun olmayabilir mi?
ÖLÇ
Rotaya başlamadan önce nerede durduğunu gör
15 soruluk seviye testi, hangi bölümden başlaman gerektiğini söyler.