Large Language Models
Chain-of-Thought
Modelin nihai cevaba gitmeden önce ara adımları açıkça üretmesini isteyen istem tekniğidir; çok adımlı görevlerde doğruluğu artırabilir.
Orta
Operations
MLOps / LLMOps
MLOps ve LLMOps, bir modeli demo olmaktan çıkarıp sürümlenen, izlenen ve geri alınabilen bir üretim sistemine dönüştüren mühendislik disiplinidir. Dil modeli çağında değişen şey, kodun yanında prompt'ların, araç tanımlarının, getirme dizinlerinin ve değerlendirme kümelerinin de sürümlenmesi gereğidir; bunlardan biri sessizce değiştiğinde çıktı da değişir. Dağıtım desenleri, geri alma stratejileri, maliyet ve kalite izleme, veri ile prompt sürümleme bu başlığın altında toplanır.
- Gündem
- 1
- Kavram
- 7
- Analiz
- 0
- Radar momentum
- —
ALT KONULAR
MLOps / LLMOps altındaki 2 başlık
Her alt konu kendi merkezine sahiptir; kavram, haber, ders ve test orada toplanır.
- GözlemlenebilirlikYapay zekâ sistemlerinde gözlemlenebilirlik, her çağrının izini (trace) — istem, getirilen belgeler, araç çağrıları, token sayısı ve gecikme — tutup s
- Veri YönetişimiVeri yönetişimi, hangi verinin nereden geldiğini, kimin erişebildiğini, ne kadar süre tutulduğunu ve modele girmesine izin verilip verilmediğini kayıt
01KAVRAM
MLOps / LLMOps nedir?
Makine öğrenmesi modellerinin geliştirilmesini, dağıtımını, izlenmesini ve yenilenmesini tekrarlanabilir ve denetlenebilir hale getiren mühendislik disiplinidir.
LLMOpsEvaluationMachine Learning
02DISCOVER
Son gelişmeler
04ATLAS
İlgili kavramlar
Semantik komşuluk: bu konuyu anlamak için gereken veya ondan türeyen kavramlar.
Generative AI
Generative AI
Öğrendiği veri dağılımından yeni metin, görsel, ses, video veya kod örnekleri üreten model ailesinin genel adıdır.
Başlangıç
MLOps / LLMOps
LLMOps
Dil modeli tabanlı uygulamaların istem, bağlam, araç ve model sürümlerini izlenebilir, ölçülebilir ve geri alınabilir biçimde işletme pratiğidir.
Orta
Machine Learning
Machine Learning
Kuralları insanın yazması yerine, örnek veriden istatistiksel örüntü çıkararak yeni veride tahmin üretmeyi öğrenen sistemlerin alanıdır.
Başlangıç
Generative AI
Prompt Engineering
Bir dil modelinden istenen davranışı almak üzere girdinin yapısını, bağlamını ve kısıtlarını sistematik biçimde tasarlama pratiğidir.
Başlangıç
AI Infrastructure
Quantization
Model ağırlıklarının ve/veya ara değerlerin daha az bitle temsil edilerek bellek ve hesaplama maliyetinin düşürülmesidir.
İleri
07LEARN
Öğren ve ölç
Aynı konunun öğretim ve ölçüm formatları.
Dersler
- Görüntü verisinin doğası25 dkBir görüntünün sayısal temsilini, renk uzayı ile yeniden ölçekleme kararlarını ve eğitimle çıkarım arasında aynı kalmak zorunda olan önişleme sözleşmesini öğretir.
- Evrişim, havuzlama ve alıcı alan35 dkEvrişimin görüntü için neden doğru varsayılan olduğunu, alıcı alanın katman yığınında nasıl büyüdüğünü ve mimari ailelerinin hangi baskıya cevap verdiğini öğretir.
- Transfer öğrenme ve ince ayar derinliği40 dkÖnceden eğitilmiş bir omurganın ne kadarının açılacağını, hangi artırmanın etiketi koruduğunu ve sınıflandırma hattındaki sızıntının nasıl kapatılacağını öğretir.
- Nesne tespitinde eşleşme kuralı ve ölçüm45 dkTespit çıktısının doğru kutularla nasıl eşleştirildiğini, ortalama kesinlik ölçümünün neyi topladığını ve çapa tabanlı ile çapasız atamanın hangi kararı değiştirdiğini öğretir.
Testler
- MLOps / LLMOps Testi — Başlangıç6 soruModel yaşam döngüsünün adımlarını, dil modeli hattında ek olarak sürümlenen varlıkları ve üretim izlemesinin neye baktığını ölçen test.
- MLOps / LLMOps Testi — Orta6 soruÜretim hattındaki belirtileri nedene bağlamayı, yayım ile geri alma kararlarını ve gecikme ile maliyet arasındaki ödünleşimi ölçen test.
- Gözlemlenebilirlik Testi — İleri6 soruEtiket kardinalitesi, asenkron bağlam taşıma, kuyruk tabanlı örnekleme ve kayıt kapsamı kararlarını ileri düzeyde ölçen test.
- Gözlemlenebilirlik Testi — Orta6 soruÜretimdeki bir dil modeli hattında belirti okuma, iz kurgusu, maliyet ayrıştırması ve uyarı eşiği kararlarını ölçen test.
- Veri Yönetişimi Testi — Orta6 soruEğitim ve geri getirme verisinin kökenini, erişim ile silme kararlarını ve kullanım hakkı kayıtlarının hattı nasıl bağladığını ölçen test.