AI ALTYAPISI · Orta
AI Altyapısı Testi — Orta
Toplu işleme, darboğaz teşhisi, ölçekleme ve sürüm geçişi kararlarındaki ödünleşimleri gerekçelendirme becerisini ölçen test.
- Soru
- 6
- Süre
- 12 dk
- Ölçülen beceri
- 4
- Seviye
- Orta
Kimler çözmeli?
Çıkarım hizmeti işleten platform ve MLOps mühendisleri için; temel altyapı kavramlarının bilinmesi beklenir.
Ölçülen beceriler
- Kapasite planlama muhakemesi
- Darboğaz teşhisi
- Maliyet ödünleşimi
- Sürüm geçişi tasarımı
Testi çöz
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alan önerisi alırsın.
6 soruluk testi çözmeye hazır mısın?
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alanlar için öneri alırsın.
Bu test neyi ölçüyor?
Test sonrası ne bildiğini değil, hangi beceride eksik olduğunu görürsün.
- 01
Toplu işlem boyutunun gecikme ve işlem hacmi üzerindeki etkisini ayırt etmek
- 02
Düşük hızlandırıcı kullanımıyla yüksek gecikmenin birlikte görüldüğü durumu teşhis etmek
- 03
Sürüm geçişi yöntemlerini amaçlarına göre seçmek
Sorular sayfada görünür
Eğitim içeriği JavaScript arkasına gizlenmez. Aşağıdaki üç örnek soru, doğru cevapları ve açıklamalarıyla birlikte taranabilir durumdadır.
- Soru 01ai-altyapi-orta-1Toplu işleme · Orta · Kapasite planlama muhakemesi
Çıkarım sunucusunda toplu işlem boyutunu büyütmenin ödünleşimi nedir?
- ATek isteğin gecikmesi kısalır, işlem hacmi değişmeden kalır
- BModel doğruluğu toplu işlemde düştüğü için çıktı kalitesi bozulur
- CHızlandırıcı belleği boşalır, aynı makineye daha büyük model sığar
- DBirim zamanda işlenen istek sayısı artar, tek isteğin bekleme süresi uzar
Açıklama
Toplu iş hızlandırıcıyı daha verimli doldurur ve işlem hacmini yükseltir; karşılığında istekler yığın oluşana kadar bekler ve tek isteğin gecikmesi artar. Doğruluğun düştüğünü söyleyen seçenek yanılgıdır: toplu işlem hesabın düzenini değiştirir, modelin ürettiği dağılımı değiştirmez.
- Soru 02ai-altyapi-orta-2Darboğaz teşhisi · Orta · Darboğaz teşhisi
Bir çıkarım hizmetinde hızlandırıcı kullanımı düşük seyrederken yanıt süreleri yüksek. İlk olarak nereye bakmak gerekir?
- AHızlandırıcı dışındaki adımlara: sıraya alma, belirteçleme ve veri taşıma
- BAğırlıkların bit genişliğine; daha düşük bitli bir sürüme geçmek gerekir
- CToplu işlem boyutuna; daha büyük yığın gecikmeyi doğrudan düşürür
- DHızlandırıcı belleğine; bellek yetersizliği gecikmeyi bu biçimde yükseltir
Açıklama
Hızlandırıcı boşsa hesap darboğaz değildir; süre isteğin hesap dışında geçirdiği yerlerde birikir: kuyruk, ön işleme, ağ ve seri hâle getirme. Bellek seçeneği çekicidir ama bellek sınırına gelen bir hizmette kullanım oranı düşük görünmez; ya yüksek seyreder ya da istek doğrudan hata döner.
LLMOps girdisini oku - Soru 03ai-altyapi-orta-3Bellek yönetimi · Orta · Darboğaz teşhisi
Uzun bağlamlı isteklerin aynı anda sunulabilen istek sayısını sınırlaması en çok hangi mekanizmayla açıklanır?
- AModel ağırlıklarının her istek için bellekte ayrı kopyalanması
- BHer istek için tutulan anahtar-değer önbelleğinin uzunlukla büyümesi
- CBelirteçleme adımının uzun metinlerde merkezi işlemciyi doyurması
- DAğ bant genişliğinin uzun istem gövdeleri yüzünden tükenmesi
Açıklama
Ağırlıklar tüm istekler arasında paylaşılır; istek başına büyüyen şey, işlenen her belirteç için saklanan anahtar-değer durumudur. Bu önbellek dizi uzunluğuyla birlikte büyüdüğü için bellek, eşzamanlı istek sayısını sınırlar. Ağırlıkların kopyalandığını söyleyen seçenek yaygın bir yanılgıdır.
Context Window girdisini oku
Skor nasıl okunur?
AI Curious
0–35
Kavramları duymuş, henüz haritası yok.
AI Explorer
36–60
Temelleri biliyor, uygulamada boşluklar var.
AI Practitioner
61–80
Uygulama kurabiliyor, değerlendirme eksik.
AI Builder
81–100
Üretim sistemi kurabiliyor ve ölçebiliyor.
Ölçmeye devam et
- AI AltyapısıAI Altyapısı Testi — Başlangıç6 soru · 8 dk
- Çıkarım Optimizasyonu ve SunumÇıkarım Optimizasyonu ve Sunum Testi — İleri6 soru · 15 dk
- Çıkarım Optimizasyonu ve SunumÇıkarım Optimizasyonu ve Sunum Testi — Orta6 soru · 12 dk
- GPU, TPU ve HızlandırıcılarGPU, TPU ve Hızlandırıcılar Testi — Orta6 soru · 12 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Başlangıç6 soru · 8 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Orta6 soru · 12 dk
LEARN
Eksik çıkan beceriyi kapat
Test sonucun beceri grafiğine işlenir; sistem hangi dersle devam etmen gerektiğini söyler.