ÇIKARIM OPTİMİZASYONU VE SUNUM · Orta
Çıkarım Optimizasyonu ve Sunum Testi — Orta
Nicemleme, damıtma, spekülatif kod çözme ve önbellekleme seçeneklerinin kalite, gecikme ve maliyet üzerindeki etkisini karşılaştırma becerisini ölçen test.
- Soru
- 6
- Süre
- 12 dk
- Ölçülen beceri
- 4
- Seviye
- Orta
Kimler çözmeli?
Model sunma maliyetini ve yanıt süresini iyileştirmekle görevli mühendisler için; çıkarım hattının temel adımlarını bilmek gerekir.
Ölçülen beceriler
- Nicemleme ödünleşimi
- Model küçültme kararı
- Kod çözme ve önbellek muhakemesi
- Gecikme metriği okuma
Testi çöz
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alan önerisi alırsın.
6 soruluk testi çözmeye hazır mısın?
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alanlar için öneri alırsın.
Bu test neyi ölçüyor?
Test sonrası ne bildiğini değil, hangi beceride eksik olduğunu görürsün.
- 01
Nicemlemenin neyi kazandırıp neyi feda ettiğini açıklamak
- 02
Damıtma ile nicemleme arasında gereksinime göre seçim yapmak
- 03
Gecikme belirtisini doğru metriğe bağlayıp iyileştirme hedefi belirlemek
Sorular sayfada görünür
Eğitim içeriği JavaScript arkasına gizlenmez. Aşağıdaki üç örnek soru, doğru cevapları ve açıklamalarıyla birlikte taranabilir durumdadır.
- Soru 01cikarim-optimizasyonu-orta-1Nicemleme · Orta · Nicemleme ödünleşimi
Model ağırlıklarını daha düşük bitli bir gösterime çevirmenin ödünleşimi nedir?
- ABellek kazanılır; model yeniden eğitilmedikçe çıktılar birebir korunur
- BGecikme artar; karşılığında çıktı kalitesi belirgin biçimde yükselir
- CBellek ve bant genişliği kazanılır; gösterim hassasiyeti azaldığı için kalite kaybı riski doğar
- DBağlam kapasitesi artar; bellek tüketimi ve kalite aynı düzeyde kalır
Açıklama
Nicemleme aynı ağırlıkları daha kaba bir sayı gösterimiyle saklar; okunan veri azaldığı için bellek ve bellek bant genişliği kazanılır, karşılığında yuvarlama hatası birikir ve bazı görevlerde kalite düşer. Çıktının birebir korunacağını söyleyen seçenek yaygın bir yanılgıdır; bu yüzden geçiş ölçümle doğrulanır.
Quantization girdisini oku - Soru 02cikarim-optimizasyonu-orta-2Model damıtma · Orta · Model küçültme kararı
Hizmet maliyetini düşürmek isteyen bir ekip damıtma ile nicemleme arasında nasıl ayrım yapar?
- ADamıtma ağırlıkları sıkıştırır; nicemleme ek eğitim verisi ister
- Bİkisi de parametre sayısını azaltır; fark yalnızca kullanılan araçtadır
- CDamıtma yalnızca eğitimde, nicemleme yalnızca değerlendirmede kullanılır
- DNicemleme aynı modeli daha ucuz sunar; damıtma eğitim gerektiren daha küçük bir model üretir
Açıklama
Nicemleme mevcut ağırlıkların gösterimini değiştirir ve eğitim verisi istemez; damıtma ise büyük modelin davranışını taklit eden yeni ve küçük bir model eğitmeyi gerektirir, yani veri ve eğitim bütçesi ister. Damıtmayı ağırlık sıkıştırması sayan seçenek iki yöntemi ters çevirir ve sahada en sık görülen karışıklıktır.
- Soru 03cikarim-optimizasyonu-orta-3Spekülatif kod çözme · Orta · Kod çözme ve önbellek muhakemesi
Spekülatif kod çözmede küçük taslak modelin rolü nedir?
- ABirkaç belirteç önerir; büyük model doğrular ve kabul etmediğini atar
- BKolay istekleri tümüyle yanıtlar; zor istekler büyük modele yönlendirilir
- CBüyük modelin ağırlıklarını sıkıştırıp sunumda onun yerine geçer
- DÇıktısı büyük modelin çıktısıyla harmanlanır ve ortalaması alınır
Açıklama
Taslak model ucuz bir tahmin üretir, büyük model bu tahminleri tek geçişte denetler; kabul edilen belirteçler doğrudan kullanıldığı için üretim hızlanırken çıktı büyük modelin davranışına bağlı kalır. Kolay istekleri taslak modelin yanıtladığını söyleyen seçenek gerçek bir yöntemi, istek yönlendirmeyi anlatır; orada yanıt tek bir modelden gelir ve doğrulama adımı yoktur.
Skor nasıl okunur?
AI Curious
0–35
Kavramları duymuş, henüz haritası yok.
AI Explorer
36–60
Temelleri biliyor, uygulamada boşluklar var.
AI Practitioner
61–80
Uygulama kurabiliyor, değerlendirme eksik.
AI Builder
81–100
Üretim sistemi kurabiliyor ve ölçebiliyor.
Ölçmeye devam et
- Çıkarım Optimizasyonu ve SunumÇıkarım Optimizasyonu ve Sunum Testi — İleri6 soru · 15 dk
- AI AltyapısıAI Altyapısı Testi — Başlangıç6 soru · 8 dk
- AI AltyapısıAI Altyapısı Testi — Orta6 soru · 12 dk
- GPU, TPU ve HızlandırıcılarGPU, TPU ve Hızlandırıcılar Testi — Orta6 soru · 12 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Başlangıç6 soru · 8 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Orta6 soru · 12 dk
LEARN
Eksik çıkan beceriyi kapat
Test sonucun beceri grafiğine işlenir; sistem hangi dersle devam etmen gerektiğini söyler.