GPU, TPU VE HIZLANDIRICILAR · Orta
GPU, TPU ve Hızlandırıcılar Testi — Orta
Hızlandırıcı mimarilerinin iş yüküyle eşleştirilmesini ve donanım kaynaklı darboğazların belirtiden okunmasını ölçen test.
- Soru
- 6
- Süre
- 12 dk
- Ölçülen beceri
- 4
- Seviye
- Orta
Kimler çözmeli?
Eğitim ve sunum işlerini donanıma yerleştiren mühendisler için; bellek, bant genişliği ve paralellik kavramlarının temelini bilmeyi bekler.
Ölçülen beceriler
- Donanım seçimi muhakemesi
- Bellek bütçesi hesabı
- Darboğaz ayıklaması
- Paralellik stratejisi okuması
Testi çöz
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alan önerisi alırsın.
6 soruluk testi çözmeye hazır mısın?
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alanlar için öneri alırsın.
Bu test neyi ölçüyor?
Test sonrası ne bildiğini değil, hangi beceride eksik olduğunu görürsün.
- 01
Eğitim ve çıkarım iş yüklerinin donanım gereksinimlerini ayırt etmek
- 02
Bellek ve bant genişliği sınırlarına göre hızlandırıcı seçmek
- 03
Düşük kullanım oranının nedenini profil çıktısıyla gerekçelendirmek
Sorular sayfada görünür
Eğitim içeriği JavaScript arkasına gizlenmez. Aşağıdaki üç örnek soru, doğru cevapları ve açıklamalarıyla birlikte taranabilir durumdadır.
- Soru 01gpu-tpu-orta-1Eğitim belleği · Orta · Bellek bütçesi hesabı
Bir modelin eğitimi tek hızlandırıcıya sığmadığında belleği dolduran başlıca bileşen hangisidir?
- ATokenlaştırıcı sözlüğü ile gömme tablolarının bellekteki kopyaları.
- Bİyileştirici durumları, gradyanlar ve geri geçiş için saklanan etkinleştirmeler.
- CVeri yükleyicinin önceden hazırladığı toplu kopyalar ve artırma tamponları.
- DDerleyicinin ürettiği çekirdek kodu ile cihaz bağlamının ayırdığı alan.
Açıklama
Ağırlıkların yanında her parametre için iyileştirici durumu ve gradyan tutulur, ayrıca geri geçişte kullanılacak ara etkinleştirmeler saklanır; tepe bellek kullanımını belirleyen bu üçlüdür. Veri yükleyici tamponları konak belleğinde durur, bu yüzden hızlandırıcı belleğini bu ölçekte zorlamaz.
Deep Learning girdisini oku - Soru 02gpu-tpu-orta-2Kullanım oranı teşhisi · Orta · Darboğaz ayıklaması
Eğitim sırasında hızlandırıcı kullanım oranı düşük ve profil çıktısında çekirdekler arasında uzun boşluklar var. Bu belirti neyi işaret eder?
- AModel çok büyük olduğu için bellek bant genişliğinin doyduğunu.
- BKarışık duyarlık kapalı olduğu için tensör çekirdeklerinin kullanılmadığını.
- CToplu boyutun çok büyük olması nedeniyle bellek takasının devreye girdiğini.
- DVeri hattının ve konak tarafındaki hazırlığın cihazı besleyemediğini.
Açıklama
Çekirdekler arasındaki boşluk, cihazın iş beklediğini söyler; bu genellikle veri okuma, kod çözme veya konak tarafındaki hazırlık adımlarının yavaşlığından gelir. Bant genişliğinin doyması ise boşluk değil, kesintisiz ama yavaş ilerleyen çekirdekler üretir; o durumda kullanım oranı düşük görünmez.
- Soru 03gpu-tpu-orta-3Paralellik biçimleri · Orta · Paralellik stratejisi okuması
Modeli katmanlara bölmek yerine her katmanın tensörlerini cihazlara bölmek hangi maliyeti öne çıkarır?
- AHer katmanda cihazlar arası toplama iletişimi gerektiği için bağlantı hızına bağımlılık.
- BBazı cihazların sırasını beklerken boşta kalması, yani boru hattı balonu oluşması.
- CHer cihazın modelin tam bir kopyasını bellekte tutmak zorunda kalması.
- DToplu boyutun cihaz sayısına bölünmesi nedeniyle istatistiksel verimin düşmesi.
Açıklama
Tensörleri bölmek tek bir katmanın çarpımını parçalara ayırır ve sonuçlar her katmanda yeniden birleştirilmek zorundadır; bu yüzden adım başına çok sayıda toplu iletişim doğar ve cihazlar arası bağlantı hızı belirleyici olur. Boru hattı balonu ise katmanların cihazlara bölündüğü boru hattı paralelliğinin maliyetidir, burada sorulan bölümlemenin değil.
Skor nasıl okunur?
AI Curious
0–35
Kavramları duymuş, henüz haritası yok.
AI Explorer
36–60
Temelleri biliyor, uygulamada boşluklar var.
AI Practitioner
61–80
Uygulama kurabiliyor, değerlendirme eksik.
AI Builder
81–100
Üretim sistemi kurabiliyor ve ölçebiliyor.
Ölçmeye devam et
- AI AltyapısıAI Altyapısı Testi — Başlangıç6 soru · 8 dk
- AI AltyapısıAI Altyapısı Testi — Orta6 soru · 12 dk
- Çıkarım Optimizasyonu ve SunumÇıkarım Optimizasyonu ve Sunum Testi — İleri6 soru · 15 dk
- Çıkarım Optimizasyonu ve SunumÇıkarım Optimizasyonu ve Sunum Testi — Orta6 soru · 12 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Başlangıç6 soru · 8 dk
- Maliyet MühendisliğiMaliyet Mühendisliği Testi — Orta6 soru · 12 dk
LEARN
Eksik çıkan beceriyi kapat
Test sonucun beceri grafiğine işlenir; sistem hangi dersle devam etmen gerektiğini söyler.