Transfer öğrenme ve ince ayar derinliği
Önceden eğitilmiş bir omurganın ne kadarının açılacağını, hangi artırmanın etiketi koruduğunu ve sınıflandırma hattındaki sızıntının nasıl kapatılacağını öğretir.
Önkoşul: Deep Learning, Computer Vision
BU DERSİN SONUNDA
- Veri miktarı ve alan uzaklığına göre donuk omurga, kısmi ve tam ince ayar arasında seçim yapmak
- Bir artırmanın etiketi koruyup korumadığına karar vermek
- Ayrımı grup düzeyinde kurarak sızıntıyı engellemek
- Dengesiz sınıf dağılımında karar verdirecek metriği seçmek
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Bir sınıflandırma hattının kalitesini belirleyen şey model seçimi değil üç karardır: ayrımın nasıl kurulduğu, omurganın ne kadarının açıldığı ve hangi artırmaların uygulandığı. Transfer öğrenme, başka bir sette öğrenilmiş temsili yeniden kullanmaktır; ince ayar bu temsili göreve uyarlar. Ne kadar çok katman açarsanız uyarlama o kadar derinleşir, gereken veri ve bozma riski o kadar artar.
Teori: katmanlar neyi taşır?#
Erken katmanlar görev bağımsız şeyler öğrenir: kenar yönleri, renk karşıtlıkları, basit dokular. Bunlar hemen her görüntü dağılımında işe yarar. Geç katmanlar ise bu parçaları göreve özgü birleşimlere çevirir ve eğitildikleri sınıf kümesine bağlıdır. Buradan pratik bir kural çıkar: alan uzaklığı arttıkça, yani sizin görüntüleriniz omurganın eğitildiği dağılıma benzemedikçe, daha derine inip daha çok katman açmak gerekir.
Öğrenme oranı bu kararla birlikte düşünülmelidir. Baş rastgele başlatılmıştır ve ilk adımlarda büyük, gürültülü gradyanlar üretir; bu gradyan omurgaya yüksek öğrenme oranıyla geçerse özenle öğrenilmiş temsili, henüz hiçbir şey öğrenmemiş bir başın hatası uğruna bozar. Bu yüzden yaygın düzen şudur: önce yalnızca başı eğit, sonra omurgayı belirgin biçimde düşük öğrenme oranıyla aç, gerekiyorsa katman derinleştikçe öğrenme oranını kademeli azalt.
Karar matrisi#
| Durum | Strateji | Neden | Dikkat |
|---|---|---|---|
| Az etiket, yakın alan | Omurgayı dondur, yalnızca baş eğitilir | Özellikler zaten ayırıcı; öğrenilecek tek şey karar sınırı | Doğrusal başın kapasitesi düşüktür; karmaşık sınır isteyen görevde yetmez |
| Az etiket, uzak alan | Son bloğu aç, öğrenme oranını düşük tut | Genel özellikler işe yarar, üst düzey birleşimler yaramaz | Aşırı uyum riski en yüksek durum; artırma ve erken durdurma zorunlu |
| Çok etiket, yakın alan | Tam ince ayar, katman bazlı azalan öğrenme oranı | Veri, temsili bozmadan uyarlamaya yeter | Alt katmanlara yüksek öğrenme oranı vermek kazancı geri götürür |
| Çok etiket, uzak alan | Tam ince ayar; sıfırdan eğitimle karşılaştırmayı da kurun | Önceden eğitilmiş ağırlığın katkısı azalır ama başlangıç noktası olarak eğitimi hızlandırır | Girdi istatistiği çok farklıysa (termal, mikroskop, radar) normalizasyon ve kanal sayısı yeniden düşünülmeli |
Veri artırma: hangi değişmezliği öğretiyorsunuz?#
Her artırma bir iddiadır: bu dönüşüm görüntüyü değiştirir ama etiketi değiştirmez. İddia doğruysa model gerçekten işe yarar bir değişmezlik öğrenir; yanlışsa modele yalan söylemiş olursunuz ve öğrenilen şey gürültüye direnç değil, karışıklıktır. Bu yüzden artırma listesi kütüphaneden kopyalanmaz; dağıtım ortamında hangi varyasyonun gerçekten görüldüğüne bakılarak yazılır.
- Yatay çevirme: yön anlamı taşıyan sahnelerde etiketi bozar (trafik işareti okları, metin, tıbbi görüntüde sağ-sol ayrımı).
- Serbest döndürme: belge, plaka ve rakam görüntülerinde iki sınıfı birbirine çevirebilir; uydu ve mikroskop görüntülerinde ise genellikle güvenlidir.
- Renk sarsma: sınıf renkle tanımlıysa (olgunluk, korozyon, renk kodlu etiket) doğrudan etiketi bozar.
- Agresif kırpma: nesne çerçeve dışında kalırsa etiket artık yalandır; kırpmanın nesneyi koruduğunu denetleyin.
- Bulanıklaştırma ve gürültü: kalite denetimi gibi görevlerde aranan kusurun kendisini silebilir.
- Karıştırma temelli artırmalar (iki görüntüyü ve etiketlerini oranlayarak birleştirme): düzenlileştirir, ama tek etiketli kesin karar isteyen kalibrasyon çalışmalarında yorumu zorlaştırır.
Hattı kurma sırası#
- 1Ayrımı kur
Grup kimliğini yaz, eğitim-doğrulama-sınama bölmelerini gruba göre ayır, sınıf dağılımını üç bölmede de tabloya dök.
- 2Metriği seç
Kararı verecek metriği eğitimden önce yaz. Dengesiz sette genel doğruluk yanıltır; sınıf başına geri çağırma, makro ortalama ve karışıklık matrisi karar verdirir.
- 3Temel çizgi çıkar
Donuk omurga ve basit baş ile artırmasız bir sonuç üretin. Sonraki her değişiklik bu çizgiye göre okunur.
- 4Artırmayı ekle
Yalnızca etiketi koruduğundan emin olduğunuz dönüşümleri ve yalnızca eğitim bölmesine ekleyin; doğrulama bölmesi önişleme sözleşmesi dışında hiçbir dönüşüm görmez.
- 5İnce ayar derinliğini artır
Son bloktan başlayarak kademeli açın. Her adımda aynı metriği ölçün; kazanç durduğunda daha derine inmenin bedeli kazancından büyüktür.
Sık yapılan hata#
Üç hata tekrar tekrar görülür. Birincisi normalizasyon uyuşmazlığı: önceden eğitilmiş ağırlık başka bir istatistikle beslenir ve kayıp kimseye görünmez. İkincisi artırmanın doğrulama bölmesine sızması: ölçüm ne eğitimi ne gerçeği yansıtır. Üçüncüsü eşiği sınama bölmesinde ayarlamak: karar eşiği bir hiperparametredir, doğrulamada seçilir; sınama bölmesi yalnızca bir kez ve son karardan sonra okunur.
- Eğitim kaybı düşüyor, doğrulama kaybı yükseliyor: klasik aşırı uyum; artırma, düzenlileştirme veya daha az açılmış omurga.
- İkisi de yüksek platoda: yetersiz kapasite ya da çözülemeyen etiket gürültüsü; önce etiket rehberini denetleyin.
- Doğrulama eğitimden belirgin biçimde iyi: artırma yalnızca eğitimde uygulandığında normal olabilir, ama önce bölmeler arası grup örtüşmesini kontrol edin.
- Genel doğruluk yüksek, bir sınıfın geri çağırması yerde: dengesizlik; sınıf ağırlığı, örnekleme veya eşik ayarı gerekir.
- Doğrulama iyi, sahada kötü: dağıtım kayması; sahadan gelen görüntülerle küçük bir denetim seti kurun.
LAB · UYGULAMALI ALIŞTIRMA
İki ince ayar derinliğini aynı ayrımda karşılaştırın
- 1Kendi görüntülerinizden en az iki sınıflı küçük bir set toplayın ve her görüntüye kaynak kimliği (çekim, cihaz, kişi, ürün) yazın.
- 2Ayrımı kaynak kimliğine göre kurun: aynı kaynağın görüntüleri tek bir bölmeye düşsün. Sınıf dağılımını üç bölmede de tabloya yazın.
- 3Birinci koşul: omurga donuk, yalnızca sınıflandırma başı eğitilir. Doğrulamada sınıf başına geri çağırmayı ve karışıklık matrisini kaydedin.
- 4İkinci koşul: son blok açılır ve öğrenme oranı baştakinden belirgin biçimde düşük tutulur. Aynı ölçümleri kaydedin.
- 5Artırmaları yalnızca eğitim bölmesine uygulayın; doğrulama ve sınama bölmelerinde önişleme sözleşmesi dışında hiçbir dönüşüm olmasın.
- 6İki koşulun karışıklık matrislerini yan yana koyup hangi sınıf çiftinin karıştığını ve açılan bloğun bu karışmayı azaltıp azaltmadığını bir paragrafla yazın.
Beklenen çıktı
Grup sızıntısına kapalı bir ayrım ve iki ince ayar derinliğinin sınıf başına karşılaştırması ile hangisinin neden seçildiğini söyleyen yazılı gerekçe.
Sık sorulan sorular
Kaç etiketli örnek yeterli?
Sabit bir sayı yok; gereken miktar sınıf sayısına, sınıf içi çeşitliliğe ve sınıflar arası benzerliğe bağlı. Sorunun ölçülebilir hali şudur: setin dörtte biri, yarısı ve tamamıyla eğitip bir öğrenme eğrisi çıkarın. Eğri hâlâ dikse veri eklemek işe yarar; düzleşmişse sorun veri miktarında değil, etiket kalitesinde, artırmada veya model kapasitesindedir.
Omurgayı hiç dondurmadan doğrudan tam ince ayar yapsam olmaz mı?
Bol veriniz varsa çoğu zaman olur, ama iki koruma gerekir: baş için ısınma adımları ve omurga için düşük öğrenme oranı. Bunlar olmadan ilk adımların gürültülü gradyanı temsili bozar; sonrasında ağ öğrenmeye devam eder ama artık transferin sağladığı avantajın bir kısmını silmiş olursunuz.
Artırmayı ne kadar agresif yapmalıyım?
Sınır, etiketi bozmayan en geniş dönüşüm kümesidir. Bunun ötesine geçmek kapasiteyi var olmayan bir değişmezliği öğrenmeye harcar. Pratik denetim: artırılmış örneklerden bir tabaka seçip kendiniz etiketleyin; siz doğru etiketi veremiyorsanız modelden beklemeyin.
LEARN
Computer Vision Engineer rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.
