İnce ayar kararı: ne zaman gerekir, ne zaman gerekmez

Teori: ince ayar neyi değiştirir#

İnce ayar, hazır bir modelin ağırlıklarını sizin örneklerinizle güncelleyerek çıktı dağılımını kaydırır. Model bir şeyi biliyor hale gelmez; böyle cevaplama eğilimi kazanır. Bir olguyu eğitim verisine koyarsanız model onu bazen doğru tekrarlar, bazen benzerine karıştırır ve bilginin nereden geldiğini gösteremez. Doğrulanabilirlik, yetki filtresi ve güncellenebilirlik gereken her yerde bilgi bağlamdan gelmelidir.

Bütün ağırlıkları güncellemek büyük modellerde hem bellek hem işlem açısından ağırdır. Parametre verimli yöntemler taban ağırlıkları donuk bırakır ve yanına eğitilebilir küçük matrisler ekler; eğitim yalnızca bu ek parametreleri günceller, sonuç da taşınabilir küçük bir dosya olur. Tabanı nicemlenmiş biçimde tutmak bellek ihtiyacını daha da düşürür; bedeli hızdan değil kaliteden ödenir, çünkü ağırlıklar daha kaba bir sayı biçimiyle temsil edilir.

Önce ucuz olanı dene#

Veri seti tasarımı#

• Örnekler üretimden gelmelidir: masa başında yazılmış düzgün sorular, gerçek kullanıcıların kısa ve eksik girdilerini temsil etmez.
• Değerlendirme seti ilk adımda ayrılır ve eğitim verisine hiç dokunmaz; sonradan ayırmak ölçümü geçersiz kılar.
• Kalite adetten önce gelir: yanlış bir hedef çıktı, öğretilen davranışa doğrudan yazılır ve sonradan bulunması zordur.
• Sınır ve ret örnekleri eklenir: cevaplanmaması gereken, eksik bilgi içeren ve kapsam dışı girdiler de sette olmalıdır.
• Görev tiplerinin dağılımı kayıt altına alınır; dengesiz bir set, baskın tipin davranışını her yere taşır.
• Her örnek tek bir doğru davranışı öğretmelidir; aynı girdiye iki farklı üslupta çıktı vermek modeli kararsız bırakır.

Karar akışı#

1. 1Hedef davranışı yaz

   Ne değişecek: biçim, üslup, terminoloji, kısalık? Ölçülebilir bir kabul ölçütü olmadan ince ayara başlamayın.

2. 2Ucuz seçenekleri tüket

   İstem, çıktı şeması, örnekleme ve geri getirme ile hedefe ne kadar yaklaştığınızı ölçün; kalan boşluğu sayıyla yazın.

3. 3Taban çizgisini sabitle

   Sabit bir görev setinde ince ayarsız sonucu kaydedin; kazanç ancak bu çizgiye göre okunur.

4. 4Küçük ve temiz başla

   Az sayıda ama gözden geçirilmiş örnekle ilk turu koşun; veri çoğaltmadan önce yönün doğru olduğunu görün.

5. 5Regresyonu ölç

   Hedef görevin yanında değişmemesi gereken görevleri de aynı kapıdan geçirin; kazanç ile kayıp birlikte raporlanır.

Regresyon riski#

Bir davranışı öğretirken bir başkası bozulabilir. Dar bir görev setiyle eğitilen model, o görevde iyileşirken kapsam dışı girdilerde eskisinden kötü davranabilir: kısa cevap vermeyi öğrenen model gerekli açıklamayı da kısaltır, katı biçim öğrenen model kuralı içeriğe rağmen uygular. Bu yüzden ince ayar iki setle ölçülür — hedef görev seti ve değişmemesi gereken davranışları temsil eden bir koruma seti. İkisi de her turda koşulur ve sonuç ikili olarak raporlanır.

Sık yapılan hata#

Şirket belgelerimizi modele öğretelim cümlesi neredeyse her zaman yanlış aracın seçildiğini gösterir. Belge değiştiğinde eğitim tekrarlanmak zorundadır, cevap kaynak gösteremez, yetki filtresi uygulanamaz ve modelin hangi olguyu ne kadar ezberlediği görünmez. Aynı ihtiyaç geri getirmeyle çözüldüğünde güncelleme dizine bir yazma işlemine iner ve cevap denetlenebilir kalır. İnce ayarın yeri bunun tam tersidir: bilgiyi değil, bilgiyle ne yapılacağını öğretmek.