İnce ayar mı geri getirme mi: kararı vermek ve kurmak

Bu rehberin tamamı tek bir ayrımın üzerine kurulu: model doğru bilgiyi bilmiyor mu, yoksa biliyor ama istenen şekilde kullanmıyor mu? Birincisi bir geri getirme sorunu, ikincisi bir davranış sorunu. Karar ürün toplantısında değil, hata listesinin üzerinde verilir.

Dağılımı yazın ve saklayın. Hataların büyük çoğunluğu bilgi tarafındaysa ince ayar harcanmış bir bütçedir; model daha güzel biçimde yanlış cevap vermeye başlar ve bu, ölçümde iyileşme gibi bile görünebilir.

İnce ayar, ucuz seçenekler tükendikten sonra gelir. İstem üzerinde birkaç turluk düzeltme, birkaç temsilî örnek ve çalışan bir geri getirme hattı davranış sorunlarının bir kısmını zaten kapatıyor. Bu tavanı bilmeden eğitilen model, hangi kazancın nereden geldiğini söyleyemez.

1. 01Mevcut istemi ölçün ve kaydedin; bu sıfır noktasıdır.
2. 02İstemi görev tanımı, kısıt listesi ve çıktı şeması olarak yeniden yazıp yeniden ölçün.
3. 03Birkaç temsilî örneği isteme ekleyip ölçün.
4. 04Geri getirme hattını bağlayıp ölçün.
5. 05Dört sayıyı yan yana koyun; ince ayarın aşması gereken çizgi budur.

Karar tablosu tartışmayı görüşten ölçüte taşır. Altı ölçüt vakaların çoğunu kapatıyor ve tablonun asıl değeri, kararı altı ay sonra gerekçesiyle birlikte okunabilir kılması.

Melez kurulumda iş bölümü nettir: olgular bağlamdan gelir, davranış ağırlıklardan. Bu ayrımı veri hazırlarken de koruyun — eğitim örneklerinde değişken olguları sabitlerseniz model, bağlamdaki güncel bilgiyle ezberlediği eski bilgi arasında çelişkiye düşer.

Veri kümesinin kalitesi, yöntem seçiminden daha belirleyici. İki başarısızlık kalıbı sık görülüyor: dar dağılım (hep aynı tip örnek) ve kirli hedef (çıktı örneklerinin kendi içinde tutarsız olması). İkincisi daha sinsi, çünkü eğitim sorunsuz tamamlanır ve sorun ancak üretimde görünür.

• Girdi-çıktı çiftlerini üretimdeki gerçek istek dağılımından örnekleyin; kolay olanları seçmek kümeyi işe yaramaz hâle getirir.
• Hedef çıktıları tek bir stil kılavuzuna göre normalleştirin; iki farklı biçim öğreten küme ikisini de zayıf öğretir.
• Değişken olguları örneklerden çıkarın veya yer tutucuya çevirin.
• Kişisel veriyi maskeleyin: ağırlıklara giren veri seçici biçimde geri alınamaz.
• Değerlendirme kümesindeki her örneği eğitim kümesinden çıkarın ve bunu elle değil bir betikle denetleyin.

Parametre-verimli ince ayar, temel ağırlıkları dondurup yanına küçük eğitilebilir bileşenler ekler. Düşük ranklı adaptörlerde eğitilen şey, ağırlık güncellemesinin düşük ranklı bir yaklaşımıdır. Çıkarımda bu güncellemeyi iki şekilde kullanabilirsiniz: adaptörü temel ağırlıklara kalıcı olarak birleştirirsiniz — ek çıkarım gecikmesi kalmaz, karşılığında elinizde ayrı bir model kopyası olur — ya da ayrı tutup koşum sırasında uygularsınız. Aynı temel modeli birden çok adaptörle paylaşmak yalnızca bu ikinci kurulumda mümkündür; birleştirme bu seçeneği kapatır. Her iki yolda da eğitim maliyeti ve sakladığınız yapıt tam ince ayara göre küçük kalır.

Rank bir kapasite kararıdır: küçük rank az öğrenir, büyük rank ezberler. Küçükle başlayıp değerlendirme kümesindeki kazanç durana kadar büyütün. Öğrenme oranını ve dönem sayısını aynı koşumda birlikte değiştirmeyin; hangi değişikliğin işe yaradığını ayırt edemezsiniz.

Eğitim sonuçları görüldükten sonra yazılan ölçüt, kendini doğrulayan bir ölçüttür. Üç küme eğitim başlamadan hazır olmalı: ince ayarın amaçladığı davranışı ölçen hedef küme, eğitimde temsil edilmeyen yetenekleri koruyan regresyon kümesi ve modelin reddetmesi gereken istekleri içeren güvenlik kümesi.

Kabul kuralını kim onaylıyor, geri dönüş kararını ne tetikliyor — bu iki soruyu da aynı belgeye yazın. Değerlendirme tasarımı bir ölçüm aracı değil, bir karar sözleşmesidir; sahibi yoksa sonuçlar tartışmaya açılır ve tartışmayı genellikle takvim kazanır.

Karşılaştırma tek bir çift arasında yapılır: aynı istem, aynı küme, aynı çözümleme; tek fark ağırlıklar. Eğitim sürerken istemi de iyileştirdiyseniz iki değişkeni birden oynatmış olursunuz ve sonuç yorumlanamaz hâle gelir.

1. 01Temel modeli ve ince ayarlı modeli aynı koşum yapılandırmasıyla ölçün.
2. 02Regresyon kümesindeki farkı ayrı raporlayın; hedef kazancıyla aynı ortalamaya katmayın.
3. 03Eğitim verisine hiç benzemeyen birkaç görevi elle deneyin; sayıların kaçırdığını bu yakalar.
4. 04Deneyin tüm yapılandırmasını (veri sürümü, rank, öğrenme oranı, dönem sayısı) yapıtla birlikte saklayın.

Bir adaptör, üzerine eğitildiği temel model olmadan anlamsızdır. Sürüm etiketini ikisini birlikte taşıyacak biçimde kurun; temel model sağlayıcı tarafından güncellendiğinde değerlendirmeyi yeniden koşturmadan adaptörü yeni ağırlıklarla eşleştirmeyin.

• Yapıt adında temel model sürümü, veri kümesi sürümü ve eğitim yapılandırmasının özeti bulunsun.
• Geri dönüş yolu üretime almadan önce en az bir kez gerçekten denenmiş olsun.
• Yeniden eğitimi takvime değil metrik düşüşüne veya veri kümesinin anlamlı büyümesine bağlayın.
• Eğitim verisini üretim iz kayıtlarından besliyorsanız insan onayını zorunlu tutun.

Son madde özellikle önemli: model kendi çıktısıyla denetimsiz beslendiğinde hatalarını pekiştirir ve bu, kalite düşüşü ölçümde görünene kadar birkaç döngü sürebilir. İz kaydından gelen her örnek, eğitim kümesine girmeden önce bir insanın onayından geçmeli.