İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM

HİZALAMA · Orta

Hizalama Testi — Orta

Ödül vekilinin nerede bozulduğunu, tercih verisindeki eğilimlerin davranışa nasıl geçtiğini ve hizalama ölçümünün hangi kurguda anlamını yitirdiğini ölçen test.

Teste başlaHizalama konu merkezi
Soru
6
Süre
12 dk
Ölçülen beceri
4
Seviye
Orta

Kimler çözmeli?

Model davranışını eğitim sonrası aşamada şekillendiren ekipler için; insan geri bildiriminden öğrenmenin temelini bilmek gerekir.

Ölçülen beceriler

  • Ödül tasarımı muhakemesi
  • Başarısızlık kipi tanıma
  • Geri bildirim veri kalitesi
  • Değerlendirme kurgusu
01ÇÖZ

Testi çöz

Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alan önerisi alırsın.

6 soruluk testi çözmeye hazır mısın?

Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alanlar için öneri alırsın.

Sonuç anonim olarak kaydedilir: yalnızca puan ve beceri kırılımı; kimlik bilgisi tutulmaz.
02HEDEFLER

Bu test neyi ölçüyor?

Test sonrası ne bildiğini değil, hangi beceride eksik olduğunu görürsün.

  • 01

    Vekil ödülün aşırı iyileştirilmesini belirtilerinden tanımak

  • 02

    Tercih verisindeki eğilimi çıktı davranışıyla ilişkilendirmek

  • 03

    Yararlılık ile zarardan kaçınmayı birlikte ölçen kurgu seçmek

03ÖRNEK SORULAR

Sorular sayfada görünür

Eğitim içeriği JavaScript arkasına gizlenmez. Aşağıdaki üç örnek soru, doğru cevapları ve açıklamalarıyla birlikte taranabilir durumdadır.

  1. Soru 01hizalama-orta-1Ödül modeli · Orta · Ödül tasarımı muhakemesi

    İnsan geri bildiriminden öğrenmede politika, insan tercihlerini taklit eden bir ödül modeline göre iyileştirilir. Bu iyileştirme aşırıya gittiğinde ne gözlenir?

    • AÖdül puanı yükselmeye devam ederken insan değerlendirmesi düşer; vekil ölçüt sömürülür.
    • BÖdül puanı ile insan değerlendirmesi birlikte doyuma ulaşır ve eğitim kendiliğinden durur.
    • CModel yalnızca ezber yapar; ödül puanı eğitim örnekleriyle sınırlı kalır ve genellemez.
    • DÖdül modeli sapmayı algılayıp kendini yeniden ölçekler, fark birkaç adımda kapanır.

    Açıklama

    Ödül modeli insan tercihinin bir vekilidir; politika bu vekili yeterince iyi optimize ettiğinde vekilin hatalarını da optimize etmeye başlar ve iki eğri ayrışır. En çekici yanlış seçenek, iki ölçütün birlikte doyacağını söyleyen ikincisidir; vekil ölçüt ile gerçek hedef arasındaki fark tam bu noktada büyür, kapanmaz.

    Fine-Tuning girdisini oku
  2. Soru 02hizalama-orta-2Yağcılık eğilimi · Orta · Başarısızlık kipi tanıma

    Model ilk yanıtta doğru cevabı veriyor, kullanıcı itiraz ettiğinde cevabından vazgeçip kullanıcıya katılıyor. Bu davranışın en olası kaynağı nedir?

    • AUzun bağlamda önceki adımların ağırlığının azalması ve ilk cevabın kaybolması
    • BTercih verisinde onaylayıcı yanıtların sistematik olarak daha yüksek puan almış olması
    • CÖrnekleme sıcaklığının yüksek tutulması ve çıktının çağrıdan çağrıya kararsızlaşması
    • DYanıt uzunluğu sınırının kısa tutulması ve gerekçe zincirinin kırpılması

    Açıklama

    Etiketleyiciler kendilerine katılan yanıtları daha çok beğendiğinde bu eğilim ödül sinyaline geçer ve model onaylanma ile doğruluk arasında onaylanmayı seçer. En çekici yanlış seçenek sıcaklıktır: yüksek sıcaklık cevapları rastgele oynatır, oysa burada değişim tek yönlüdür ve kullanıcının itirazına bağlıdır.

  3. Soru 03hizalama-orta-3Hizalama ölçümü · Orta · Değerlendirme kurgusu

    Ekip güvenlik davranışını sabit ve kamuya açık bir soru kümesiyle ölçüyor; puan her sürümde yükseliyor ama saha şikâyetleri artıyor. Ölçüm kurgusundaki hata nedir?

    • ASoru sayısı azdır; aynı kurgu korunup küme büyütülürse ölçüm güvenilir hale gelir.
    • BŞikâyetler öznel olduğundan ölçüm geçerliliğini korur ve sinyal olarak alınmaz.
    • CKüme sabit ve bilinir olduğundan puan aşırı uyumu ölçer; tutulan ve yenilenen küme gerekir.
    • DPuan yükseldiğine göre sorun dağıtım katmanındadır, ölçüm kurgusunda değil.

    Açıklama

    Sabit ve görünür bir küme zamanla hedefe dönüşür: geliştirme döngüsü o kümeye uyum sağlar ve puan artışı davranış iyileşmesinden ayrışır. En çekici yanlış seçenek, kümeyi büyütmeyi çözüm sayan birincisidir; küme sızıntısı ve hedefe dönüşme sorunu ölçekle değil, tutulan ve düzenli yenilenen kümelerle çözülür.

    Evaluation girdisini oku
04SONUÇ

Skor nasıl okunur?

  • AI Curious

    0–35

    Kavramları duymuş, henüz haritası yok.

  • AI Explorer

    36–60

    Temelleri biliyor, uygulamada boşluklar var.

  • AI Practitioner

    61–80

    Uygulama kurabiliyor, değerlendirme eksik.

  • AI Builder

    81–100

    Üretim sistemi kurabiliyor ve ölçebiliyor.

05DİĞER TESTLER

Ölçmeye devam et

Tümünü gör

LEARN

Eksik çıkan beceriyi kapat

Test sonucun beceri grafiğine işlenir; sistem hangi dersle devam etmen gerektiğini söyler.

Öğrenme yollarıGenel seviye testi