İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM
Dersİleri35 dakikaGenerative AI Engineer · 7. ders

Yapılandırılmış çıktı ve kısıt tasarımı

Çıktıyı şemadan başlatarak makine tarafından denetlenebilir hale getirmeyi, doğrulama-onarım döngüsünü kodda kurmayı ve veriyi talimattan ayırmayı öğretir.

Önkoşul: Large Language Model, Context Window

BU DERSİN SONUNDA

  • Çıktı şemasını istemden önce tasarlayıp her alanı denetlenebilir kılmak
  • Doğrulama ve onarım döngüsünü istemde değil kodda kurmak
  • Veri ile talimatı ayırarak istem enjeksiyonu yüzeyini daraltmak
  • İstem, şema ve kod çözme ayarını tek bir sürüm olarak değerlendirmeye bağlamak
  1. 1

    Teori

    Kavramın çalışma mantığı

  2. 2

    Örnek

    Gerçek bir senaryo üzerinde gösterim

  3. 3

    Lab

    Uygulamalı alıştırma

  4. 4

    Test

    Kısa ölçüm

  5. 5

    Proje

    Rotadaki projeye katkı

Kısa cevap

Yapılandırılmış çıktı, modele “JSON ver” demekle değil, çıktı şemasını önce yazıp her alanı makine tarafından denetlenebilir hale getirmekle elde edilir. İstem şemayı tarif eder; asıl güvence, çıktıyı şemaya ve iş kurallarına karşı doğrulayan, gerekirse tek turda onaran ve başarısızlığı sayan koddur.

Teori: önce şema, sonra istem#

Model metin üretir; şema, bu metni programın kabul edebileceği veya reddedebileceği bir nesneye çevirir. Şemayı önce yazmak, istemin başka türlü gizlediği soruları zorla sordurur: hangi alanlar zorunlu, hangileri kapalı küme, kaynak cevabı içermiyorsa ne olacak? Şemadan önce yazılan istem genellikle bir paragraf ister ve o paragraf sonradan düzenli ifadelerle ayrıştırılmaya çalışılır.

Her alan iki ölçütü geçmelidir: yalnızca girdiye bakarak cevaplanabilmeli ve yargı gerektirmeden denetlenebilmeli. Sessiz hataların saklandığı yer serbest metin alanlarıdır, çünkü biçim açısından her zaman geçerli sayılırlar; bir alanı doğrulayamıyorsanız o alan ya kapalı bir kümeye dönüşmeli ya da şemadan çıkmalıdır. Serbest bir alanı kapalı bir kümeye artı kısa bir nota dönüştürmek, hatayı görünmez olmaktan çıkarıp sayılabilir hale getirir.

Alan tasarımı#

Alan tipiİyi kullanımRiskÖnlem
Kapalı kümeSınıf, öncelik, kararKüme dışı değer üretmeDoğrulayıcı reddeder; küme istemde ve şemada birebir aynı yazılır
SayıTutar, adet, süreUydurulmuş kesinlikKaynak göstergesini zorunlu kılın; birim ayrı alanda tutulur
TarihYürürlük, vadeBiçim kaymasıTek biçim zorunlu ve doğrulanır; belirsiz tarih reddedilir
Kaynak göstergesiCevabın dayanağıVar olmayan kaynağa atıfKimlik, getirilen parça kimlikleri kümesine karşı denetlenir
GüvenSonraki adımı sıralamaÖlçülmemiş öz-değerlendirmeKalibre edilmeden eşik olarak kullanılmaz
Serbest metinKısa gerekçe, notSessiz hataKısa tutulur ve kararı taşımaz; karar kapalı kümede durur
Tabloyu alan alan geçin: her satırda önlem sütunu bir doğrulayıcı kuralına çevrilebiliyorsa alan tasarımı bitmiştir; çevrilemiyorsa o alan henüz şemaya hazır değildir.

Alan tasarımının en kritik kararı kaçış kapısıdır. Kaynakta bulunmayan bir bilgiyi bildirmenin yolu olmayan bir şema, uydurulmuş bir değeri zorunlu kılar: alan doldurulmak zorundaysa doldurulur. Bu yüzden çekimserlik birinci sınıf bir çıktı olmalı — açıkça izin verilen, ucuz ve beklenen bir değer; yanına eksik kalan alanları sayan bir liste konur. Bu değerin ne sıklıkla üretildiği bir başarısızlık göstergesi değil, içerik kapsamı göstergesidir: hangi soruların karşılığı belge setinizde yok, onu söyler. Kaçış kapısı olmayan şema, eksik veriyi sessizce uydurmaya çevirir.

Doğrulama ve onarım döngüsü#

  1. 1Şemaya karşı ayrıştır

    Çıktı doğrudan şema doğrulayıcısına verilir; başarısızsa ham metin ve hata mesajı loglanır.

  2. 2Hatayı makine diliyle geri ver

    Düzeltme istenirken doğrulayıcının ürettiği hata ve yalnızca bozuk alan gönderilir; istem baştan tekrarlanmaz.

  3. 3Tek onarım turu tanı

    Onarım sınırsız denenmez. İkinci başarısızlıkta iş kuyruğa veya insana düşer; sınırsız deneme maliyeti sessizce büyütür.

  4. 4İş kuralını kodda zorla

    Yetki, toplam tutarlılığı, tarih aralığı gibi kurallar istemde hatırlatılmaz; doğrulamada uygulanır.

  5. 5Reddi sonuç olarak kaydet

    Başarısız çıktı sessizce yutulmaz; oranı ölçülür ve istem sürümüne bağlanır.

Veri ile talimatı ayırmak#

Getirilen belgeler ve kullanıcı metni veridir, talimat değildir. Talimatla aynı bölgeye sınır konmadan yerleştirilirse, içinde “önceki talimatları yok say” yazan bir belge talimatın parçası haline gelir. İki yapısal savunma vardır: talimatı veriden açık bir sınırla ayırmak ve veri bölgesindeki içeriği alıntılanmış malzeme olarak ele almak; ikincisi ve daha önemlisi, model çıktısının doğrudan yetkili bir eylemi tetiklememesi — eylem argümanları da her istek gibi aynı doğrulayıcıdan ve aynı yetki filtresinden geçer.

İstem bir yapı taşıdır#

  • İstem, şema ve kod çözme ayarı birlikte tek bir sürüm oluşturur; üçünden biri değiştiğinde sürüm değişir.
  • Her sürüm, değişmeyen bir değerlendirme setinde koşulur; karşılaştırma aynı girdilerle yapılır.
  • Az örnekli örnekler değerlendirme setinden alınmaz; alınırsa ölçüm kendi örneklerini ölçer.
  • Sürümün temel göstergeleri biçim hatası oranı, kaçış kapısı oranı ve ortalama onarım turu sayısıdır.

Sık yapılan hata#

En yaygın hata, bozuk bir çıktıyı isteme bir cümle daha ekleyerek düzeltmektir. İstem büyür, hangi cümlenin ne yaptığını kimse bilmez ve bir sonraki model sürümünde denge sessizce değişir. Disiplin tam tersidir: istemi küçültün, güvenceyi şemaya ve doğrulayıcıya taşıyın, değişikliğin işe yarayıp yaramadığını sabit bir değerlendirme setinden okuyun.

LAB · UYGULAMALI ALIŞTIRMA

Şemadan başlayıp onarım döngüsü kurun

  1. 1Elinizdeki bir çıkarım işini seçip beklenen çıktıyı şema olarak yazın; her alana tip, zorunluluk ve varsa kapalı küme ekleyin.
  2. 2Şemaya “kaynakta yok” değerini ve eksik alanları listeleyen bir alan ekleyin.
  3. 3Kendi verinizden 20 gerçek girdi seçip beklenen çıktıları elle doldurun; bu set değerlendirme setidir ve istem örneklerinde kullanılmaz.
  4. 4İstemi şemayı tarif edecek kadar kısa yazıp ilk koşuyu yapın; biçim hatası, küme dışı değer ve boş bırakılan zorunlu alan sayısını sayın.
  5. 5Doğrulayıcının hatasını yalnızca bozuk alanla geri gönderen tek turlu bir onarım adımı ekleyip aynı sayıları yeniden ölçün.
  6. 6Bir girdinin içine “önceki talimatları yok say” cümlesi yerleştirip çıktının şemadan ve yetki filtresinden geçip geçmediğini kontrol edin.

Beklenen çıktı

Şema, 20 girdilik sabit değerlendirme seti ve onarım öncesi ile sonrası biçim hatası, kaçış kapısı ve küme dışı değer oranlarını gösteren bir sürüm karşılaştırması.

Sık sorulan sorular

Model zaten şemaya uygun çıktı üretebiliyorsa doğrulayıcıya gerek var mı?

Kısıtlı kod çözme biçimi garanti eder, içeriği etmez: geçerli bir nesne içinde var olmayan bir kaynak kimliği, tutarsız bir tarih veya iş kuralını çiğneyen bir tutar pekâlâ gelebilir. Biçim kısıtı ayrıştırma hatasını, doğrulayıcı iş kuralı hatasını yakalar; ikisi ayrı iştir ve biri diğerinin yerine geçmez.

Az örnekli örnek sayısını artırmak her zaman iyileştirir mi?

Hayır. Her örnek bağlam bütçesinden yer alır ve dar bir kalıbı fazla öğretebilir; kenar durumlar örneklere benzemeye zorlanır. Örnekleri sayı için değil çeşitlilik için seçin ve etkisini sabit değerlendirme setinizde ölçün.

Güven alanını eşik olarak kullanabilir miyim?

Kalibre edilmediği sürece hayır. Öz-bildirilen güven bir doğruluk olasılığı değildir. Eşik kurmak istiyorsanız o alanı kendi setinizde gerçek doğrulukla karşılaştırıp kalibrasyonunu ölçün; ölçmeden eşik koymak hatayı otomatikleştirir.

LEARN

Generative AI Engineer rotasına devam et

Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.