Yapılandırılmış çıktı ve kısıt tasarımı
Çıktıyı şemadan başlatarak makine tarafından denetlenebilir hale getirmeyi, doğrulama-onarım döngüsünü kodda kurmayı ve veriyi talimattan ayırmayı öğretir.
Önkoşul: Large Language Model, Context Window
BU DERSİN SONUNDA
- Çıktı şemasını istemden önce tasarlayıp her alanı denetlenebilir kılmak
- Doğrulama ve onarım döngüsünü istemde değil kodda kurmak
- Veri ile talimatı ayırarak istem enjeksiyonu yüzeyini daraltmak
- İstem, şema ve kod çözme ayarını tek bir sürüm olarak değerlendirmeye bağlamak
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Yapılandırılmış çıktı, modele “JSON ver” demekle değil, çıktı şemasını önce yazıp her alanı makine tarafından denetlenebilir hale getirmekle elde edilir. İstem şemayı tarif eder; asıl güvence, çıktıyı şemaya ve iş kurallarına karşı doğrulayan, gerekirse tek turda onaran ve başarısızlığı sayan koddur.
Teori: önce şema, sonra istem#
Model metin üretir; şema, bu metni programın kabul edebileceği veya reddedebileceği bir nesneye çevirir. Şemayı önce yazmak, istemin başka türlü gizlediği soruları zorla sordurur: hangi alanlar zorunlu, hangileri kapalı küme, kaynak cevabı içermiyorsa ne olacak? Şemadan önce yazılan istem genellikle bir paragraf ister ve o paragraf sonradan düzenli ifadelerle ayrıştırılmaya çalışılır.
Her alan iki ölçütü geçmelidir: yalnızca girdiye bakarak cevaplanabilmeli ve yargı gerektirmeden denetlenebilmeli. Sessiz hataların saklandığı yer serbest metin alanlarıdır, çünkü biçim açısından her zaman geçerli sayılırlar; bir alanı doğrulayamıyorsanız o alan ya kapalı bir kümeye dönüşmeli ya da şemadan çıkmalıdır. Serbest bir alanı kapalı bir kümeye artı kısa bir nota dönüştürmek, hatayı görünmez olmaktan çıkarıp sayılabilir hale getirir.
Alan tasarımı#
| Alan tipi | İyi kullanım | Risk | Önlem |
|---|---|---|---|
| Kapalı küme | Sınıf, öncelik, karar | Küme dışı değer üretme | Doğrulayıcı reddeder; küme istemde ve şemada birebir aynı yazılır |
| Sayı | Tutar, adet, süre | Uydurulmuş kesinlik | Kaynak göstergesini zorunlu kılın; birim ayrı alanda tutulur |
| Tarih | Yürürlük, vade | Biçim kayması | Tek biçim zorunlu ve doğrulanır; belirsiz tarih reddedilir |
| Kaynak göstergesi | Cevabın dayanağı | Var olmayan kaynağa atıf | Kimlik, getirilen parça kimlikleri kümesine karşı denetlenir |
| Güven | Sonraki adımı sıralama | Ölçülmemiş öz-değerlendirme | Kalibre edilmeden eşik olarak kullanılmaz |
| Serbest metin | Kısa gerekçe, not | Sessiz hata | Kısa tutulur ve kararı taşımaz; karar kapalı kümede durur |
Alan tasarımının en kritik kararı kaçış kapısıdır. Kaynakta bulunmayan bir bilgiyi bildirmenin yolu olmayan bir şema, uydurulmuş bir değeri zorunlu kılar: alan doldurulmak zorundaysa doldurulur. Bu yüzden çekimserlik birinci sınıf bir çıktı olmalı — açıkça izin verilen, ucuz ve beklenen bir değer; yanına eksik kalan alanları sayan bir liste konur. Bu değerin ne sıklıkla üretildiği bir başarısızlık göstergesi değil, içerik kapsamı göstergesidir: hangi soruların karşılığı belge setinizde yok, onu söyler. Kaçış kapısı olmayan şema, eksik veriyi sessizce uydurmaya çevirir.
Doğrulama ve onarım döngüsü#
- 1Şemaya karşı ayrıştır
Çıktı doğrudan şema doğrulayıcısına verilir; başarısızsa ham metin ve hata mesajı loglanır.
- 2Hatayı makine diliyle geri ver
Düzeltme istenirken doğrulayıcının ürettiği hata ve yalnızca bozuk alan gönderilir; istem baştan tekrarlanmaz.
- 3Tek onarım turu tanı
Onarım sınırsız denenmez. İkinci başarısızlıkta iş kuyruğa veya insana düşer; sınırsız deneme maliyeti sessizce büyütür.
- 4İş kuralını kodda zorla
Yetki, toplam tutarlılığı, tarih aralığı gibi kurallar istemde hatırlatılmaz; doğrulamada uygulanır.
- 5Reddi sonuç olarak kaydet
Başarısız çıktı sessizce yutulmaz; oranı ölçülür ve istem sürümüne bağlanır.
Veri ile talimatı ayırmak#
Getirilen belgeler ve kullanıcı metni veridir, talimat değildir. Talimatla aynı bölgeye sınır konmadan yerleştirilirse, içinde “önceki talimatları yok say” yazan bir belge talimatın parçası haline gelir. İki yapısal savunma vardır: talimatı veriden açık bir sınırla ayırmak ve veri bölgesindeki içeriği alıntılanmış malzeme olarak ele almak; ikincisi ve daha önemlisi, model çıktısının doğrudan yetkili bir eylemi tetiklememesi — eylem argümanları da her istek gibi aynı doğrulayıcıdan ve aynı yetki filtresinden geçer.
İstem bir yapı taşıdır#
- İstem, şema ve kod çözme ayarı birlikte tek bir sürüm oluşturur; üçünden biri değiştiğinde sürüm değişir.
- Her sürüm, değişmeyen bir değerlendirme setinde koşulur; karşılaştırma aynı girdilerle yapılır.
- Az örnekli örnekler değerlendirme setinden alınmaz; alınırsa ölçüm kendi örneklerini ölçer.
- Sürümün temel göstergeleri biçim hatası oranı, kaçış kapısı oranı ve ortalama onarım turu sayısıdır.
Sık yapılan hata#
En yaygın hata, bozuk bir çıktıyı isteme bir cümle daha ekleyerek düzeltmektir. İstem büyür, hangi cümlenin ne yaptığını kimse bilmez ve bir sonraki model sürümünde denge sessizce değişir. Disiplin tam tersidir: istemi küçültün, güvenceyi şemaya ve doğrulayıcıya taşıyın, değişikliğin işe yarayıp yaramadığını sabit bir değerlendirme setinden okuyun.
LAB · UYGULAMALI ALIŞTIRMA
Şemadan başlayıp onarım döngüsü kurun
- 1Elinizdeki bir çıkarım işini seçip beklenen çıktıyı şema olarak yazın; her alana tip, zorunluluk ve varsa kapalı küme ekleyin.
- 2Şemaya “kaynakta yok” değerini ve eksik alanları listeleyen bir alan ekleyin.
- 3Kendi verinizden 20 gerçek girdi seçip beklenen çıktıları elle doldurun; bu set değerlendirme setidir ve istem örneklerinde kullanılmaz.
- 4İstemi şemayı tarif edecek kadar kısa yazıp ilk koşuyu yapın; biçim hatası, küme dışı değer ve boş bırakılan zorunlu alan sayısını sayın.
- 5Doğrulayıcının hatasını yalnızca bozuk alanla geri gönderen tek turlu bir onarım adımı ekleyip aynı sayıları yeniden ölçün.
- 6Bir girdinin içine “önceki talimatları yok say” cümlesi yerleştirip çıktının şemadan ve yetki filtresinden geçip geçmediğini kontrol edin.
Beklenen çıktı
Şema, 20 girdilik sabit değerlendirme seti ve onarım öncesi ile sonrası biçim hatası, kaçış kapısı ve küme dışı değer oranlarını gösteren bir sürüm karşılaştırması.
Sık sorulan sorular
Model zaten şemaya uygun çıktı üretebiliyorsa doğrulayıcıya gerek var mı?
Kısıtlı kod çözme biçimi garanti eder, içeriği etmez: geçerli bir nesne içinde var olmayan bir kaynak kimliği, tutarsız bir tarih veya iş kuralını çiğneyen bir tutar pekâlâ gelebilir. Biçim kısıtı ayrıştırma hatasını, doğrulayıcı iş kuralı hatasını yakalar; ikisi ayrı iştir ve biri diğerinin yerine geçmez.
Az örnekli örnek sayısını artırmak her zaman iyileştirir mi?
Hayır. Her örnek bağlam bütçesinden yer alır ve dar bir kalıbı fazla öğretebilir; kenar durumlar örneklere benzemeye zorlanır. Örnekleri sayı için değil çeşitlilik için seçin ve etkisini sabit değerlendirme setinizde ölçün.
Güven alanını eşik olarak kullanabilir miyim?
Kalibre edilmediği sürece hayır. Öz-bildirilen güven bir doğruluk olasılığı değildir. Eşik kurmak istiyorsanız o alanı kendi setinizde gerçek doğrulukla karşılaştırıp kalibrasyonunu ölçün; ölçmeden eşik koymak hatayı otomatikleştirir.
LEARN
Generative AI Engineer rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.
