Bağlam bütçesi ve yerleştirme sırası
Bağlam penceresini talimat, örnek, kaynak metin, geçmiş ve çıktı payları arasında bölüştürmeyi, kritik talimatı konum etkisini hesaba katarak yerleştirmeyi ve uzun girdiyi bölerken neyin kaybolduğunu izlemeyi öğretir.
Önkoşul: Tokenization, Prompt Engineering
BU DERSİN SONUNDA
- Bir görev için bağlam bütçesini paylara ayırmak
- Kritik talimatı konum etkisini hesaba katarak yerleştirmek
- Uzun girdiyi bölerken hangi bilginin kaybolduğunu teşhis etmek
- Bağlam şişmesini fark edip gereksiz payı kesmek
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Bağlam penceresi bir depo değil, paylaşılan bir bütçedir: sistem talimatı, örnekler, kaynak metin, konuşma geçmişi ve üretilecek çıktı aynı sınırı paylaşır. Mühendislik işi "pencereye sığdırmak" değil, payları görevin ihtiyacına göre bölüştürmek ve kritik bilgiyi modelin gerçekten kullandığı yere koymaktır. İlgisiz metin eklemek yalnızca maliyet değil, rekabet de ekler.
Teori: pencere neden bir bütçedir#
Pencere girdi ile çıktıyı birlikte sayar. Çıktı payı önceden ayrılmazsa uzun bir girdi cevaba yer bırakmaz ve yapılandırılmış çıktı tam ortasından kesilir. İkinci incelik: pencere karakterle değil tokenla ölçülür; ekranda aynı uzunlukta görünen iki metin çok farklı maliyetler üretebilir. Çekimli Türkçe kelimeler, kimlik dizeleri, tablo ayırıcıları ve tırnak işaretleri beklenenden fazla yer kaplar.
Üretilen her token kendinden önce gelen tokenlara dikkat edebilir, ama dikkat sınırlı bir ağırlık bütçesidir: her adımda ağırlıklar normalleştirilir, dolayısıyla bir cümlenin payı onunla rekabet eden diğer cümlelerin sayısı arttıkça küçülür. Bu yüzden "daha çok bağlam daha iyi cevap" doğru değildir; doğru olan "ilgili bağlam daha iyi cevap"tır. Belgeye ilgisiz on sayfa eklemek, doğru cümleyi silmez ama bulunmasını zorlaştırır.
Payları bölüştürmek#
| Pay | Ne içerir | Bütçeleme notu |
|---|---|---|
| Sistem talimatı | Rol, kurallar, yasaklar, çıktı biçimi | Her istekte yeniden ödenen sabit maliyet; kısa ve değişmez tutun |
| Örnekler | Biçim ve sınır durum örnekleri | Örnek sayısı arttıkça getirisi azalır; biçim yerleşince kısın |
| Kaynak metin | Getirilen belge parçaları, kullanıcı dosyası | En oynak pay; sert sınırı buraya koyun |
| Konuşma geçmişi | Önceki turlar ve ara çıktılar | Sınırsız büyür; özetleme veya pencereleme kuralını siz yazın |
| Çıktı payı | Modelin üreteceği metin | Önceden ayrılmazsa cevap yarım kalır; azami uzunlukla birlikte planlayın |
Yerleştirme sırası#
Uzun girdilerde konum önemlidir: modelden modele değişmekle birlikte, metnin başındaki ve sonundaki bilginin ortadakine göre daha güvenilir kullanıldığı yaygın olarak gözlenir; bunu genel bir yasa gibi almadan kendi göreviniz için ölçün. Pratik sonuç, kritik kısıtı uzun bir belge yığınının ortasına gömmemektir. Yaygın ve ucuz kalıp şudur: kurallar ve rol en başta, kaynak malzeme açık sınırlayıcılar ve etiketlerle ortada, somut görev ise üretimden hemen önce sonda bir kez daha.
Kaynak blokları etiketlenmeli: her bloğun görünür bir kimliği olsun (belge adı, bölüm, sürüm, tarih). Bunun iki karşılığı var. Model atıf verebilir, siz de bir cevabın hangi bloktan geldiğini geriye doğru izleyebilirsiniz. Etiketsiz birleştirilmiş metinde hata kime ait bilinemez; bu yüzden düzeltme de yapılamaz.
Uzun girdiyi bölmek#
- 1Doğal birimi seç
Belgede anlamın kendi içinde tamamlandığı birimi bulun: madde, alt başlık bölümü, tablo satırı, soru-cevap çifti. Sabit uzunlukta kesmek son çaredir.
- 2Her parçaya kimlik ve üst bilgi ekle
Başlık yolu, sürüm ve tarih parçanın içinde dursun. Parça tek başına okunduğunda nereye ait olduğu anlaşılmalı.
- 3Parça başına yapılandırılmış ara çıktı iste
Her parçaya aynı soruyu sorun ve cevabı serbest metin değil, alan adlı kısa bir kayıt olarak alın.
- 4Ara çıktıları birleştir
Son cevabı üretirken ham metinleri değil, doğrulanmış ara kayıtları verin. Böylece birleştirme adımı yeniden bütçe şişirmez.
Bölerken iki tür kayıp olur. Birincisi sınırı aşan bilgidir: bir parça koşulu görür, komşu parça istisnayı. Çaresi yapısal bölme ve gerektiğinde sınırlarda örtüşmedir. İkincisi yalnızca bütünde anlamı olan bilgidir: sayma, "en çok hangi", karşılaştırma. Bunun çaresi özetlemek değildir; parça başına yapılandırılmış bir kayıt çıkarıp toplamayı modelin dışında, belirlenimci kodla yapmaktır.
Sık yapılan hata#
En yaygın refleks, pencere büyük olduğu için belgenin tamamını içine atmaktır. Bunun üç bedeli var: maliyet ve gecikme girdiyle birlikte büyür, belirleyici cümle daha çok dikkat dağıtıcıyla rekabet eder ve cevap yanlış çıktığında hangi bölümün yanılttığı anlaşılamaz. Büyük pencere bir izindir, bir strateji değil.
LAB · UYGULAMALI ALIŞTIRMA
Kendi göreviniz için bağlam bütçesi tablosu çıkarın
- 1Tipik bir isteğinizi alın ve beş paya ayırın: sistem talimatı, örnekler, kaynak metin, konuşma geçmişi, çıktı payı. Her payın metnini ayrı bir dosyaya kopyalayın.
- 2Her payın uzunluğunu aynı ölçüyle sayın ve payların yüzdesini yazın. Elinizde tokenizer yoksa karakter sayısı tutarlı bir vekildir; karşılaştırmayı yalnızca kendi ölçünüz içinde yapın.
- 3En büyük payı hedef alın: içindeki her bloğu "cevabı üretmek için gerekli", "faydalı" veya "gereksiz" diye işaretleyin. Aynı on gerçek girdiyi önce tam bağlamla koşturup taban çizgisini kaydedin, sonra gereksiz işaretlediklerinizi çıkarıp tekrar koşturun; iki koşuyu "cevap hâlâ doğru mu" ve "atıf hâlâ doğru bloğa mı gidiyor" ölçütleriyle karşılaştırın.
- 4Kritik kısıtınızı (örneğin "yalnızca verilen kaynaktan cevapla") iki farklı yerde deneyin: kaynak metnin öncesinde ve kaynak metnin hemen sonrasında. Aynı on girdiyle her iki yerleşimi koşturun.
- 5İki yerleşimde kısıt ihlali sayısını ve atıfsız cevap sayısını ayrı ayrı sayın; farkı tabloya yazın.
- 6Bütçe tablonuzun altına iki satır ekleyin: hangi payın hangi sınırı aşmayacağı ve kritik kısıtın nereye yazılacağı.
Beklenen çıktı
Payların uzunluk dağılımını gösteren bir bütçe tablosu, gereksiz bloklarından ayıklanmış bir bağlam ve kritik kısıt için ölçüme dayanan yazılı bir yerleşim kuralı.
Sık sorulan sorular
Pencere yeterince büyükse bütçe yapmaya gerek var mı?
Var. Maliyet ve gecikme girdi uzunluğuyla birlikte artar, ilgisiz metin belirleyici cümleyle dikkat için rekabet eder ve cevap yanlış olduğunda hangi bölümün yanılttığını izleyemezsiniz. Bütçe, pencereye sığmakla ilgili değil; neyin girmeye hak kazandığıyla ilgilidir.
Soruyu kaynak metnin önüne mi sonuna mı koymalıyım?
Uzun girdide soruyu hem başta hem kaynak metnin hemen ardında tekrarlamak ucuz ve yaygın bir çözümdür. Asıl kural konumdan çok şudur: kritik talimat uzun bir metin yığınının ortasında kalmasın. Hangi yerleşimin sizin göreviniz için daha iyi olduğunu sabit bir girdi setinde ölçün.
Konuşma geçmişini özetlemek bilgi kaybettirmez mi?
Kaybettirir; soru neyin kaybolacağıdır. Karar taşıyan verileri (sayılar, kimlikler, verilen sözler, seçilen seçenekler) özete bırakmayın; ayrı ve yapılandırılmış bir durum kaydında tutup her turda olduğu gibi verin. Özet yalnızca akışı ve niyeti taşısın.
LEARN
Prompt ve Bağlam Mühendisi rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.