Plan, bellek katmanları ve bağlam bütçesi

Teori: üç ayrı ömür#

Plan, hedefin adımlara bölünmüş hâlidir: koşum başında yazılır, küçük düzeltmelerle yaşar ve koşum bitince atılır. Çalışma belleği araç gözlemlerinin ve ara sonuçların tutulduğu yerdir; hızla büyür, büyük kısmı birkaç adım sonra işe yaramaz. Kalıcı bilgi ise koşumun üretmediği, önceden var olan bilgidir: belgeler, kayıtlar, yordamlar. Bu üçünün ömrü, doğruluk sorumluluğu ve erişim yolu farklıdır; tek bir depoya konduklarında bu farklar görünmez olur.

Adım başına bağlam bütçesi#

Bağlam maliyeti koşum başına değil adım başına düşünülür, çünkü her tur sabit kısmı yeniden ödetir. Sistem istemi, araç listesi ve plan her adımda başa yazılır; gözlemler ise birikir. Bu yüzden bir ajanın bağlam davranışı iki büyüklükle tanımlanır: adım başına sabit taban ve adım başına eklenen artış. Taban yüksekse kısa işler pahalı olur; artış yüksekse uzun işler pencereye çarpar. İkisi farklı müdahale ister.

Özetleme mi, geri getirme mi#

1. 1Bilgi yeniden üretilebilir mi

   Araç yeniden çağrılarak elde edilebiliyorsa bağlamda tutmak gereksiz; kimliği bırakıp gerektiğinde tekrar getirin.

2. 2Kayıp geri alınabilir mi

   Özetleme kayıplıdır. Kaynak elde duruyorsa özet güvenlidir; kaynak yoksa özet tek nüshadır ve hatası düzeltilemez.

3. 3Kesinlik gerekiyor mu

   Kimlik, tutar, tarih ve madde numarası özetlenmez; bunlar yapılandırılmış alana yazılır, serbest metne değil.

4. 4Ne sıklıkla gerekiyor

   Her adımda gereken bilgi bağlamda kalır; seyrek gereken bilgi geri getirmeye devredilir.

5. 5Gecikme bütçesi var mı

   Geri getirme her çağrıda gecikme ekler ve adım sayısı yüksek işlerde bu maliyet toplanır; sınır varsa taban bilgiyi bağlamda tutun.

Bu kararın yaygın yanlış biçimi, uzun koşumu ayakta tutmak için geçmişi düzenli olarak özetlemektir. Özet her turda bir kez daha özetlendiğinde bilgi kademeli olarak erir: ilk özet ayrıntıyı, ikincisi ayrımı, üçüncüsü kararın gerekçesini atar. Ajan sonunda ne yaptığını değil, ne yaptığına dair bir izlenimi taşır. Kalıcı olması gereken şey anlatı özeti değil yapılandırılmış ara sonuçtur; anlatı özeti yalnızca insana okutulacaksa üretilir.

Gözlem kırpma#

• Araç çıktısını sunucu tarafında kırp: alan seçimi, çıktı modelin bağlamına girmeden önce yapılır.
• Liste dönüşlerinde toplam sayıyı ve ilk birkaç kaydı ver; kalanı açık bir "devamı var" işaretiyle bildir.
• Uzun metinde başı ve sonu tut, ortayı kimlikle referansla; tam metni getirmek ayrı bir araç olsun.
• Kırpma yapıldığını gözlemde açıkça yaz; model kırpıldığını bilmezse eksik listeyi tam sanar.
• Hata gövdesini kırparken sınıfı koru: yığın izi atılabilir, hata sınıfı ve düzeltme ipucu atılamaz.

{
  "kosum_kimligi": "ks-0147",
  "adim": 6,
  "plan_durumu": [
    { "madde": "Açık siparişleri bul", "durum": "tamam", "sonuc_referansi": "ara/siparis-listesi" },
    { "madde": "Gecikmiş olanları ayır", "durum": "suruyor" },
    { "madde": "Bildirim taslağı hazırla", "durum": "bekliyor" }
  ],
  "ara_sonuclar": {
    "siparis-listesi": {
      "tur": "referans",
      "kaynak": "arac:siparis_ara",
      "kayit_sayisi": 214,
      "ornek_kimlikler": ["SIP-10024918", "SIP-10024933"]
    }
  },
  "son_gozlemler": [
    { "adim": 5, "arac": "siparis_ara", "sinif": "basarili", "kirpildi": true, "not": "tam liste referansta" }
  ],
  "butce": { "adim_butcesi": 12, "kalan_adim": 6 }
}

Sık yapılan hata#

En yaygın hata, kalıcı bilgi ile çalışma belleğini aynı depoya koymaktır: koşum sırasında üretilen ara notlar, sonraki koşumların geri getirdiği bilgi tabanına yazılır. Bunun iki sonucu var. Birincisi, bir koşumun yanlış ara sonucu kalıcı bilgi gibi geri gelir ve hatayı yayar. İkincisi, kaynak künyesi bozulur: getirilen parçanın insan onaylı bir belgeden mi yoksa bir ajan notundan mı geldiği anlaşılmaz. Katmanları ayrı tutmanın asıl gerekçesi yer kazancı değil, bu izlenebilirliktir.