Ajan belleği ve plan katmanı kurmak

Bellek tek bir şey değil, birbirinden ayrı üç sorunun cevabı: bu turda elde ne olmalı, bu görev boyunca ne birikti, gelecek oturumlarda ne hatırlanmalı. Üçünü tek bir mesaj dizisinde biriktirmek, en eski ve genellikle en bağlayıcı bilginin — kullanıcının ilk turda koyduğu kısıtın — ilk kırpılan şey olmasına yol açıyor.

Mesaj dizisine karışmış bir tercihin silinmesi pratikte mümkün değildir; ancak tüm oturumu atarak temizlenir. Katmanları en baştan ayırmanın en somut getirisi budur.

Kalıcı belleğe kendiliğinden yazan sistemler hızla çelişkiye düşüyor: aynı olgunun üç sürümü birikiyor ve hangisinin doğru olduğunu söyleyen bir alan bulunmuyor. Yazma bir yan etki değil açık bir karar olmalı; kararın kuralı da kodda değil, önce yazılı olarak durmalı.

• Yazma tetikleyicisini adlandırın: kullanıcının açık talebi, doğrulanmış bir araç sonucu, kapanan bir görev.
• Her kayda kaynak yazın: hangi oturum, hangi tur, hangi araç, hangi tarih.
• Her kayda geçerlilik yazın: bu bilgi ne zamana kadar doğru sayılır.
• Çelişki kuralını baştan seçin: yeni kayıt eskisini gölgeler mi, yoksa ikisi de saklanıp karar çağrı anına mı bırakılır.
• Silme yolunu ilk günde kurun; sonradan eklenen silme, dizin ve önbellek kopyalarını yakalayamaz.

Plan mesaj dizisinde tutulduğunda, bağlam kırpıldığı veya özetlendiği anda kayboluyor; ajan da hedefi baştan keşfetmeye çalışıyor. Planı ayrı bir kayıt olarak tutmak bu bağı koparır: özetleme mesajları etkiler, planı etkilemez.

gorev_kimligi: "tedarik-analiz-0917"
hedef: "Üç tedarikçi teklifini karşılaştır ve uygunluk notuyla özetle."
adimlar:
  - ad: "Teklif belgelerini topla"
    durum: "tamam"
    cikti: "3 belge, oturum kaydında"
  - ad: "Uygunluk ölçütlerini çıkar"
    durum: "yurutuluyor"
  - ad: "Karşılaştırma tablosunu yaz"
    durum: "bekliyor"
varsayimlar:
  - "Teklifler aynı para biriminde"
acik_sorular:
  - "İkinci teklifin geçerlilik tarihi belgede yok"

Planın iki okuyucusu var: bir sonraki tur ve insan. İkisinin de aynı kaydı okuyabilmesi hata ayıklamanın yarısını çözüyor — "ajan ne yapmaya çalışıyordu" sorusu izden değil plandan cevaplanıyor.

Yürütücüye tüm planı vermek iki sorun üretir: bağlamın büyük bir payı her turda plana gider ve model sıradaki adımı yapmak yerine planı yeniden tartışmaya başlar. Yürütücü yalnızca sıradaki adımı, o adımın araçlarını ve o adımın gerektirdiği bellek parçalarını görmeli.

1. 1Planı oku

   Durumu "bekliyor" olan ilk adımı ve ona bağlı varsayımları alın.

2. 2Bağlamı kur

   Yalnızca o adımın araç şemalarını ve sorguyla gelen bellek kayıtlarını bağlama koyun.

3. 3Yürüt

   Adımı tek bir döngü koşusu olarak çalıştırın; tur ve çağrı bütçesi adım düzeyinde uygulansın.

4. 4Sonucu plana yaz

   Adımın durumunu, çıktısını ve varsa yeni açık soruyu plan kaydına işleyin.

5. 5Yeniden planla veya devam et

   Planı yalnızca adım başarısızsa ya da bir varsayım yanlışlandıysa güncelleyin.

Yeniden planlamayı bir kurala bağlayın. Her turda planı gözden geçiren ajan turlarını iş yapmaya değil planlamaya harcıyor; hiç gözden geçirmeyen ajan ise bozulmuş bir varsayımla sonuna kadar gidiyor. Tetikleyici olarak "adım başarısız" ve "varsayım yanlışlandı" ikilisi pratikte yeterli oluyor.

Buradaki amaç bağlam bütçesinin tamamını tasarlamak değil, belleğin payını sabitlemek. Pay yazılmadığında kırpma sırası çalışma anında kendiliğinden oluşuyor ve en eski kalem — genellikle ilk turdaki kısıt — sessizce düşüyor.

Payları ölçün: her turda kalem başına kaç belirteç harcandığını ize yazın. "Bağlam doldu" uyarısı geldiğinde hangi kalemin büyüdüğü sorusunun cevabı ölçümde olmalı, tahminde değil.

"On mesajda bir özetle" kuralı iki yönde birden yanılıyor: kısa turlarda gereksiz özet üretiyor, uzun araç çıktılarında taşmayı hiç yakalayamıyor. Doğru tetikleyici bağlam doluluk oranı ve eşik taşmadan önce gelmeli — özetlemenin kendisi de bir model çağrısıdır ve o da yer ister.

• Aynen korunacaklar: kullanıcının kendi cümlesiyle koyduğu kısıtlar, verilen kararlar, kimlikler ve numaralar, açık sorular, geri alınamaz eylemlerin kaydı.
• Özetlenebilecekler: araç çıktılarının gövdesi, başarısız denemelerin ayrıntısı, ara akıl yürütme.
• Atılabilecekler: tekrar eden sistem uyarıları, aynı sonucu veren ikinci çağrının çıktısı.
• Özetin kendisi de bir kayıttır: hangi turları kapsadığı ve ne zaman üretildiği yazılsın.

Özetleme sessiz bir kayıp üretir: sistem çalışmaya devam eder, yalnızca cevaplar yanlışlaşır. Bu yüzden özet üretildiği anda sınanmalı; sonradan fark edilen kayıp zaten bir üretim hatasıdır.

1. 01Özetlenen turlardan, cevabı yalnızca o turlarda bulunan beş kontrol sorusu çıkarın.
2. 02Soruları yalnızca özeti gören bir bağlama sorun.
3. 03Cevaplanamayan her soru için kaybın sınıfını belirleyin: kısıt, kimlik, karar ya da ayrıntı.
4. 04Kısıt, kimlik veya karar sınıfında kayıp varsa özetleme istemini düzeltip testi tekrarlayın.
5. 05Özetleme istemi her değiştiğinde testi yeniden koşun.

Bu test bir değerlendirme hattının yerini tutmaz; yalnızca tek bir bileşenin kaybını ölçer. Ama uzun oturum hatalarının kayda değer bir bölümü bu bileşende doğduğu için en ucuz teşhis aracı da budur.

Kalıcı belleği olduğu gibi eklemek, bellek katmanını bir bağlam yüküne çevirir ve ilgisiz kayıtlar modeli yanlış yöne çeker. Bellek de belge gibi sorgulanmalı; ama belgeden iki farkı var: tazelik ve sahiplik. Bir belge eskimeden doğru kalabilir, bir tercih eskidiği anda yanlışa döner.

• Sorguyu görevden üretin: sıradaki adımın hedefi, geçen varlık adları ve kimlikler.
• Tazeliği sıralamaya katın: aynı olgunun yeni kaydı eskisinin önüne geçsin.
• Kaynağı birlikte getirin; çelişki ancak kaynakla çözülür.
• Getirilen kayıt sayısına üst sınır koyun; sınır yoksa bellek payı diğer kalemleri yiyor.

Bellek eklemek her zaman iyileştirmiyor. Eski bir tercih yeni talimatı bastırabiliyor, ilgisiz bir kayıt planı saptırabiliyor, getirilen parçalar bağlamı doldurup asıl kısıtı dışarı itebiliyor. Bu yüzden bellek, açılıp kapatılabilir bir bileşen olarak kurulmalı.

• Aynı görev setini bellek açık ve kapalıyken koşturun; farkı tek bir ortalamada değil görev görev okuyun.
• Bellek yüzünden bozulan görevleri ayrı bir listede toplayın; bunlar getirme kuralınızın hatasıdır.
• Tur sayısını da karşılaştırın: bellek işe yarıyorsa aynı sonuca daha az turda varılmalı.
• Sonucu yazılı bırakın; bellek istemi veya getirme kuralı değiştiğinde karşılaştırma tekrarlanır.

Karşılaştırmanın kurulumu ayrı bir işin konusu: görev seti, beklenen son durum ve puanlama bir değerlendirme hattı gerektiriyor. Burada gereken tek disiplin şu — bellek bir varsayım olarak değil, açılıp kapatılabilir bir değişken olarak kurulmalı.