Ajan döngüsü ve kontrol devri

Teori: kontrol nerede duruyor?#

Klasik yazılımda adım sırası koda yazılıdır: hangi fonksiyon hangi koşulda çağrılır, geliştirici karar vermiştir. Ajan döngüsünde döngünün gövdesi hâlâ koddadır, ancak hangi aracın hangi argümanla çağrılacağı ve ne zaman durulacağı çalışma anında model çıktısıyla belirlenir. Bu devir tek bir şeyi değiştirir ama her şeyi etkiler: aynı girdi iki koşumda farklı adım dizisi üretebilir.

Döngünün dört durağı vardır: bağlam derleme, model kararı, araç yürütme, gözlem yazma. Her tur bu dörtlüyü bir kez döner. Kaliteyi belirleyen şey modelin zekâsı kadar, bu dört durakta kodun ne yaptığıdır — bağlama ne konduğu, kararın nasıl doğrulandığı, gözlemin hangi biçimde geri yazıldığı.

Bu yüzden "ajan mı yazalım" sorusu genellikle yanlış kurulur. Doğru soru, kararın ne kadarının çalışma anına bırakılması gerektiğidir. Girdi dağılımı öngörülebilir olduğunda kararı koda yazmak hem daha ucuz hem daha test edilebilirdir; öngörülemediğinde döngünün esnekliği başka türlü elde edilemez.

Uygulamada: karar spektrumu#

Döngünün gövdesi#

def ajan_dongusu(hedef, araclar, tur_siniri=8, cagri_butcesi=16):
    izler = [{"rol": "kullanici", "metin": hedef}]
    cagri = 0
    for tur in range(tur_siniri):
        baglam = baglam_derle(izler, araclar)       # 1. bağlam derleme
        karar = model_karari(baglam)                # 2. model kararı
        if karar.tip == "bitir":
            return karar.cevap
        for istek in karar.cagrilar:                # bir tur birden çok çağrı isteyebilir
            if cagri >= cagri_butcesi:
                return devret("çağrı bütçesi tükendi", izler)
            sonuc = araclar[istek.ad].calistir(istek.argumanlar)   # 3. yürütme
            cagri += 1
            izler.append({"rol": "arac", "ad": istek.ad, "sonuc": sonuc})  # 4. gözlem
    return devret("tur sınırı aşıldı", izler)

Bu iskelette dikkat edilecek üç yer var. Birincisi sonlanma: tur ve çağrı sınırları kodda duruyor, modelin "gerektiğinde dur" talimatına bırakılmıyor. İkincisi bağlam derleme adımının ayrı bir fonksiyon olması — döngü uzadıkça bu fonksiyon en çok değişen yer olacak. Üçüncüsü, sınıra çarpan koşumun hata değil devir üretmesi: iş yarıda kalıyorsa bunu bir insan devralmalı.

Karar: ajan mı, iş akışı mı?#

1. 1Adım sırası girdilerin çoğunda aynı mı?

   Geçmiş işlerin adım dizileri büyük ölçüde örtüşüyorsa iş akışı yazın. Ajan döngüsü burada yalnızca belirsizlik ve maliyet ekler.

2. 2Durum uzayı kapalı mı?

   Olası girdi tiplerini sayabiliyorsanız model yalnızca yönlendirme yapsın, adımlar kodda kalsın. Hata yüzeyi tek noktaya iner.

3. 3Ara gözlem sonraki adımı gerçekten değiştiriyor mu?

   Bir aracın çıktısı yalnızca kaydedilip ilerleniyorsa döngü gereksiz. Çıktı hangi aracın çağrılacağını değiştiriyorsa döngü gerekli.

4. 4Yanlış adımın bedeli taşınabilir mi?

   Geri alınabilir eylemlerde döngüye alan açın. Geri alınamaz eylemleri döngünün içine değil, kod tarafındaki onay kapısının arkasına koyun.

Sık yapılan hata#

En yaygın hata, sabit bir işi ajan kılığına sokmak. Üç adımı belli bir boru hattı döngüye konduğunda ajan her turda aynı işi yeniden keşfetmeye çalışır: maliyet ve gecikme artar, çıktı koşumdan koşuma değişir, arıza teşhisi izlerin içinde kaybolur. Tersi hata da görülür — döngü gerçekten gerekliyken sabit akış yazmak, o zaman da her yeni girdi tipi için kod yamaları birikir.