Ajan mimarisi bir varsayılan değil, bir istisnadır

Tez#

Son iki yılda kurumsal yapay zekâ tartışması sessizce bir varsayım değiştirdi: ajan mimarisi, kanıtlanması gereken bir tercih olmaktan çıkıp başlangıç noktası hâline geldi. Bir iş akışı otomasyonu konuşulurken ilk soru artık "bu işi hangi adımlarla çözeriz" değil, "bu ajanı nasıl kurarız" oluyor. Bu kayma teknik bir gerekçeye dayanmıyor; araç ekosisteminin ajan kurmayı kolaylaştırmasına dayanıyor. Kolay olan şeyin doğru olduğu varsayımı, yazılım tarihinde defalarca pahalıya çıkmış bir varsayımdır.

Ajanlaştırmanın getirdiği tek yapısal yenilik şudur: adımların sırası kodda değil, çalışma anında modelin kararında kurulur. Bu, öngörülemeyen girdiler karşısında gerçek bir avantajdır. Ama aynı özellik, sistemin davranışını deterministik olmaktan çıkarır. Determinizmi kaybetmek bedava değil: aynı girdi farklı karar dizileri üretebilir, maliyet koşu başına değişir, hata ayıklama bir kod okuma işinden bir iz inceleme işine dönüşür ve test stratejisinin tamamı yeniden kurulur. Bu bedeli ödemeye değer olup olmadığı, işin sırasının gerçekten öngörülemez olup olmadığına bağlıdır — model ne kadar yetenekli olursa olsun bu denklem değişmez.

Bağlam: üç otomasyon rejimi#

Ajanlaştırma kararını netleştirmek için işleri belirsizlik derecesine göre üç rejime ayırmak yeterli. Ayrım teknoloji üzerinden değil, işin kendi doğası üzerinden yapılır: adımların sırası sabit mi, koşullu mu, yoksa girdiye göre baştan mı kurulmak zorunda?

Sahada görülen dağılım bu tablonun ilk iki satırında yoğunlaşıyor. Fatura okuma, form doldurma, bildirim yönlendirme, kayıt eşleştirme, rapor üretme — kurumsal otomasyon taleplerinin büyük bölümü sabit ya da koşullu akış rejimindedir. Bu işlerin ajanlaştırılması, sırası yazılmış bir işi modele yeniden keşfettirmek anlamına gelir. Model her koşuda o sırayı yeniden bulur, çoğu zaman doğru bulur, bazen bulmaz; ve bulmadığı koşuyu tespit etmek için kurulması gereken gözlemlenebilirlik altyapısı, işi klasik akışla yazmaktan pahalıya gelir.

Kanıt: nerede kırılıyor?#

Gereksiz ajanlaştırmanın kırılma noktaları rastgele değil; dört yerde toplanıyor ve dördü de determinizm kaybının doğrudan sonucu. Bunlar model kalitesiyle çözülmez çünkü hiçbiri model hatasından kaynaklanmıyor.

• Maliyet öngörülemezliği: aynı iş bir koşuda üç, başka koşuda on bir tur sürüyor. Aylık bütçe ortalamayla değil kuyrukla belirleniyor ve kuyruk beş katı olabiliyor.
• Hata ayıklamanın zorlaşması: klasik akışta bir arıza satır numarasına iner, ajan akışında karar dizisine iner. İz kaydı yoksa arıza yeniden üretilemez.
• Regresyon testinin kaybı: girdi-çıktı eşleşmesine dayanan testler, çıktının her koşuda değişebildiği bir sistemde geçerliliğini yitirir. Yerine değerlendirme seti kurulması gerekir.
• Yetki yüzeyinin genişlemesi: her araç bir yetkidir. Klasik akışta hangi adımın hangi kaynağa dokunacağı kodda yazılıdır; ajan akışında bu küme çalışma anında belirlenir.

Dördüncü madde en çok küçümsenen. Sırası belli bir işi klasik akışla yazdığınızda, hangi adımın hangi sistemi çağıracağı kodda görünür ve gözden geçirmede denetlenir. Aynı işi ajanlaştırdığınızda araç kataloğu bir olasılık kümesine dönüşür: model teorik olarak her koşuda her aracı çağırabilir. Bu, gerçek bir güvenlik farkıdır ve yetki modellemesiyle kapatılması gerekir — yani ajanlaştırma kararı yalnızca mimari değil, güvenlik bütçesine de yazılan bir karardır.

Mekanizma: esneklik neden bedava değil#

Ajan mimarisinin bedeli felsefi değil, mekanik. Klasik bir akışta sistemin durum uzayı sonludur ve kodu okuyan biri onu sayabilir: beş adım, üç dal, iki hata yolu. Ajan akışında durum uzayı, modelin her turda seçebileceği araç sayısıyla tur sayısının kuvvetidir. Sekiz araçlı ve on turluk bir ajanın teorik yol sayısı, hiçbir test paketinin kapsayamayacağı bir büyüklüktür.

1. 1Durum uzayı patlaması

   Araç sayısı ile tur sayısının bileşimi, denetlenebilir yol sayısını aşar. Kapsama artık bir test hedefi değil, bir örnekleme problemidir.

2. 2Test stratejisinin değişmesi

   Girdi-çıktı eşleşmesi yerini davranış dağılımı ölçümüne bırakır. Bu, birim testten değerlendirme setine geçiş demektir ve ayrı bir yatırımdır.

3. 3Gözlemlenebilirliğin zorunlu hâle gelmesi

   Her adımın girdisi, çağrılan aracı ve dönen sonucu kaydedilmezse arıza yeniden üretilemez. İz kaydı sonradan eklenen bir özellik değil, kurulum koşuludur.

4. 4Bütçenin kuyruğa taşınması

   Maliyet ortalama tur sayısıyla değil en kötü yüzde birlik dilimle belirlenir; bütçe kararı bu dilime göre verilmezse fatura sürpriz olur.

5. 5Yetki modellemesinin öne geçmesi

   Araç kataloğu bir olasılık kümesine döndüğü için, her aracın hangi koşulda çağrılabileceği politikayla sınırlanır. Bu iş, akış yazmaktan daha uzun sürer.

Bu beş adım, ajanlaştırmanın gerçek maliyet kalemleridir ve hiçbiri model faturasında görünmez. Bir ekip "ajan kurmak artık çok kolay" derken genellikle ilk koşuyu çalıştırmayı kastediyor; yukarıdaki beş kalem ise ilk koşudan sonra başlıyor ve projenin ömrü boyunca sürüyor.

Karşı görüş#

Bu tezin karşısında duran iki ciddi iddia var ve ikisi de hafife alınmamalı. Birincisi: işlerin sırası, öyle sanıldığı kadar sabit değil. Bir fatura işleme akışı kâğıt üzerinde beş adımdır ama gerçekte istisnalarla doludur — eksik alan, farklı format, çelişen tutar, iki dilde düzenlenmiş belge. Klasik akış bu istisnaları önceden saymak zorundadır ve sayamadığı her istisna insana düşer. Ajan mimarisi istisnayı çalışma anında ele alabildiği için, kâğıt üzerinde sabit görünen akışlarda bile kazanç sağlayabilir.

Akışın sabit olduğunu düşünmemizin nedeni genellikle istisnaları hiç saymamış olmamızdı. Saydığımızda dal sayısı üçten kırka çıktı.

İkinci iddia daha güçlü: ajanlaştırma, kısa vadede pahalı olsa bile ekibin yeni kaslarını kurmasını sağlıyor. Değerlendirme seti, iz kaydı, yetki modellemesi — bunlar ajan olmadan da gereken yetkinlikler ve ilk ajan projesinde kurulmuş olması, sonraki her projeyi hızlandırıyor. Bu, mühendislik yatırımı olarak savunulabilir bir pozisyondur. Ancak bu savunma, ajanlaştırmayı tek tek işler için değil ekip yetkinliği için haklı çıkarır; ikisini karıştırmak, her işi ajanlaştırma gerekçesine dönüşür.

İki eleştiri tezi çürütmüyor ama sınırını çiziyor. Tez şu değil: "ajan kullanmayın." Tez şu: ajan mimarisi kanıt yükü taşır. İşin sırasının gerçekten öngörülemez olduğunu, istisna sayısının klasik akışla sayılamayacak kadar yüksek olduğunu gösteren biri ajanı savunabilir. Bu göstermeyi yapmadan ajanla başlamak, cevabı bilinmeyen bir soruya en pahalı yanıtı vermektir.

Sınırlar ve belirsizlik#

Bu analizin kendi sınırları var ve okurun bunları bilmesi gerekiyor. Ajan mimarilerinin maliyet ve güvenilirlik profili hızla değişiyor; bugün geçerli olan bir karşılaştırma bir yıl sonra geçerli olmayabilir. Ayrıca aşağıdaki belirsizlikler analizin dışında kalıyor.

• İstisna sayısının önceden ölçülmesi zor: bir akışın gerçekte kaç dalı olduğu ancak üretim verisi biriktikten sonra görülüyor. Karar çoğu zaman bu veri olmadan veriliyor.
• Ekip yetkinliği etkisi nicelenmiş değil: ilk ajan projesinin sonrakileri ne kadar hızlandırdığına dair yayımlanmış bir ölçüm bilmiyoruz; savunma mantıklı ama sayısal değil.
• Model kuşağı etkisi belirsiz: araç seçme güvenilirliği arttıkça durum uzayı patlamasının pratik bedeli azalabilir. Bunun ne hızla olacağı öngörülemiyor.
• Alan farkı ölçülmedi: hukuk, sağlık ve finans gibi geri alınamaz işlemlerin ağırlıklı olduğu alanlarda denklem, içerik üretimi gibi alanlardan farklı olabilir.

Sonuç#

Ajanlaştırma kararı bir yetenek kararı değil, bir belirsizlik kararıdır. Sorulması gereken soru "model bunu yapabilir mi" değil, "bu işin sırası gerçekten önceden bilinemiyor mu" sorusudur. Cevap "biliniyor" ise klasik akış hem daha ucuz hem daha denetlenebilir hem daha hızlıdır ve bu üçü aynı anda doğrudur — nadir bir durumdur, kaçırılmamalı.

Cevap "bilinemiyor" ise ajan doğru araçtır ama bedeli baştan bütçelenmelidir: değerlendirme seti, iz kaydı, yetki matrisi ve kuyruk maliyetine göre hesaplanmış bir bütçe. Bu dördü olmadan kurulan ajan, çalıştığı sürece iyi görünen ve bozulduğunda neden bozulduğu anlaşılamayan bir sistemdir. Ajanlaştırmanın asıl riski kötü çalışması değil, kötü çalıştığının fark edilmemesidir.

Ne yapmalı?#

1. 1Ürün tarafı: dalları say

   Ajanlaştırma talebini kabul etmeden önce akışın gerçek dal sayısını üretim verisinden çıkarın. Üç dal varsa kural motoru, kırk dal varsa ajan konuşulur.

2. 2Mühendislik: determinizm kaybını yazılı hâle getirin

   Mimari karar notuna neyin kaybedildiğini yazın: tekrarlanabilirlik, sabit maliyet, birim test. Kaybı yazmayan karar, kaybı fark etmez.

3. 3Mühendislik: iz kaydını ilk gün kurun

   Her adımın girdisi, çağrılan aracı ve dönen sonucu kaydedilsin. Sonradan eklenen gözlemlenebilirlik, geçmiş arızaları açıklamaz.

4. 4Güvenlik: yetki matrisini akıştan önce yazın

   Hangi araç hangi koşulda çağrılabilir ve hangisi insan onayı ister? Bu tablo, araç kataloğu büyüdükçe güncellenen canlı bir belge olmalı.

5. 5Finans: bütçeyi kuyruğa göre kurun

   Ortalama tur sayısıyla değil en kötü yüzde birlik dilimle bütçeleyin; ajan maliyetinde karar veren dilim budur.

6. 6Herkes: geri dönüş yolunu açık tutun

   Ajanı kapatıp klasik akışa dönmenin maliyetini baştan ölçün. Bu maliyet bilinmiyorsa karar geri alınamaz hâle gelmiş demektir.