LAB · ARAÇ
Bağlam Penceresi Hesaplayıcı
İstem, bağlam ve cevabın bağlam bütçesini nasıl paylaştığını gösterir.
Durum
ÇalışıyorGirdiler
- Pencere
- token
- Sistem istemi
- token
- Geri getirilen bağlam
- token
Hesaplama tarayıcıda yapılır; girdiğiniz değerler sunucuya gönderilmez.
Hesapla
Girdileri değiştirdiğinizde sonuç anında güncellenir. Hangi varsayımın sonucu ne kadar değiştirdiğini görmek için tek tek oynayın.
Girdiler
Ajan akışlarında araç tanımları sabit bir maliyet olarak her istekte gider.
Sonuç
Pencere kullanımı
%7,5
Bütçe dağılımı
- Sistem istemi800
- Araç şemaları1.200
- Geri getirilen bağlam4.200
- Sohbet geçmişi2.560
- Çıktı bütçesi800
Rahat
Bütçenin yarısından azı kullanılıyor; sohbet uzayabilir.
Doğru soru "kaç token sığıyor" değil "hangi bilgiyi pencereye koymalıyım" sorusudur. Pencere büyüdükçe maliyet ve ortadaki bilgiyi kaçırma eğilimi artar; geri getirme kalitesi bu yüzden pencere boyutundan daha belirleyicidir.
Aracın arkasındaki kavramlar
Hesaplayıcı bir kararı hızlandırır; kararın nedenini kavram girdileri anlatır.
- Large Language ModelsContext WindowBir modelin tek seferde dikkate alabileceği toplam token miktarıdır; istem, ek bağlam ve üretilen cevap bu bütçeyi paylaşır.
- Large Language ModelsRetrieval-Augmented GenerationDil modelinin cevap üretmeden önce harici bilgi kaynaklarından ilgili bilgiyi getirip oluşturduğu bağlama eklediği yapay zekâ mimarisidir.
- Large Language ModelsTokenizationMetnin, modelin işleyebileceği en küçük birimlere (token) bölünmesi işlemidir.
Lab'dan
- AraçÇalışıyorAI ROI HesaplayıcıSüre tasarrufu ve hata azaltma üzerinden yatırım geri dönüşü tahmini.
- AraçÇalışıyorAjan Adım MaliyetiBir ajan döngüsünün adım sayısı, biriken bağlamı ve kendi fiyatlarınızla toplam token faturasını hesaplar. Adım sınırının neden bir maliyet kararı olduğunu ve bağlam penceresinin kaçıncı adımda dolduğunu görünür kılar.
- DeneyYakındaAjan Bellek Mimarisi DeneyiÖzetleme, vektör belleği ve kayan pencere yaklaşımlarını aynı uzun ajan görevinde karşılaştıran ölçüm düzeni. Bellek mimarisi seçimini karara bağlamak isteyen ekipler için, bilgi kaybının hangi turda başladığını görünür kılacak denetim noktaları üzerine kurulur.
- Açık KaynakYakındaAjan İzleme KitiAjan döngüsünün her turunu — araç çağrısını, dönen yanıtı ve büyüyen bağlamı — tek bir iz kaydında toplayan kit. Başarısız bir koşunun hangi adımda saptığını sonradan yeniden oynatarak görebilmek için kurulur.
- DemoYakındaAjan Plan Görünümü DemosuAjanın planını adımlar yürümeden önce gösteren, her adımın gerekçesini ve plan değişikliklerini iz bırakacak biçimde tutan arayüz taslağı. Müdahale ve geri sarma noktalarının nereye konması gerektiğini tartışır.
- DeneyYakındaAkıl Yürütme Bütçesi DeneyiDüşünme bütçesi kademe kademe yükseltildiğinde doğruluk kazancının nerede düzleştiğini arayan ölçüm düzeni. Bütçeyi görev türüne göre ayarlamak isteyen ekipler, ek bütçenin karşılığı olup olmadığını kendi görev kümesinde görebilir.
BUILD
Hesap tuttu, sıra uygulamada
Aynı hesabı kendi verinizle yapıp mimariyi kurmak için kurumsal destek alabilirsiniz.