LAB · AÇIK KAYNAK
Model Çağrısı Maliyet Etiketleme
Model çağrılarını çağıran iş akışı, ortam ve maliyet merkeziyle etiketleyen; sağlayıcı faturasını bu deftere karşı uzlaştıran açık kaynak kit. Ay sonundaki tutarın hangi akıştan doğduğunu sorabilmek isteyen ekipler için.
Durum
GeliştiriliyorBu projenin girdi tanımları, arayüz tasarımıyla birlikte yayımlanacak.
Model Çağrısı Maliyet Etiketleme henüz yayında değil
Bu proje geliştirme listesinde. Yayına girdiğinde bültenle duyurulacak; çalışan araçları Lab sayfasından görebilirsiniz.
Projenin içi
Kurulum, varsayımlar, ölçüm düzeni ve sınırlılıklar.
Kısa cevap
Her model çağrısını başlatan iş akışıyla birlikte kaydeden bir etiketleme katmanı; fatura kalemi ile kurum içi akış arasındaki bağı çağrı anında kurar.
Ne çözüyor?#
Sağlayıcı dökümü çağrıları tek havuzda toplar. Kurum içindeki soru ise başka bir dilde gelir: bu tutarı hangi ürün, hangi müşteri, hangi deneme üretti. İki görünüm arasındaki boşluk, çağrı anında etiket yazılmadıysa sonradan kapatılamaz; geçmişe dönük tahmin, muhasebe kaydı yerine geçmez. Kit isteği gönderirken akış kimliğini isteğin yanına ve kendi defterine yazar, dönemsel dökümü de bu deftere karşı uzlaştırır.
Bileşenler#
- Sarmalayıcı: sağlayıcı istemcisinin önüne geçer; istemin içeriğine dokunmadan etiketleri kendi defterine yazar, sağlayıcı bir üstveri alanı kabul ediyorsa aynı etiketleri oraya da geçirir.
- Bağlam taşıyıcısı: akış kimliğini çağrı zincirinde elden ele geçirir, böylece derindeki yardımcı işlev kendi etiketini bilmek zorunda kalmaz.
- Kullanım defteri: her çağrı için etiketleri, sağlayıcının yanıtında bildirdiği token sayaçlarını ve gecikme alanını eklemeli olarak saklar.
- Fiyat çizelgesi: birim ücretlerin elle girildiği tek dosya; kit içinde gömülü hiçbir ücret gelmez.
- Uzlaştırıcı: sağlayıcı dökümünü defterle karşılaştırır, eşleşmeyen kalemleri ayrı listede bırakır.
Etiket kümesi#
Etiketler serbest metin değil dar bir kümedir ve her alanın kim tarafından doldurulduğu bellidir. Akış, aşama ve ortam alanı kodun kendisinden; maliyet merkezi ve kullanıcı türü çağrıyı başlatan istekten gelir. Küme genişledikçe sorulabilen soru çeşidi artar ama defterin hacmi ve raporlama maliyeti de büyür; bu yüzden alan eklemek bir yapılandırma kararı olarak bırakılmıştır.
{
"akis": "sozlesme-ozeti",
"asama": "tasnif",
"ortam": "uretim",
"maliyetMerkezi": "hukuk",
"kullaniciTuru": "ic-ekip",
"istekKimligi": "<istek başında üretilen kimlik>"
}Kurulum akışı#
- 1Tek giriş bırak
Uygulamadaki her sağlayıcı çağrısı tek bir modülden geçirilir. İkinci bir doğrudan çağrı yolu açık kalırsa defter eksik başlar ve bu eksiklik ancak dökümle uzlaştırma yapıldığında görünür hale gelir.
- 2Etiket sözlüğünü yaz
Alan adları ve izin verilen değerler kurum sözlüğüne göre sabitlenir. Eksik etiketle gelen çağrı reddedilmez ama etiketsiz kovasında görünür kalır.
- 3Bağlamı uçtan uca geçir
Akış kimliği istek girişinde üretilir ve arka plan işlerine de taşınır. Kuyruğa giren iş etiketini kaybederse o maliyetin sahibi bulunamaz.
- 4Fiyat çizelgesini doldur
Birim ücretler sözleşmeden okunup çizelgeye girilir; değiştiğinde eski satır silinmez, tarih damgasıyla yeni satır eklenir.
- 5Uzlaştırmayı kapanışa bağla
Dönem dökümü geldiğinde uzlaştırıcı çalıştırılır. Eşleşmeyen kalemler ayrı listede birikir; bu liste kısalmadıkça defterden çıkan dağılım raporu iç tahmin sayılır, muhasebe kaydı sayılmaz.
Yapılandırmaya bırakılan kararlar#
| Karar | Seçenekler | Neye göre |
|---|---|---|
| Deftere yazma anı | Çağrıyla eşzamanlı / kuyruğa bırakıp toplu | Gecikmeye duyarlı yolda kuyruk; kaydın kaybolmaması kritikse eşzamanlı |
| Etiket kümesinin genişliği | Dar küme / kullanıcı kimliği dahil geniş küme | Kullanıcı başına maliyet sorusu varsa geniş; defter hacmi sorun olacaksa dar |
| İstem ve yanıt gövdesinin saklanması | Saklanmaz / kısaltılmış / tam | Kişisel veri riski ile hata ayıklama ihtiyacı arasındaki dengeye göre |
| Etiketsiz çağrıya davranış | Geçir ve işaretle / engelle | Kitin yeni kurulduğu dönemde geçir; kapsam tamamlandıktan sonra engelle |
| Fiyat çizelgesinin güncellenmesi | Elle / sağlayıcı dökümünden türet | Sözleşmede kademeli indirim varsa dökümden türetmek daha tutarlıdır |
Kapsam dışı#
Kit bir maliyet iyileştirici değildir; hangi çağrının gereksiz olduğuna, hangi istemin kısaltılabileceğine karar vermez. Önbellek, toplu istek ve model seçimi gibi tasarruf yolları uygulamanın kendi işidir. Sağlayıcı faturasının doğruluğunu denetlemek de kapsam dışıdır: uzlaştırıcı yalnızca kendi defteriyle döküm arasındaki farkı görünür kılar, farkın hangi tarafta olduğunu söylemez.
Aracın arkasındaki kavramlar
Hesaplayıcı bir kararı hızlandırır; kararın nedenini kavram girdileri anlatır.
Lab'dan
- AraçÇalışıyorAI ROI HesaplayıcıSüre tasarrufu ve hata azaltma üzerinden yatırım geri dönüşü tahmini.
- AraçÇalışıyorAjan Adım MaliyetiBir ajan döngüsünün adım sayısı, biriken bağlamı ve kendi fiyatlarınızla toplam token faturasını hesaplar. Adım sınırının neden bir maliyet kararı olduğunu ve bağlam penceresinin kaçıncı adımda dolduğunu görünür kılar.
- DeneyYakındaAjan Bellek Mimarisi DeneyiÖzetleme, vektör belleği ve kayan pencere yaklaşımlarını aynı uzun ajan görevinde karşılaştıran ölçüm düzeni. Bellek mimarisi seçimini karara bağlamak isteyen ekipler için, bilgi kaybının hangi turda başladığını görünür kılacak denetim noktaları üzerine kurulur.
- Açık KaynakYakındaAjan İzleme KitiAjan döngüsünün her turunu — araç çağrısını, dönen yanıtı ve büyüyen bağlamı — tek bir iz kaydında toplayan kit. Başarısız bir koşunun hangi adımda saptığını sonradan yeniden oynatarak görebilmek için kurulur.
- DemoYakındaAjan Plan Görünümü DemosuAjanın planını adımlar yürümeden önce gösteren, her adımın gerekçesini ve plan değişikliklerini iz bırakacak biçimde tutan arayüz taslağı. Müdahale ve geri sarma noktalarının nereye konması gerektiğini tartışır.
- DeneyYakındaAkıl Yürütme Bütçesi DeneyiDüşünme bütçesi kademe kademe yükseltildiğinde doğruluk kazancının nerede düzleştiğini arayan ölçüm düzeni. Bütçeyi görev türüne göre ayarlamak isteyen ekipler, ek bütçenin karşılığı olup olmadığını kendi görev kümesinde görebilir.
BUILD
Hesap tuttu, sıra uygulamada
Aynı hesabı kendi verinizle yapıp mimariyi kurmak için kurumsal destek alabilirsiniz.
