İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM
RehberBaşlangıçAI Business

Kurumsal model seçim kararı

Model seçimi; kendi görev setinizde kalite, gecikme, maliyet ve veri ikametgâhı kısıtlarının birlikte değerlendirilmesiyle yapılır.

ÖNKOŞULLAR

  • Gerçek işten alınmış 20-50 görevlik bir değerlendirme seti
  • Hedef eşzamanlılık ve gecikme beklentisi
  • Veri işleme ve bölge kısıtlarına dair kurumsal politika

GEREKEN ARAÇLAR

  • Değerlendirme koşucusu (görev seti üzerinde otomatik koşan)
  • Yük testi aracı
  • Maliyet hesaplama tablosu veya Lab hesaplayıcıları
  1. 01

    Görev setini yaz

    Kendi işinizi temsil eden 30–50 gerçek örnek.

  2. 02

    Kalite eşiğini belirle

    En yüksek skor değil, kabul edilebilir kalite aranır.

    Model seçimi bir sıralama kararı değil eşik kararıdır. Doğru soru "hangisi en yüksek skoru alıyor" değil, "hangileri bizim görev setimizde kabul sınırını geçiyor" sorusudur. Eşiği ölçüm öncesinde yazmak, sonuçlara göre eşik ayarlama eğilimini engelliyor.

    1. 01Görev setinizi zorluk kırılımıyla koşturun.
    2. 02Kabul sınırını önceden yazın (örneğin "zor vakalarda tamamlama oranı şu değerin üstünde").
    3. 03Eşiği geçen tüm modelleri bir sonraki adıma taşıyın.
    4. 04Eşiği geçmeyenleri, skorları yüksek olsa bile eleyin.
  3. 03

    Gecikme ve maliyet bütçesi koy

    Kullanıcı deneyimi gecikmeye, birim ekonomi maliyete bağlı.

    Etkileşimli ürünlerde ortalama gecikme yanıltıcıdır; kullanıcı deneyimini kuyruk gecikmesi belirler. Her yirmi istekten biri beş saniye sürüyorsa ürün yavaş algılanır, ortalama ne olursa olsun.

    ÖlçümNeden önemliNasıl ölçülür
    İlk token süresiAkışlı arayüzde algılanan hızHedef eşzamanlılıkta ölçüm
    p95 / p99 gecikmeKullanıcının hissettiği yavaşlıkYük altında ölçüm
    Hız sınırı davranışıYoğun günde çöken akışlarKota üstü deneme
    Görev başına maliyetGerçek birim maliyetTamamlanmış görev başına token
    Dört ölçümün hiçbiri sağlayıcı sayfasından okunamaz; kendi iş yükünüzle ölçülmeli.
  4. 04

    Kısıtları listele

    Veri ikametgâhı, denetim, sözleşme ve destek.

  5. 05

    Karar kaydı tut

    Neyi neden seçtiğinizi yazın; altı ay sonra tekrar tartışmayın.

    Kararın kendisi kadar gerekçesi de kayda geçmeli: hangi modeller değerlendirildi, hangi sürümle, hangi eşik kullanıldı, hangi ölçümler alındı, hangi sözleşme maddeleri belirleyici oldu. Altı ay sonra aynı tartışma tekrar açıldığında bu kayıt, haftalarca zaman kazandırıyor.

    text
    # Model karar kaydı — asgari alanlar

Tarih:              2026-09-12
Karar:              saglayici/model-adi@2026-08
Değerlendirilenler: A@2026-08, B@2026-07, C@2026-08
Görev seti:         v4 (30 görev, 10 kapalı)
Kalite eşiği:       zor vakalarda tamamlama >= kabul sınırı
Ölçümler:           tamamlama, adım verimliliği, p95 gecikme, görev maliyeti
Belirleyici etken:  bölge kısıtı + p99 gecikme
Yedek:              B@2026-07 (geçiş provası yapıldı)
Yeniden gözden geçirme: 2027-03
  6. 06

    Sözleşme ve veri taahhütlerini denetle

    Eğitimde kullanım, bölge, sürüm desteği ve emeklilik uyarısı yazıya geçsin.

    Teknik değerlendirme, sözleşme değerlendirmesi olmadan tamamlanmaz. Dört soru yazıya geçmeli: girdi verisi model eğitiminde kullanılıyor mu, veri hangi bölgede işleniyor ve saklanıyor, sürüm ne kadar süre destekleniyor, emeklilik için ne kadar önce uyarı veriliyor?

  7. 07

    Yedek planı prova et

    İkinci sağlayıcıya geçişi bir kez gerçekten uygulayın.

    Model seçimi bir kerelik karar değil, bir yenileme döngüsü. Bu yüzden en yüksek getirili yatırım "en iyi modeli bulmak" değil, model değiştirme maliyetini düşürmek: sağlayıcıdan bağımsız istem şablonları, bir soyutlama katmanı ve prova edilmiş bir geçiş planı.

    • İkinci sağlayıcıya geçişi test ortamında bir kez uygulayın.
    • İstem şablonlarınızın sağlayıcıya özgü kısımlarını işaretleyin.
    • Araç şemalarınızın taşınabilirliğini doğrulayın.
    • Devre kesici ve yedek modele otomatik geçiş kurun.

SIK DÜŞÜLEN TUZAKLAR

  • Kamuya açık skorlarla karar vermek

    Benchmark, sizin işinizi ölçmüyor ve sızıntı riski taşıyor. Kaba sıralama için faydalı, üretim kararı için yeterli değil.

  • Ortalama gecikmeye bakmak

    Kullanıcı deneyimini kuyruk gecikmesi belirler. p95 ve p99 ölçülmeden hız kararı verilemez.

  • Sürüm belirtmeden skor kaydetmek

    Sürümsüz bir ölçüm karşılaştırılamaz. Sağlayıcı modeli güncellediğinde kaydın anlamı kaybolur.

  • Geçiş maliyetini hesaplamamak

    En iyi modeli seçmek, ondan çıkamamak pahasına geliyorsa iyi bir karar değil. Taşınabilirlik bir değerlendirme boyutudur.

KONTROL LİSTESİ

  • Görev seti hazır ve zorluk kırılımlı
  • Kalite eşiği ölçüm öncesinde yazıldı
  • p95/p99 gecikme hedef eşzamanlılıkta ölçüldü
  • Tamamlanmış görev başına maliyet hesaplandı
  • Veri, bölge ve sürüm taahhütleri yazıya geçti
  • İkinci sağlayıcıya geçiş provası yapıldı
  • Karar kaydı yazıldı ve yeniden gözden geçirme tarihi konuldu

Maddelerin tamamı işaretlenmeden kurulum üretime alınmamalı.

Sık sorulan sorular

En büyük model her zaman en iyi seçim mi?

Hayır. Kalite bir eşik olarak ele alındığında, eşiği geçen modeller arasında karar gecikme, maliyet, kapasite ve sözleşme maddelerine göre verilir.

Birden çok modeli birlikte kullanmak mantıklı mı?

Sıkça evet: kolay istekleri küçük ve hızlı bir modele, zor istekleri büyük bir modele yönlendirmek hem maliyeti hem gecikmeyi iyileştirebilir. Bedeli, yönlendirme katmanının bakımı.

Karar ne kadar sürede yenilenmeli?

Takvimle değil olayla: sağlayıcı sürüm değişikliği, iş yükünde belirgin değişim veya kalite gerilemesi. Yine de bir takvim tarihi koymak, kararın unutulmasını engelliyor.

Kaynaklar

  1. 01Sağlayıcı ve altyapı dokümantasyonları — Model ve altyapı sağlayıcıları · Dokümantasyon
  2. 02Sinaptik Research — uygulama notları — Sinaptik Lab · Teknik rapor

BUILD

Bu rehberi kurumunuzda uygulayalım mı?

Aynı mimariyi kendi verinizle kurmak için discovery oturumundan üretime kadar birlikte ilerliyoruz.

Kurumsal hizmetlerDiğer rehberler