MODEL VARLIĞI
DBRX Instruct
DBRX, Databricks'in Mart 2024'te yayımladığı açık ağırlıklı transformer decoder modelidir: 132 milyar toplam, girdi başına 36 milyar aktif parametre. Mimari katkısı ince taneli mixture-of-experts kurgusu — 16 uzmandan 4'ünü seçiyor ve Databricks bunun rakip MoE modellerine göre 65 kat daha fazla uzman kombinasyonu ürettiğini belirtti. RoPE, gated linear units ve grouped query attention kullanıyor, 12 trilyon token ile ön eğitildi. Bugünkü konumu tarihsel: 32K bağlam penceresi 2026 standartlarının çok gerisinde ve model Databricks'in kendi güncel Foundation Model APIs listesinde yer almıyor.
Künye
Kapalı- Geliştirici
- Databricks
- Model tipi
- Metin LLM
- Bağlam
- 32K token
- Modaliteler
- metin · kod
- Açık ağırlık
- Var
- Yönetilen API
- Yok
- Yayın
- 2024-03-27
Son doğrulama: 12 Eylül 2026
Yetenekler
- 132 milyar toplam / 36 milyar aktif parametreli ince taneli MoE
- 16 uzmandan 4'ünü seçen yönlendirme; rakip MoE'lere göre 65 kat fazla uzman kombinasyonu (Databricks iddiası)
- Rotary position encoding (RoPE), gated linear units (GLU) ve grouped query attention (GQA)
- 12 trilyon token ile ön eğitim
- 32K token bağlam penceresi
- Base ve Instruct varyantları; ağırlıklar Hugging Face üzerinde açık lisansla yayımlandı
Sınırlılıklar
- 32K bağlam penceresi; 2026'daki 128K-1M aralığındaki modellerin çok gerisinde
- Databricks'in güncel Foundation Model APIs desteklenen modeller listesinde yer almıyor; yönetilen servis olarak sunulmuyor
- Eğitim verisi Mart 2024 ve öncesi; yaklaşık iki buçuk yıllık bilgi boşluğu
- Yalnızca metin; görsel, ses veya video girdisi yok
- Duyuru yazısı modelin bilinen sınırlılıklarını açıkça listelemiyor
- Lisansın tam adı Databricks duyuru yazısında belirtilmemiş; yalnızca "açık lisans" ifadesi kullanılıyor
Tipik kullanım alanları
- Açık ağırlıklı MoE mimarisi üzerinde araştırma
- Yerinde çalıştırılan metin üretimi
- İnce ayar için taban model
- MoE yönlendirme davranışının incelenmesi
Benchmark politikası
Bu sayfada skor tablosu yer almaz. Sinaptik Lab, yalnızca test verisi, model sürümü, örnekleme ayarları ve örneklem sayısı yayımlanmış ölçümleri raporlar. Metodoloji
BUILD
Hangi modeli seçeceğinize karar veremiyor musunuz?
Kendi görev setiniz üzerinde kalite, gecikme, maliyet ve uyum kısıtlarını birlikte ölçüyoruz.
