İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM
Atlas girdisiOrta

Large Language Model

LLM · Büyük dil modeli

Çok büyük metin derlemleri üzerinde bir sonraki tokeni tahmin etmeyi öğrenmiş, transformer tabanlı ve genel amaçlı dil görevlerinde kullanılabilen sinir ağı modelidir.

ÖnkoşulTransformer · Tokenization

Kısa cevap

Bir büyük dil modeli, tek bir görevi öğrenmek yerine çok geniş metin üzerinde "sıradaki token ne olmalı" sorusunu öğrenir. Bu basit hedef, ölçek büyüdüğünde özetleme, çeviri, kod yazma ve muhakeme gibi yetenekleri yan ürün olarak ortaya çıkarır.

Nasıl eğitilir?#

  1. 1Ön eğitim

    Geniş derlem üzerinde sıradaki tokeni tahmin etme hedefiyle temel yetenek kazanılır.

  2. 2Talimat uyumu

    Talimat-cevap çiftleriyle modelin istenen biçimde yanıt vermesi öğretilir.

  3. 3Tercih hizalama

    İnsan veya model tercihlerine göre yararlılık ve güvenlik ayarlanır.

  4. 4Değerlendirme

    Yetenek, güvenlik ve kalibrasyon ölçülür; sürüm kararı verilir.

Çıkarım anında ne olur?#

Model, verilen bağlama bakarak sıradaki token için bir olasılık dağılımı üretir ve bu dağılımdan bir token seçer; sonra seçilen tokeni bağlama ekleyip aynı işlemi tekrarlar. Sıcaklık (temperature) ve çekirdek örnekleme (top-p) gibi ayarlar, bu seçimin ne kadar belirleyici veya çeşitli olacağını kontrol eder.

AyarDüşük değerYüksek değerNe zaman
SıcaklıkTutarlı, tekrar edenÇeşitli, öngörülemezSınıflandırmada düşük, yaratıcı metinde yüksek
top-pDar aday kümesiGeniş aday kümesiYapılandırılmış çıktıda dar tutulur
Maksimum tokenKısa, kesilme riskiUzun, maliyetliBeklenen çıktı uzunluğuna göre
Ayar adları ve aralıkları sağlayıcıya göre değişir.

Sık görülen yanılgılar#

  • "Model internete bakıyor" — bakmıyor; yalnızca araç verilirse bakabilir. Aksi hâlde yalnızca eğitim bilgisi ve bağlamla çalışır.
  • "Aynı soruya aynı cevabı verir" — örnekleme rastgeledir; belirlenimci davranış için sıcaklık sıfıra yakın ayarlanmalı ve yine de garanti değildir.
  • "Cevap kendinden eminse doğrudur" — dil akıcılığı ile olgusal doğruluk birbirinden bağımsız.
  • "Bağlam penceresi büyükse her şeyi hatırlar" — uzun bağlamda modelin bilgiyi kullanması tekdüze değildir.

Sık sorulan sorular

LLM ile üretken yapay zekâ aynı şey mi?

Değil. Üretken yapay zekâ görsel, ses ve video üreten modelleri de kapsayan geniş bir başlık; büyük dil modeli bunun metin odaklı alt kümesi.

Kurumsal bilgiyi modele nasıl öğretirim?

Çoğu senaryoda doğru cevap geri getirmedir (RAG): bilgi belgede kalır, modele çıkarım anında verilir. Üslup ve alan dili gerekiyorsa ince ayar buna eklenebilir.

Neden bazen yanlış ama çok inandırıcı cevap veriyor?

Model, olasılıkla akıcı bir devam üretir; doğruluk kontrolü mimarisinde yoktur. Bu davranışa halüsinasyon denir ve dış doğrulama olmadan ortadan kalkmaz.

Kaynaklar

  1. 01Model kartları ve teknik raporlar — Model sağlayıcıları · Teknik rapor
  2. 02Sinaptik Research — model karşılaştırma notları — Sinaptik Lab · Teknik rapor

Güncelleme geçmişi

  1. v1.2Örnekleme ayarları tablosu eklendi.
  2. v1.1Eğitim aşamaları akışı eklendi.
  3. v1.0İlk yayın.

Bu kavramla ilgili gündem

LEARN

Large Language Model konusunu uygulamaya dökmek ister misin?

Kavramı okudun; sırada onu bir rotanın içinde öğrenmek ve bir testle ölçmek var.