Chain-of-Thought
CoT · Düşünce zinciri
Modelin nihai cevaba gitmeden önce ara adımları açıkça üretmesini isteyen istem tekniğidir; çok adımlı görevlerde doğruluğu artırabilir.
ÖnkoşulPrompt Engineering
Kısa cevap
Düşünce zinciri, modele "adım adım ilerle" demektir. Ara adımların bağlama yazılması, sonraki tokenlerin bu adımlara koşullanmasını sağlar; böylece tek hamlede çözülemeyen problemler parçalara bölünür.
Neden işe yarıyor?#
Model her tokeni sabit bir hesap bütçesiyle üretir. Cevabı doğrudan istediğinizde, çok adımlı bir çıkarımı tek bir token seçimine sıkıştırmasını istemiş olursunuz. Ara adımları yazmak, bu hesabı zamana yayar: her adım bağlamda görünür hale gelir ve sonraki adımın girdisi olur.
Varyantlar#
| Teknik | Ne yapar | Maliyet |
|---|---|---|
| Sıfır örnekli CoT | İsteme "adım adım düşün" eklenir | Düşük |
| Az örnekli CoT | Çözülmüş örnek zincirler isteme konur | Orta: istem uzar |
| Kendi kendine tutarlılık | Birden çok zincir üretilip en sık cevap seçilir | Yüksek: n kat çağrı |
| Düşünce ağacı | Alternatif dallar üretilip değerlendirilir | Çok yüksek |
| Programla çözme | Zincir yerine çalıştırılabilir kod üretilir | Orta; aritmetikte güvenilir |
Ne zaman kullanılmamalı?#
- Tek adımlı sınıflandırma ve etiketleme: gereksiz token ve gecikme.
- Yapılandırılmış çıktı beklenen çağrılar: zincir, şema uyumunu bozabilir.
- Kullanıcıya doğrudan gösterilen yanıtlar: ara adımlar yanıltıcı kesinlik hissi verir.
- Muhakeme modelleri: bu modeller zinciri kendi içinde yürütür; ek talimat çoğu zaman gereksiz.
Sık sorulan sorular
Ara adımları çıktıdan nasıl ayırırım?
Modelden adımları ayrı bir alanda (örneğin bir JSON alanında veya işaretli bir blokta) üretmesini isteyip bu alanı kullanıcıya göstermeden kayda almak en pratik yöntem.
Kendi kendine tutarlılık ne kadar kazandırır?
Kararsız görevlerde belirgin fayda verebilir ama maliyet çağrı sayısıyla doğrusal artar. Kararı kendi görev setinizde ölçerek verin; genel bir kazanç oranı iddiası yanıltıcı olur.
Güncelleme geçmişi
- v1.0İlk yayın.
LEARN
Chain-of-Thought konusunu uygulamaya dökmek ister misin?
Kavramı okudun; sırada onu bir rotanın içinde öğrenmek ve bir testle ölçmek var.