İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM
DersBaşlangıç25 dakikaYapay Zekâya Başlangıç · 7. ders

Günlük işte istem yazmak

Tekrar eden bir işi dil modeline yaptırırken istemin hangi dört parçadan kurulduğunu, eksik parçanın çıktıda nasıl sessiz bir hataya dönüştüğünü ve düzeltmenin şablona nasıl taşındığını öğretir.

Önkoşul: Large Language Model, Hallucination

BU DERSİN SONUNDA

  • Bir isteği görev, bağlam, kısıt ve çıktı biçimi olarak parçalarına ayırmak
  • Belirsiz bir istemi tekrar kullanılabilir bir şablona çevirmek
  • Tek turda bitecek işler ile adımlara bölünmesi gereken işleri ayırt etmek
  • Model çıktısında doğrulaması size düşen alanları önceden belirlemek
  1. 1

    Teori

    Kavramın çalışma mantığı

  2. 2

    Örnek

    Gerçek bir senaryo üzerinde gösterim

  3. 3

    Lab

    Uygulamalı alıştırma

  4. 4

    Test

    Kısa ölçüm

  5. 5

    Proje

    Rotadaki projeye katkı

Kısa cevap

İyi bir istem modele işi anlatmaz, işin sınırlarını verir: ne yapılacağı, hangi girdiyle, hangi kısıtlar altında ve çıktının hangi biçimde geleceği. Model sizin bağlamınızı bilmez; yazmadığınız her kısıtı en yaygın varsayımla doldurur. İstem yazmayı öğrenmek, bu boşlukları önceden kapatmayı öğrenmektir.

Teori: boşluğu kim dolduruyor?#

Dil modeli metni sürdürür: verdiğiniz metnin ardından gelebilecek devamlar arasından seçerek yazar. Bu yüzden istem bir komuttan çok bir çerçevedir; çerçeveyi ne kadar daraltırsanız olası devamların kümesi o kadar küçülür. "Bu raporu özetle" dediğinizde model özetin kime, ne kadar uzunlukta ve hangi soruya cevap vermek için yazıldığını bilmez; en genel özeti üretir ve o genellik çoğu işte kullanılamaz.

Eksik bilgi çıktıda bir hata mesajı olarak görünmez. Model "bunu bilmiyorum" diyip durmak yerine boşluğu en sık karşılaştığı kalıpla doldurur. Sonuç beklentinizi tutturmadığında ilk bakılacak yer modelin yetersizliği değil, isteğin hangi doğru cevabı istediğini söyleyip söylemediğidir. Bu yüzden ilk düzeltme istemde aranır, modelde değil.

Modelin bir seferde görebildiği metin miktarı sınırlıdır; buna bağlam penceresi denir. Pencereye koyduğunuz her paragraf, ilgili olsun olmasın yer kaplar ve neyin önemli olduğu sorusunu zorlaştırır. "Her ihtimale karşı hepsini yapıştırayım" yaklaşımı bu yüzden sonucu iyileştirmek yerine bulanıklaştırabilir; ilgili bölümü seçmek de istem yazmanın parçasıdır.

İstemin dört parçası#

ParçaNe yazılırAtlanırsa ne olur
GörevYapılacak tek iş, fiille: özetle, sınıflandır, yeniden yazModel işi kendi tanımlar; özet isterken yorum gelir
Bağlamİşin girdisi, kimin için ve hangi soruyu cevaplamak için yapıldığıGenel geçer, sizin işinize oturmayan çıktı
KısıtUzunluk, dil, üslup, kullanılmayacak bilgi, emin olunamayan durumda ne yapılacağıHer denemede farklı uzunluk ve üslup; belirsiz kayıtlar sessizce tahmin edilir
Çıktı biçimiMadde listesi, tablo sütunları, alan adları, sıralamaHer cevap başka biçimde gelir; çıktılar birbiriyle karşılaştırılamaz
Dört parçanın tek bir istemde bulunması şart değil; eksik olanı ikinci turda eklemek de bir yöntemdir. Şart olan, düzeltmenin sonunda şablona geri yazılması.

Uygulamada: aynı işin iki yazımı#

text
Zayıf istem
-----------
Bu müşteri e-postalarını özetle.

Yapılandırılmış istem
---------------------
Görev: Aşağıdaki müşteri e-postalarını tek tek sınıflandır.
Bağlam: Destek ekibi haftalık toplantıda tekrar eden şikâyet
        başlıklarını konuşacak; amaç en sık üç başlığı görmek.
Kısıt: Yalnızca e-postada yazana dayan, çıkarım ekleme.
       Başlığa karar veremediğin kaydı "belirsiz" olarak işaretle.
Çıktı: Üç sütunlu tablo - kayit_no | baslik | belirsiz_mi (evet/hayir)

E-postalar:
<<buraya yapıştırılır>>

İkinci yazımda modelin kendi başına doldurabileceği alan kalmadı: neyin sınıflandırılacağı, neye dayanılacağı, emin olunamadığında ne yapılacağı ve çıktının hangi sütunlarla geleceği yazılı. Buradaki asıl kazanç "daha güzel metin" değil denetlenebilirlik: çıktı her seferinde aynı biçimde geldiği için yanlışı gözle bulabilir, iki denemeyi yan yana koyabilirsiniz.

Karar: şablonu nasıl oturturum?#

  1. 1İşi dört parçayla yaz

    Görev, bağlam, kısıt ve çıktı biçimini tek istemde topla; değişecek kısmı işaretle.

  2. 2Sonucunu bildiğin girdiyle dene

    Tüm veriyi değil, doğru cevabını zaten bildiğin birkaç örneği ver.

  3. 3Sapmaları not et

    Çıktının beklentinden ayrıldığı her nokta eksik bir kısıttır; tek tek yaz.

  4. 4Düzeltmeyi şablona taşı

    Düzeltmeyi sohbette söyleyip geçme; kısıt olarak isteme ekle, yoksa bir sonraki sefer kaybolur.

  5. 5Şablonu sabitle

    Değişen tek yeri açıkça ayır ve şablonu saklayacağın yeri belirle.

  • İş birden çok karar içeriyorsa (önce ayıkla, sonra sınıflandır, sonra yaz) her kararı ayrı tura bölün; tek turda hepsi istendiğinde hangi adımda yanlışlandığı görünmez.
  • Ara adımı görünür istemek doğruluğu garanti etmez; yazılan gerekçe de üretilmiş metindir, modelin cevaba gerçekte nasıl vardığının kaydı sayılmaz. Yine de denetimi ucuzlatır: "hangi cümleye dayandığını da yaz" dendiğinde o cümleyi kaynakta arayıp gerçekten öyle yazıp yazmadığına bakabilirsiniz.
  • Uzun belgede önce ilgili bölümü buldurup sonra işi yaptırmak, pencereyi ilgisiz metinle doldurmaktan daha temiz bir iş bölümüdür.
  • Çıktısı tek bakışta doğrulanabilen kısa işleri bölmeyin; bölmek gereksiz tur ve gereksiz denetim üretir.

Sık yapılan hata#

Sık görülen hata, isteme doğruluk talimatı eklemenin doğruluk üreteceğini sanmaktır. "Uydurma", "emin ol", "kaynak ver" cümleleri modelin kendinden emin bir dille yanlış yazmasını engellemez; model bilmediğini ayrı bir yerde tutmaz, olası bir devam üretmeye devam eder. Bu cümleler üslubu değiştirir, bilgiyi değiştirmez. İşe yarayan şey talimat değil, iş bölümüdür: doğrulaması sizde olan bilgiyi isteme siz koyarsınız.

LAB · UYGULAMALI ALIŞTIRMA

Tekrar eden bir işinizi şablona çevirin

  1. 1Haftada en az bir kez yaptığınız metin işlerinden birini seçin (toplantı notundan özet çıkarma, gelen talebi sınıflandırma, standart e-posta yazma).
  2. 2O iş için bugün modele ne yazıyorsanız onu olduğu gibi bir dosyaya kopyalayın; daha önce hiç istem yazmadıysanız ilk aklınıza gelen tek cümlelik isteği yazın. Bu sizin başlangıç ölçütünüz.
  3. 3Aynı işi dört parçayla yeniden yazın: görev, bağlam, kısıt, çıktı biçimi. Değişen tek yeri açıkça işaretleyin.
  4. 4Sonucunu zaten bildiğiniz üç gerçek girdiyi önce eski, sonra yeni istemle çalıştırın; çıktıları yan yana koyun.
  5. 5Her çıktıda elle düzeltmek zorunda kaldığınız noktaları sayın ve her birini yeni istemde bir kısıt cümlesine çevirin.
  6. 6Son hâli bir dosyaya kaydedin ve dosyanın başına şablonun hangi işte kullanılacağını tek cümleyle yazın.

Beklenen çıktı

Aynı iş için zayıf ve yapılandırılmış iki istemin aynı girdilerdeki karşılaştırması ve elle düzeltme noktaları kısıta çevrilmiş, saklanabilir bir istem şablonu.

Sık sorulan sorular

Modele "sen bir uzmansın" demek çıktıyı gerçekten değiştirir mi?

Rol cümlesi terim seçimini ve üslubu etkiler; modelin bildiğini değiştirmez. O cümleyi yazmak yerine o rolün bildiği kısıtı yazmak asıl işe yarayan kısımdır: hangi iç kurala göre, hangi okur için, hangi bilgi kullanılmadan. Rol tanımı bir kısıt listesinin kısaltması olarak işe yarar, sihirli bir anahtar olarak değil.

Aynı istem neden her seferinde aynı cevabı vermiyor?

Model bir sonraki birimi olasılık dağılımından seçer ve aynı girdi için birden çok makul devam vardır. Kelimesi kelimesine aynılık istiyorsanız yanlış yerden istiyorsunuz demektir; istenmesi gereken alan kararlılığıdır. Çıktı biçimini sabitleyin ve kabul ölçütünüzü kontrol listesi olarak yazın: cümleler değişse de alanlar ve kararlar karşılaştırılabilir kalır.

İstemi uzun yazmak iyi midir?

Belirleyici olan uzunluk değil ilgililik. Eklenen her ilgisiz paragraf bağlam penceresinde yer kaplar ve hangi kısmın önemli olduğunu ayırmayı zorlaştırır. Pratik kural: istemdeki her cümlenin çıktıda bir karşılığı olsun. Karşılığı olmayan cümleyi çıkarın; çıkardığınızda sonuç bozuluyorsa zaten gerekliymiş demektir.

LEARN

Yapay Zekâya Başlangıç rotasına devam et

Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.