Yapay zekâ ne yapar, ne yapamaz
Üretken modellerin gerçekte yaptığı işi dört yetenek sınıfına indirger ve bir yetenek iddiasının nasıl yanlışlanabilir bir soruya çevrileceğini gösterir.
BU DERSİN SONUNDA
- Bir işin sınıflandırma, çıkarım, üretim veya eşleştirme sınıflarından hangisine düştüğünü ayırt etmek
- Bir modelin neyi bilemeyeceğini, denemeden önce söyleyebilmek
- Satıcı veya ekip iddiasını yanlışlanabilir tek bir soruya çevirmek
- Demo ile üretim arasındaki farkı gerekçelendirmek
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Bugün yapay zekâ denince kastedilen sistemlerin çoğu, örneklerden çıkarılmış örüntülere dayanarak bir sonraki en olası çıktıyı üretir. Bu yüzden iyi oldukları iş, doğru cevabın verideki örüntüden türetilebildiği iştir: sınıflandırmak, biçim değiştirmek, taslak üretmek, benzerini bulmak. Doğruluk garantisi, kurum verisine erişim ve sorumluluk kutunun içinden gelmez; bunları sistemi kuran kişi ekler.
Teori: kural yazmak yerine örnekten öğretmek#
Geleneksel yazılım kuralla çalışır: bir insan koşulu yazar, makine uygular. Makine öğrenmesi bunu tersine çevirir; kuralı örneklerden çıkarır. Bu, tanımı yazılamayan ama örneği gösterilebilen işleri otomatikleştirmeyi mümkün kılar. Ödünleşim de buradadır: karar gerekçesi bir kural kadar açık değildir ve sistem tek tek vakalarda doğruluk garantisi vermez; verideki örüntü kaydığında davranış da sessizce kayar.
Üretken modeller bu mantığın metin üzerindeki hâlidir: verilen bağlamın makul devamını üretirler. Ölçüt doğruluk değil olasılıktır. Akıcılık ile doğruluk aynı mekanizmadan gelmediği için, bir çıktı hem kusursuz yazılmış hem tamamen yanlış olabilir. Halüsinasyon bir arıza değil, aynı mekanizmanın istenmeyen yüzüdür.
Model, eğitim sırasında gördüğü genel dil ve dünya örüntüsünü taşır; sizin sözleşmenizi, stok durumunuzu veya dünkü kararınızı bilmez. Güncel kurum bilgisini cevaba taşımanın yolu, o bilgiyi cevap anında bağlama getirmektir. Modeli kendi metinlerinizle yeniden eğitmek üslup ve biçim gibi davranışları öğretir; güncel bilginin kaynağı olmaz.
Dört yetenek sınıfı#
| Sınıf | Model ne yapar | Kurumsal örnek | Doğrulama biçimi |
|---|---|---|---|
| Sınıflandırma | Girdiyi önceden tanımlı kümelere ayırır | Gelen talebi doğru ekibe yönlendirmek | Etiketli örnek seti üzerinde doğrudan ölçülür |
| Çıkarım ve dönüştürme | Yapısız metinden alan çıkarır, biçim değiştirir | Faturadan tutar, tarih ve satıcı okumak | Alan alan karşılaştırma yapılabilir |
| Üretim | Verilen bağlamdan yeni metin üretir | Taslak yanıt, özet, gerekçe metni | İnsan incelemesi veya kurallı kontrol gerekir |
| Eşleştirme ve arama | Anlamca yakın kayıtları getirir | Benzer geçmiş vakayı bulmak | İlgili kaydın ilk sonuçlar içinde olup olmadığı |
Kutunun içinden gelmeyenler#
- Kurum verisi: model sizin sisteminizdeki kaydı, siz bağlama koymadıkça göremez.
- Doğruluk garantisi: çıktı akıcı olduğu için doğru değildir; ikisi farklı şeylerdir.
- Kararlılık: üretken bir modelde aynı istek her zaman aynı cevabı vermez; sözleşme gibi metinlerde bu tek başına risktir.
- Sorumluluk: kararın hukuki ve ticari sahibi kurumdur; otomasyon yükümlülüğü devretmez.
- Güncellik: eğitim anındaki dünya ile bugünkü dünya aynı değildir; güncel bilgi dışarıdan verilir.
Karar: bir yetenek iddiasını sınamak#
- 1İşi sınıfa oturtun
İddia edilen iş sınıflandırma mı, çıkarım mı, üretim mi, eşleştirme mi? Sınıf, doğrulama biçimini belirler.
- 2Girdiyi sorun
Doğru cevap için gereken bilgi nerede duruyor ve sisteme hangi yolla ulaşıyor?
- 3Doğruyu tanımlayın
Bu işte doğru çıktıyı kim, hangi ölçütle onaylıyor? Cevap yoksa iddia sınanamaz.
- 4Yanlışı sorun
Sistem yanıldığında ne olur, kim fark eder, karar geri alınabilir mi?
- 5Kendi örneğinizle deneyin
Karşı tarafın seçtiği örnekle değil, sizin zor vakalarınızla çalıştırın.
Sık yapılan hata#
En sık hata, gösterimi kanıt saymaktır. Demo için seçilmiş girdiler temiz, tipik ve kısa olur; üretimde gelen işin önemli bir kısmı ise dağılımın kuyruğundadır: eksik belge, karışık biçim, iki dilli metin, istisna vaka. Aynı biçimde "doğruluk oranı" tek başına bir sayı değildir; hangi girdi kümesinde, kim tarafından ve hangi doğru tanımıyla ölçüldüğü söylenmeden anlamı yoktur.
LAB · UYGULAMALI ALIŞTIRMA
Beş iddiayı sınanabilir hale getirin
- 1Kurumunuzda son üç ayda konuşulan beş yapay zekâ fikrini veya satıcı iddiasını tek cümleyle yazın.
- 2Her birini dört yetenek sınıfından birine oturtun; oturmuyorsa fikri sınıfa oturana kadar yeniden ifade edin.
- 3Her iddia için doğru cevabın gerektirdiği bilginin nerede durduğunu yazın: modelin içinde mi, kurum sisteminde mi, hiçbir yerde mi?
- 4Her iddia için tek bir yanlışlama sorusu yazın: hangi sonucu görürsem bu fikrin çalışmadığını söylerim?
- 5Kendi arşivinizden, kolay olmayanları da içeren otuz örneklik (bu sayı varsayımdır) bir sınama listesi derleyin ve her örneğin yanına beklenen doğru çıktıyı yazın.
- 6Listeyi kimin, hangi araçla ve hangi geçme ölçütüyle koşturacağını tek satırda yazın; ölçüt sınama yapılmadan önce yazılmış olmalı.
Beklenen çıktı
Beş yapay zekâ iddiasının yetenek sınıfını, bilgi kaynağını ve yanlışlama sorusunu gösteren tek sayfalık sınama tablosu ile beklenen çıktıları ve geçme ölçütü yazılmış sınama listesi.
Sık sorulan sorular
Üretken yapay zekâ ile makine öğrenmesi aynı şey mi?
Makine öğrenmesi üst küme; üretken modeller onun içinde bir aile. Yönetici için pratik fark şu: klasik makine öğrenmesi genelde tek bir dar tahmin işi için kurulur ve ölçütü hazır gelir. Üretken modeller çok sayıda işi tek arayüzle yapar, bu yüzden neyin doğru sayılacağını siz tanımlamak zorundasınız.
Model kendi verimizle eğitilirse her şeyi bilir mi?
Hayır. Uyarlama üslup, biçim ve görev kalıbı gibi davranışları öğretir; güncel kayıtları taşımanın güvenilir yolu, cevap anında ilgili belgeyi bağlama getirmektir. Ayrıca eğitim verisinden parçalar çıktıya sızabilir; bu, ayrıca yönetilmesi gereken bir gizlilik riskidir.
Teknik olmayan bir yönetici bu değerlendirmeyi yapabilir mi?
Evet, çünkü sorular süreç sorusudur: bilgi nerede duruyor, doğruyu kim onaylıyor, yanlış olursa ne oluyor, geri alınabilir mi? Bu dördü model mimarisi bilgisi gerektirmez ve teknik ekibin tek başına cevaplayamayacağı sorulardır.
LEARN
Yöneticiler İçin Yapay Zekâ rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.