Veriden örüntü çıkarma ve genelleme
Makine öğrenmesinin çekirdek döngüsünü ve asıl hedefi olan genellemeyi öğretir; bir tahmin probleminin nasıl kurulacağını ve başarının nerede ölçüleceğini gösterir.
Önkoşul: Artificial Intelligence
BU DERSİN SONUNDA
- Ezberleme ile genellemeyi ölçüm üzerinden ayırt etmek
- Bir iş sorusunu girdi, hedef ve başarı ölçütü olarak yeniden kurmak
- Veriyi eğitim, doğrulama ve sınama kümelerine sızıntı üretmeden ayırmak
- Doğruluk yerine işin hata maliyetine uygun metriği seçmek
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Makine öğrenmesi, doğru cevabı bilinen örneklere bakarak girdiyi cevaba bağlayan bir işlevi ayarlamaktır. Asıl hedef eldeki örnekleri doğru cevaplamak değil, hiç görülmemiş örneklerde de doğru cevap vermektir; buna genelleme denir. Bu yüzden bir modelin değeri eğitildiği veride değil, eğitilirken görmediği veride ölçülür.
Teori: ezberleme ile genelleme#
Öğrenme döngüsü üç parçadan oluşur: bir tahmin işlevi, tahminin ne kadar yanlış olduğunu söyleyen bir hata ölçüsü ve hatayı azaltacak yönde işlevi oynatan bir düzeltme adımı. Sistem örnekleri küme küme görür, her seferinde hatasını hesaplar ve ayarlarını biraz değiştirir. Öğrenme dediğimiz şey bu döngünün tekrarından ibarettir.
Bu döngünün doğal eğilimi ezberlemektir. Yeterince esnek bir işlev, eğitim örneklerinin her birini tek tek doğru cevaplayacak kadar kendini kıvırabilir; tıpkı konuyu öğrenmeden cevap anahtarını ezberlemek gibi. Böyle bir model eğitim verisinde neredeyse kusursuz görünür, yeni bir örnek geldiğinde çöker. Buna aşırı uyum denir.
Ters uç da vardır: işlev problemi taşıyamayacak kadar basitse örüntüyü hiç yakalayamaz ve hem eğitimde hem yeni veride kötü kalır. İyi bir kurulum bu ikisinin arasını bulur. Ama arayı gözle değil, modelin hiç görmediği bir veri parçasında ölçerek bulursunuz; bu yüzden veriyi baştan ayırmak, öğrenmenin kendisi kadar belirleyici bir adımdır.
Uygulamada: öğrenme problemini kurmak#
| İş sorusu | Öğrenme problemi | Girdi | Hedef |
|---|---|---|---|
| Bu müşteri ayrılacak mı? | İkili sınıflandırma | Hesap geçmişi, kullanım verisi | Ayrıldı / ayrılmadı etiketi |
| Bu dilekçe hangi birime gider? | Çok sınıflı sınıflandırma | Dilekçe metni | Birim adı |
| Bu evin satış fiyatı ne olur? | Regresyon | Konum, alan, yaş | Gerçekleşen satış fiyatı |
| Bu işlem şüpheli mi? | Aykırılık tespiti | İşlem kaydı | Olağan kalıptan sapma |
| Müşterilerim kaç gruba ayrılıyor? | Kümeleme | Davranış verisi | Etiket yok; gruplar veriden çıkar |
Veriyi ayırmak#
- 1Ayırmayı önce yapın
Veriyi eğitim, doğrulama ve sınama diye üçe bölün; sınama kümesine kurulumu bitirene kadar dokunmayın.
- 2Zamanı gözetin
Veri zamana bağlıysa rastgele değil tarihe göre bölün: geçmişle eğitip gelecekte ölçün.
- 3Sızıntıyı kesin
Aynı müşteriye veya aynı belgeye ait kayıtlar iki kümeye birden düşmemeli; düşerse ezberi genelleme sanırsınız.
- 4Ayarları doğrulamada yapın
Model seçimi, eşik ayarı ve karşılaştırmalar doğrulama kümesinde yapılır.
- 5Sınamayı bir kez kullanın
Sınamada ölçüp sonra ayar değiştirirseniz o küme artık temiz değildir.
Başarıyı doğru ölçmek#
- Doğruluk tek başına yanıltıcıdır: nadir görülen bir durumda 'hepsine hayır' diyen model yüksek doğruluk alır ve hiçbir işe yaramaz.
- Kesinlik, modelin 'evet' dediklerinin ne kadarının gerçekten evet olduğunu söyler; yanlış alarmın bedeli yüksekse buna bakın.
- Duyarlılık, gerçek 'evet'lerin ne kadarını yakaladığınızı söyler; kaçırmanın bedeli yüksekse buna bakın.
- Eşik bir modelleme değil iş kararıdır: aynı model, eşiği kaydırınca kesinlik veya duyarlılık lehine ayarlanır.
- Karşılaştırma tabanı olmadan hiçbir sayı anlamlı değildir; en basit kuralın (örneğin 'her zaman en sık sınıf') skorunu da ölçün.
Sık yapılan hata#
En sık görülen hata, başarıyı modelin gördüğü veride ölçüp sevinmektir. İkinci sırada veri sızıntısı gelir: hedefle aynı anda oluşan bir alanı girdiye koymak. Örneğin 'iptal nedeni' alanı dolu olan kayıtlarla iptali tahmin etmek. Model harika görünür, çünkü cevabı girdinin içinden okumuştur; üretimde tahmin anında o alan boş olacağı için sistem çalışmaz.
LAB · UYGULAMALI ALIŞTIRMA
Bir tahmin problemini kâğıt üzerinde kurun
- 1Elinizdeki bir tabloyu (satış kaydı, destek kaydı, başvuru listesi) açın ve tahmin etmek istediğiniz tek bir sütunu hedef olarak seçin.
- 2Girdi olarak kullanacağınız sütunları listeleyin; her biri için 'tahmin anında bu değer gerçekten elimde olur mu?' sorusunu yanıtlayıp olmayanları çıkarın.
- 3Kayıtları tarihe göre sıralayıp son beşte birini sınama, ondan önceki beşte birini doğrulama olarak ayırın.
- 4Hedef sütununun dağılımını sayın ve en sık değerin oranını yazın; bu sizin karşılaştırma tabanınızdır.
- 5Yanlış pozitif ile yanlış negatifin iş maliyetini birer cümleyle yazıp hangi metriği önemseyeceğinize önceden karar verin.
Beklenen çıktı
Hedef, sızıntıdan arındırılmış girdi listesi, zamana göre bölünmüş üç küme ve önceden ilan edilmiş bir başarı ölçütünden oluşan tek sayfalık problem tanımı.
Sık sorulan sorular
Eğitim ve sınama sonuçları arasındaki fark ne kadar olursa sorun sayılır?
Sabit bir eşik yok; kararı farkın büyüklüğüne değil, sınama sonucunun iş eşiğinizi geçip geçmediğine bakarak verin. Eğitimde çok yüksek ama sınamada eşiğin altında kalan model aşırı uyum göstermiştir; ikisinin de eşiğin altında kalması kurulumun fazla basit olduğunu ya da girdilerin hedefi taşımadığını gösterir.
Etiketleri kim üretir?
Çoğu projede en pahalı kalem budur. Ya geçmişte doğal olarak biriken kayıtları kullanırsınız (kapanmış talepler, gerçekleşen satışlar) ya da insanlar elle etiketler. İkinci durumda etiketleyenler arasındaki anlaşmazlık modelin ulaşabileceği tavanı belirler: insanların hemfikir olmadığı bir ayrımı model de öğrenemez.
Daha çok veri her zaman daha iyi model demek mi?
Hayır. Aynı dağılımdan gelen tekrarlı veri bir noktadan sonra az şey ekler; asıl kazanç, modelin şimdiye kadar görmediği durumları içeren veriden gelir. Veriyi büyütmeden önce hangi durumlarda hata yaptığınıza bakın.
LEARN
Yapay Zekâya Başlangıç rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.