Uyum dilinde sistem sınıfları
Bir sistemin kural tabanlı yazılım mı, öğrenen bir model mi, yoksa üretken bir model mi olduğunu çıktısının nasıl üretildiğine bakarak ayırmayı öğretir. Bu ayrım, sonraki her uyum kararının girdisidir.
BU DERSİN SONUNDA
- Bir sistemin çıktısını kuralın mı yoksa veriden öğrenilmiş parametrelerin mi ürettiğini ayırt etmek
- Aynı ürünün içindeki belirlenimci ve olasılıksal davranışları birbirinden ayırmak
- Sistem sınıfını doğrulayan dört soruyu teknik ekibe sorup cevabı kayda geçirmek
- Sistem sınıfı ile uyumda sorulacak ilk sorunun türünü eşleştirmek
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Uyum açısından belirleyici soru sistemin adı değil, çıktının nasıl üretildiğidir. Kural tabanlı bir sistemde çıktıyı insanın yazdığı koşullar üretir ve aynı girdi her zaman aynı çıktıyı verir. Makine öğrenmesinde karar ölçütünü insan değil, veriden türeten bir yordam yazar; ölçüt bazı model türlerinde kural gibi okunabilir, çoğunda okunamaz. Üretken bir modelde çıktı ayrıca serbest metin, görsel veya kod olarak yeniden üretilir; önceden tanımlı bir seçenek kümesinden seçilmez. Bu üç durum farklı belge, farklı test ve farklı gözetim gerektirir.
Teori: çıktıyı kim belirliyor?#
Kural tabanlı bir sistemde karar ağacını bir insan yazar. "Neden bu çıktı geldi" sorusunun cevabı koddan okunur, değişiklik sürüm kontrolünde görünür ve aynı girdi bir yıl sonra da aynı sonucu verir. Uyum tarafında bu sistemin asıl sorusu kararın nasıl alındığı değil, kural setini kimin hangi onayla değiştirdiğidir.
Makine öğrenmesinde karar ölçütünü kodu yazan kişi değil, eğitim yordamı belirler; ölçüt çoğu model türünde parametrelere dağılmıştır ve kod okunarak çıkarılamaz. Bu yüzden davranışın gerekçesi kodu okuyarak değil, ölçerek gösterilir. İkinci fark daha sinsi: girdi dağılımı eğitim verisinden uzaklaştığında sistem hata vermez, yalnızca sessizce isabetsizleşir. Bu yüzden öğrenen bir bileşenin uyum dosyasında her zaman bir ölçüm ve bir tazeleme sorusu bulunur.
Üretken modellerde çıktı kümesi kapalı değildir. Bir sınıflandırıcı "onay" veya "ret" derken üretken bir model gerekçe metnini kendisi yazar. Sınıflandırıcıda hata yanlış etikettir ve sayılabilir; üretken modelde hata, akıcı ve kendinden emin görünen yanlış bir cümle olabilir ve fark edilmesi çok daha zordur. Ayrıca aynı girdi iki farklı çıktı üretebilir; bu, test ve kanıt düzenini baştan değiştirir.
Uygulamada: aynı ürünün içinde üç sınıf#
| Davranış | Çıktıyı üreten | Aynı girdi aynı çıktı mı | Uyumda ilk sorulacak |
|---|---|---|---|
| Fatura alanlarını biçime göre doğrulama | İnsanın yazdığı kurallar | Evet | Kural seti kimin onayıyla değişiyor? |
| Başvuruları risk puanına göre sıraya dizme | Veriden öğrenilmiş model | Model sürümü sabitse evet | Eğitim verisi hangi popülasyondan geldi? |
| Müşteri mesajını konuya göre etiketleme | Veriden öğrenilmiş sınıflandırıcı | Model sürümü sabitse evet | Etiket kümesi ve hata maliyeti tanımlı mı? |
| Başvuru özetini metin olarak yazma | Üretken model | Hayır, çıktı çalıştırmadan çalıştırmaya değişebilir | Çıktı insana mı gidiyor, karara mı? |
| Özeti okuyup nihai kararı verme | İnsan | İlgisiz | Karar ve gerekçe hangi belgede tutuluyor? |
Karar: sınıfı nasıl doğrularsınız?#
- 1Çıktıyı görün
Sistemin tek bir gerçek çıktısını ham hâliyle isteyin; sunum slaytı veya ekran tanıtımı değil, kaydedilmiş çıktının kendisi.
- 2Seçenek kümesini sorun
Çıktı sonlu bir listeden mi seçiliyor, yoksa serbestçe mi üretiliyor? Cevap, sınıflandırıcı ile üretken modeli ayırır.
- 3Tekrarlanabilirliği deneyin
Aynı girdiyi iki kez verin ve iki çıktıyı yan yana koyun. Fark varsa örnekleme yapan üretken bir bileşen vardır. Birebir aynı çıkması belirlenimciliği kanıtlamaz; üretken bir model de çeşitlilik ayarı kapalıyken aynı çıktıyı verebilir, bu yüzden aynı çıktığında bir sonraki soruya geçin.
- 4Değişim yolunu sorun
Davranışı değiştirmek için kural mı yazılıyor, veri mi ekleniyor, model mi değiştiriliyor? Bu cevap sınıfı çoğu zaman tek başına belirler.
- 5Kararı yazın
Dört cevabı envanter kaydının sistem sınıfı alanına, gerekçesi ve cevabı veren kişiyle birlikte yazın.
Sık yapılan hata#
En yaygın hata, sınıflandırmayı satın alma belgesine bakarak yapmak. Sözleşmede "yapay zekâ destekli" yazması sistemin öğrenen bir bileşen içerdiğini kanıtlamaz; hiç geçmemesi de içermediğini göstermez. Uyum sınıfı pazarlama metninden değil, çıktının üretiliş biçiminden okunur. Bu yüzden doğrulama adımı bir belge okuma işi değil, bir çıktı inceleme işidir.
Bu ayrım kendi başına bir hedef değil; bir sonraki bölümde kuracağınız envanterin sütun tanımı. Sınıfı yanlış yazılmış bir kayıt, risk sınıflandırmasında da yanlış kovaya düşer ve yanlış belgeler istenir.
LAB · UYGULAMALI ALIŞTIRMA
Üç sistemi çıktısından sınıflandırın
- 1Kurumda hâlihazırda kullanılan üç özellik seçin: biri biçim doğrulaması yapan, biri sıralama veya etiketleme yapan, biri serbest metin üreten.
- 2Her biri için tek bir gerçek girdi hazırlayın ve çıktıyı kaydedin; aynı girdiyi ikinci kez verip iki çıktıyı yan yana koyun.
- 3Her özellik için dört soruyu yazılı cevaplayın: çıktı kümesi kapalı mı, iki çalıştırma birebir aynı mı, davranış nasıl değiştiriliyor, çıktı insana mı karara mı gidiyor.
- 4Cevaplara göre üç satırlık bir tablo doldurun: özellik adı, sistem sınıfı, tek cümlelik gerekçe.
- 5Tabloyu özelliği geliştiren veya satın alan kişiye gösterip sınıf atamasını teyit ettirin; itiraz varsa itirazı aynı satıra ekleyin.
Beklenen çıktı
Üç özellik için çıktı kanıtına dayanan ve ilgili ekip tarafından teyit edilmiş bir sistem sınıfı tablosu.
Sık sorulan sorular
Kural tabanlı bir sistem uyum kapsamı dışında mı kalır?
Hayır. Sistem sınıfı yükümlülüğü belirleyen tek etken değil: kişisel veri işleyen, otomatik karar üreten veya bireyi doğrudan etkileyen bir kural motoru da kapsam içindedir. Sınıf, hangi soruların sorulacağını ve hangi kanıtın isteneceğini değiştirir; kapsamı tek başına kaldırmaz.
Sistemin içinde hangi modelin çalıştığını bilmem gerekir mi?
Modelin mimarisini bilmeniz gerekmez. Bilmeniz gereken üç şey var: çıktının nasıl üretildiği, sistemin hangi veriyle beslendiği ve davranışın nasıl değiştirildiği. Üçü de teknik ekipten cevaplanabilir sorulardır ve envanter kaydını doldurmaya yeter.
Sağlayıcı kullandığı modeli paylaşmıyorsa ne yaparım?
Model adı yerine gözlemlenebilir davranışı kayda geçirin: çıktı biçimi, tekrarlanabilirlik, verinin işlendiği yer ve sürüm değişikliğinin bildirilip bildirilmediği. Bu maddeler tedarikçi incelemesinde açık madde olarak takip edilir; model adı olmadan da yükümlülük eşlemesi yapılabilir.
LEARN
AI Uyum Sorumlusu rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.