TEMSİLÎ VAKA · PERAKENDE
Müşteri yorumlarında konu ve duygu ayrıştırma
Ürün yorumları tek bir yıldız puanına indirgeniyordu; kargo gecikmesinden yakınan yorum ürünün puanını düşürüyor, kategori ekibi de "bu ürün neden düşük puanlı" sorusunu yorumları tek tek okuyarak cevaplıyordu. Konu etiketi olmadığı için yorumlar iade nedenleriyle eşleştirilemiyor, tedarikçiyle yapılan görüşmeye somut bir döküm götürülemiyordu. Hazır bir duygu sınıflandırıcısı denendi; Türkçe olumsuzluk ve ek yapısı yüzünden "fena değil" gibi ifadeleri ters tarafa koyduğu görülünce ekip çıktıya güvenmeyi bıraktı.
Beklenen etki
- Kapsam
- Yorumlar konu ve duygu olmak üzere iki eksende etiketli; kargo ve satıcı kaynaklı şikâyet ürün değerlendirmesinden ayrışıyor
- Ölçüm
- Model başarımı sınıf bazında ve değerlendirici uyumunun kurduğu üst sınırla birlikte okunuyor
- Denetim
- Ürün sayfasına yansıyan özetler düşük güvenli sınıflamalardan üretilmiyor; eşiğin altında kalan sınıflamalar insan kuyruğuna düşüyor
- Yönetim
- Yorum sahibinin silme talebi ham metnin yanında türetilmiş etiketleri ve özetleri de kapsıyor
Temsilî senaryo: buradaki satırlar ölçüm sonucu değil, bu kurulumda hangi büyüklüğün izlenmesi gerektiğini gösterir.
Bu kayıt gerçek bir müşteri işi değildir. Sinaptik Lab'in bu problemde izlediği yaklaşımı, mimari kararları ve ölçüm düzenini göstermek için yazılmış temsilî bir senaryodur: kurum adı taşımaz, içindeki hiçbir değer gerçek ölçüm değildir ve referans olarak gösterilemez. Gerçek projelerden vakalar müşteri onayı alındıkça bu kütüphaneye eklenir.
Problem
Ürün yorumları tek bir yıldız puanına indirgeniyordu; kargo gecikmesinden yakınan yorum ürünün puanını düşürüyor, kategori ekibi de "bu ürün neden düşük puanlı" sorusunu yorumları tek tek okuyarak cevaplıyordu. Konu etiketi olmadığı için yorumlar iade nedenleriyle eşleştirilemiyor, tedarikçiyle yapılan görüşmeye somut bir döküm götürülemiyordu. Hazır bir duygu sınıflandırıcısı denendi; Türkçe olumsuzluk ve ek yapısı yüzünden "fena değil" gibi ifadeleri ters tarafa koyduğu görülünce ekip çıktıya güvenmeyi bıraktı.
Yaklaşım
Çalışmanın ilk çıktısı bir model değil bir etiketleme kılavuzu oldu: konu (kargo, beden ve kalıp, malzeme, kurulum, fiyat, satıcı iletişimi) ile duygu iki ayrı eksen olarak tanımlandı ve bir yorumun aynı anda birden çok konuya farklı duyguyla bağlanabilmesi serbest bırakıldı. İki bağımsız etiketleyici aynı örnekleri etiketledi; uyuşmazlıklar modeli değil kılavuzu düzeltmek için kullanıldı ve altın küme ancak uyum kararlı hâle geldikten sonra dondurulup değerlendirmeye ayrıldı. Model tarafında dil modeliyle örneksiz sınıflama ile küçük ve ince ayarlı bir sınıflandırıcı yan yana ölçüldü; hacim ve gecikme nedeniyle sık sınıflar küçük modele, seyrek ve yeni doğan konular dil modeline bırakıldı. Kişisel veri, sınıflamaya girmeden önce maskelendi; aksi hâlde yorum metnindeki sipariş ve iletişim bilgileri model günlüklerine ve değerlendirme kümesine kopyalanacaktı.
Kullanılan teknolojiler
- Konu ve duygu için ayrı eksen
- Etiketleme kılavuzu ve değerlendirici uyumu
- Dondurulmuş altın küme
- Olumsuzluk ve ek duyarlı ön işleme
- Kişisel veri maskeleme
- Seyrek sınıflar için dil modeline geçiş
Bağlam, kurulum ve ölçüm
Problem ve yaklaşım özetin üstünde; burada kararların gerekçesi ve mimarinin ayrıntısı var.
Tek puanın gizlediği şey#
Perakendede bir yorum genellikle ürünü değil deneyimin tamamını anlatır: kargo, paketleme, satıcı iletişimi, beden uyumu ve ürünün kendisi tek metnin içinde iç içe geçer. Bunlar tek bir yıldız puanına indirildiğinde, tedarikçiyle yapılan bir kalite görüşmesine götürülecek somut bilgi kalmıyor. Kategori ekibi bu boşluğu yorumları elle okuyarak kapatıyor, ama örneklemi kendi seçtiği için gördüğü şey katalogun tamamı değil.
Teknik kısıt Türkçenin kendisiydi. Olumsuzluk eke gömülü, kip ve ima yaygın, ürün adları çekim alıyor; hazır ve çok dilli bir duygu sınıflandırıcısı bu yapılarda şaşırtıcı biçimde ters karar veriyor. Üstelik hatalar rastgele değil sistematikti: belirli kalıplarda hep aynı yöne sapıyordu, bu da düzeltmenin mümkün ama önce adlandırılması gereken bir iş olduğunu gösterdi.
Veri, maskeleme ve erişim#
Girdi, e-ticaret platformundaki ürün yorumları ile müşteri hizmetleri kayıtlarının yorum benzeri kısmıydı. İkisi aynı havuza konmadı: müşteri hizmetleri kaydı sipariş kimliğiyle doğrudan ilişkili olduğu için çok daha hassas ve ayrı bir erişim rejiminde tutuldu. Maskeleme hattın en başına, sınıflama çağrısından önceye yerleştirildi; sonradan maskelemek, veriyi zaten kopyalamış olmak anlamına geliyor.
- Sınıflamaya giren: yorum metni (maskelenmiş), ürün kategorisi, yıldız puanı, doğrulanmış satın alma bayrağı
- Sınıflamaya girmeyen: yorum sahibinin adı, üyelik bilgisi, sipariş kimliği, adres alanları
- Maskelenen kalıplar: telefon, e-posta, sipariş ve takip numarası, kart parçaları, açık adres ifadeleri
- Ayrı rejimde tutulan: müşteri hizmetleri yazışmaları ve iade açıklamaları
- Silme akışı: yorum silindiğinde türetilmiş etiketler, özetler ve değerlendirme kümesindeki kopya birlikte düşüyor
Mimari kararlar#
Model seçimi burada ikinci derece bir konuydu; birinci derece konu etiket şemasıydı. Şema yanlış kurulduğunda hangi model kullanılırsa kullanılsın çıktı işe yaramıyor, çünkü ölçüm de aynı yanlış şemayla yapılıyor. Bu yüzden kararlar önce tanım ve kılavuz düzeyinde, sonra mimari düzeyde verildi.
| Karar | Seçilen yol | Neden |
|---|---|---|
| Etiket şeması | Konu ve duygu ayrı eksen, çoklu etiket serbest | Tek etikete zorlamak aynı yorumdaki çelişkili bilgiyi yok ediyor |
| Kılavuz | Uyuşmazlık örnekleriyle yazılan tanımlar | Soyut sınıf adları iki etiketleyiciye iki farklı şey ifade ediyor |
| Altın küme | Uyum kararlı hâle gelince donduruldu | Küme değişmeye devam ederse sürümler arası karşılaştırma anlamsız |
| Model dağılımı | Sık sınıf küçük modelde, seyrek sınıf dil modelinde | Hacim ve gecikme ile seyrek sınıf başarımı aynı çözümle karşılanmıyor |
| Olumsuzluk | Kalıp listesiyle desteklenen ön işleme | Ek ve kalıp kaynaklı hatalar sistematik, yani adreslenebilir |
| Maskeleme | Sınıflamadan önce, hattın girişinde | Sonradan maskelemek veriyi çoktan kopyalamış olmak demek |
Hassas veri ve moderasyon yetkisi#
Yorum moderasyonunda yayından kaldırma yetkisi modele hiç verilmedi; model yalnızca sıralama ve işaretleme yapıyor, kaldırma kararını moderatör veriyor ve karar gerekçesiyle kayda geçiyor. Bunun nedeni yalnızca hata payı değil, kaldırma işleminin ifade ve tüketici şikâyeti boyutunun bulunması. Özetleme tarafında ise ürün sayfasına çıkan metinler yalnızca yeterli sayıda yorumu olan ve güven eşiğini geçen sınıflamalardan üretiliyor.
Ölçüm düzeni#
- Sınıf bazlı hata dökümü; seyrek sınıflar toplam ortalamanın içinde saklanmıyor
- Değerlendirici uyumu düzenli yeniden hesaplanıyor ve modelin üst sınırı olarak raporlanıyor
- Olumsuzluk kalıpları için ayrı bir zor örnek kümesi tutuluyor
- "Diğer" sınıfının payı kayma göstergesi olarak izleniyor; büyümesi yeni konu açma sinyali
- Maskeleme denetimi: hattın girişinden geçen örneklemde kişisel veri kalıntısı ayrıca aranıyor
Devreye alma#
- 1Kılavuz ve çift etiketleme
Sınıf tanımları uyuşmazlık örnekleriyle yazıldı; iki etiketleyici aynı örneklemi bağımsız etiketledi ve tanımlar uyum kararlı hâle gelene kadar düzeltildi.
- 2İç panoda kullanım
İlk kullanım yalnızca kategori ekibinin iç panosuydu; müşteriye görünen hiçbir yüzeye dokunulmadı, hatalar düşük maliyetle toplandı.
- 3İade nedenleriyle eşleme
Konu etiketleri iade nedeni kodlarıyla karşılaştırıldı; tutarsızlıklar hem etiket şemasını hem iade kodlarının kullanımını düzeltti.
- 4Sınırlı müşteri yüzeyi
Ürün sayfasındaki konu özetleri yalnızca yeterli yorum hacmi ve güven eşiği olan kartlarda açıldı; diğerlerinde bölüm hiç gösterilmiyor.
Nerede yanıldık#
İlk yanılgı, sınıf listesini masa başında yazmaktı. Kategori ekibinin sezgisiyle kurulan liste sahadaki şikâyetlerin bir bölümünü hiç karşılamıyordu ve model, karşılığı olmayan yorumları en yakın sınıfa doldurarak tablonun yanlış görünmesine sebep oldu. İkinci yanılgı, altın kümeyi erken dondurmaktı: kılavuz hâlâ değişirken donan küme, sonraki düzeltmeleri gerileme gibi gösterdi. Üçüncüsü, yorum metnini "kamuya açık, o hâlde hassas değil" saymaktı; yorumun kendisi görünür olsa da içindeki sipariş ve iletişim bilgilerinin model günlüklerine taşınması ayrı bir işleme faaliyeti ve ayrı bir sorumluluktur.
Bir sonraki projede ne değişir?
Bir vakanın en değerli bölümü sonuç değil, tekrar edilebilir dersidir.
- 01
Değerlendirici uyumu modelin başarımının üst sınırıdır. İki insan aynı yoruma farklı konu verdiği sürece modelin o sınıfta iyi görünmesi ölçüm hatasıdır; kılavuzdaki tanım keskinleşmeden model tarafında yapılan değişiklikler ölçümde birbirinden ayırt edilemiyordu.
- 02
Türkçe olumsuzluk yalnızca "değil" demek değildir: "fena değil", "beklediğim gibi çıkmadı", "alınmaz denmez" gibi kalıplar ayrı ele alınmadığında sınıflandırıcı yüzeydeki olumsuz sözcüğe takılıyor. Bu kalıpların listesi baştan tahmin edilemedi, sahadaki hatalardan çıkarıldı.
- 03
Aynı yorumda iki eksen çatışabiliyor: ürün için olumlu, satıcı için olumsuz bir yorum tek etikete zorlandığında bilgi yok oluyor. Çoklu etiket raporlamayı zorlaştırsa da kaçınılmazdı.
- 04
Yorum metni beklenmedik biçimde kişisel veri taşıyor: sipariş numarası, telefon, kargo takip kodu, hatta adres parçası. Maskeleme sınıflamadan önce yapılmazsa bu veriler istem günlüklerine ve altın kümeye yayılıyor ve sonradan toplamak imkânsıza yakın.
- 05
Etiket dağılımı zamanla kayıyor; kargo firması değişikliği ya da yeni bir kampanya yeni bir şikâyet konusu doğuruyor. Sabit sınıf listesi birkaç ay sonra gerçeği tanımlamaz oluyor, "diğer" sınıfının büyümesini izlemek en erken uyarıyı verdi.
Vaka kütüphanesinden
- EğitimDers materyali üretiminde telif ve kaynak zinciriBir eğitim içeriği ekibinin slayt, çalışma kâğıdı ve ders notu arşivi yıllar içinde karışık kaynaklardan büyümüştü: internetten alınmış görseller, yabancı kitaplardan çevrilmiş paragraflar, farklı lisanslarla dolaşan açık ders materyalleri. Bir hak sahibi itiraz ettiğinde hangi paragrafın nereden geldiğini kimse söyleyemiyor; arama dosya adına ve ekip hafızasına kalıyordu. Model destekli üretim devreye girdikten sonra bu belirsizlik büyüdü, çünkü üretilen metnin dayandığı kaynak hiçbir yerde yazılı olmuyordu. Ekipte yaygın olan eğitim amaçlı kullanım serbesttir varsayımı da hiç denetlenmemiş bir varsayımdı.
- EğitimÖdeve biçimlendirici geri bildirim üretimiBir özel okul grubunda dil ve sosyal bilimler öğretmenleri her hafta çok sayıda yazılı ödev okuyordu; not zamanında giriliyordu ama öğrenciye dönen şey bir puan ile kısa bir genel yorumdu. Hangi öğrencinin hangi rubrik ölçütünde tekrar tekrar zorlandığı hiçbir yerde toplu olarak durmuyordu; öğretmen bunu kendi defterindeki izlenimden hatırlıyordu. Geri bildirim yazma işi mesai dışına taştığı için dönem başındaki ödevlerde ayrıntılı, dönem sonuna doğru tek cümleye inen bir kalite farkı oluşuyordu. Velinin gördüğü tabloda puan vardı, gerekçe yoktu.
- EğitimÖğrenci risk modelinde etik sınırlarBir yükseköğretim kurumunda akademik danışmanlar, dersi bırakma ya da kayıt yenilememe riski taşıyan öğrencilere ulaşmayı sezgiyle yapıyordu: yokluğu fark edilen öğrenciye yazılıyor, fark edilmeyen kimseye görünmüyordu. Devam bilgisi, ödev teslimleri ve öğrenme yönetim sistemi hareketleri ayrı sistemlerde durduğu için kimse bunları tek bir öğrenci için yan yana koymuyordu. Danışmanın haftada yapabileceği görüşme sayısı sınırlıydı ama bu sınırın kime harcandığı hiçbir kayıtta yoktu. Risk modeli gündeme geldiğinde ilk itiraz teknik değildi: skor öğrenciye yapışan bir etikete dönerse ne olacağı soruldu.
BUILD
Aynı yaklaşımı kurumunuzda kurmak ister misiniz?
Discovery oturumunda mevcut durumunuzu, veri erişiminizi ve başarı tanımınızı birlikte yazıyoruz.
