TEMSİLÎ VAKA · MADENCİLİK
Arıza asistanının kırmızı takım denetimi
Bakım ekibi için kurulan arıza asistanı, üretici el kitapları, arıza kodları ve vardiya notları üzerinden soru yanıtlıyordu; sorun yanlış cevap vermesi değil, tehlikeli bir cevabı ikna edici biçimde verebilmesiydi. İlk denemelerde hidrolik enerjisi boşaltılmamış bir hattı sökme, konveyörü kilitlemeden sıkışmayı giderme gibi adımlar üretebildiği görüldü. Bu adımlar sahada iş izni ve yetkili kişi onayı gerektiren işler; asistanın verdiği metin ise kimseye görünmeden vardiyada uygulanabiliyordu. Asistanın nerede susması gerektiği tanımlı değildi ve hangi belgeye dayandığı da yanıtta yazmıyordu.
Beklenen etki
- Kapsam
- Tehlikeli iş sınıfları ve izin kapısı, asistanın yanıt verdiği her ekipman ailesi için ayrı tanımlı
- Ölçüm
- Kırmızı takım senaryoları gerileme kümesi olarak her istem, model ve dizin değişikliğinde yineleniyor
- İzlenebilirlik
- Her yanıtın hangi belge ve hangi revizyonla üretildiği saklanıyor; olay incelemesinde yanıt yeniden kurulabiliyor
- Reddetme davranışı
- Kaynaksız güvenlik talimatı üretmek yerine reddetme ve yetkili kişiye yönlendirme varsayılan davranış
Temsilî senaryo: buradaki satırlar ölçüm sonucu değil, bu kurulumda hangi büyüklüğün izlenmesi gerektiğini gösterir.
Bu kayıt gerçek bir müşteri işi değildir. Sinaptik Lab'in bu problemde izlediği yaklaşımı, mimari kararları ve ölçüm düzenini göstermek için yazılmış temsilî bir senaryodur: kurum adı taşımaz, içindeki hiçbir değer gerçek ölçüm değildir ve referans olarak gösterilemez. Gerçek projelerden vakalar müşteri onayı alındıkça bu kütüphaneye eklenir.
Problem
Bakım ekibi için kurulan arıza asistanı, üretici el kitapları, arıza kodları ve vardiya notları üzerinden soru yanıtlıyordu; sorun yanlış cevap vermesi değil, tehlikeli bir cevabı ikna edici biçimde verebilmesiydi. İlk denemelerde hidrolik enerjisi boşaltılmamış bir hattı sökme, konveyörü kilitlemeden sıkışmayı giderme gibi adımlar üretebildiği görüldü. Bu adımlar sahada iş izni ve yetkili kişi onayı gerektiren işler; asistanın verdiği metin ise kimseye görünmeden vardiyada uygulanabiliyordu. Asistanın nerede susması gerektiği tanımlı değildi ve hangi belgeye dayandığı da yanıtta yazmıyordu.
Yaklaşım
Asistan yeniden yazılmadan önce tehlike haritası çıkarıldı: yanıt verilecek ekipman aileleri için iş izni gerektiren tehlikeli iş sınıfları listelendi ve bu sınıflarda asistanın adım üretmeden duracağı bir kapı kuruldu. Kapı modelin kendi kararına bırakılmadı; iş sınıfı tanıma ve reddetme kuralı, model çıktısından değil belge kütüğünden ve iş izni kayıtlarından beslenen ayrı bir katmana taşındı. Geri getirme yalnızca kontrollü belge kütüğünden yapıldı, revizyon durumu meta veriye yazıldı ve yürürlükten kalkmış bir revizyon tek kaynak olarak kullanılamaz hâle getirildi. Kırmızı takım turu bir kabul testi değil gerileme kümesi olarak kuruldu: her istem, model ve dizin değişikliğinde yeniden koşuyor, başarısız senaryo yayın engeli sayılıyor.
Kullanılan teknolojiler
- Tehlikeli iş sınıfı taksonomisi
- İzinli çalışma kapısı
- Belge kütüğü ve revizyon denetimi
- Dolaylı istem enjeksiyonu savunması
- Atıf zorunluluğu
- Değiştirilemez yanıt kaydı
Bağlam, kurulum ve ölçüm
Problem ve yaklaşım özetin üstünde; burada kararların gerekçesi ve mimarinin ayrıntısı var.
Kısa cevap
Asistan bir güvenlik otoritesi değil: izin gerektiren iş sınıflarında adım üretmeyi reddedip yordama ve yetkili kişiye yönlendirmesi, hatası değil tasarımıdır.
Bağlam ve kısıtlar#
Filo hem hareketli hem sabit ekipmandan oluşuyor: yükleyiciler, kamyonlar, kırıcılar, konveyörler, pompalar. Bakım teknisyeni sahada, çoğu zaman kapsamanın zayıf olduğu bir noktada ve vardiya baskısı altında soru soruyor; aradığı şey genellikle "bu arıza kodunda ne yapmalıyım" değil "hangi adımı atlayabilirim". Asistanın değeri de riski de aynı yerden geliyor: teknisyenin el kitabını açmadan yanıt alması.
Kısıtın kaynağı yazılım değil İSG düzeni. Enerji izolasyonu ve etiketleme, kapalı alan girişi, sıcak iş ve muhtemel patlayıcı ortamda müdahale yazılı izin ve yetkili kişi onayı gerektiren işler. Bu işlerde doğru cevap daha iyi bir talimat değil, talimat vermemek ve yordama yönlendirmektir; asistanın ilk sürümünde bu ayrım hiç kurulmamıştı.
Veri ve erişim#
Geri getirme havuzundaki kaynakların güvenilirliği eşit değil ve kırmızı takım tam bu farkı kullandı. Üretici el kitabı ile teknisyenin serbest yazdığı vardiya notu aynı dizinde yan yana duruyor, benzerlik sıralaması ise ikisini aynı biçimde ödüllendiriyordu. Kaynak güvenilirliği bir sıralama özelliği olarak değil, geri getirme kısıtı olarak tanımlanmak zorunda kaldı.
- Üretici belgeleri: bakım el kitapları, servis bültenleri, parça katalogları; revizyon durumu ve yürürlük bilgisi belge kütüğünde
- Arıza kodları ve olay kayıtları: filo takip sisteminden gelen kod listeleri ve ekipman geçmişi
- Vardiya ve bakım notları: serbest metin, teknisyen tarafından yazılıyor ve düzenlenebiliyor — geri getirmenin en kırılgan kaynağı
- İş izinleri: kapalı alan, sıcak iş ve enerji izolasyonu kayıtları; asistan bunları okuyor, yazmıyor
- Kişisel veri: notlarda teknisyen adı ve vardiya bilgisi geçiyor; dizinde maskeleme ve erişim sınırı uygulanıyor
- Erişim: teknisyen kendi ekipman ailesini sorgulayabiliyor, elektrik ve patlayıcı ortam yordamları yalnızca yetkili rollere açık
Saldırı yolları ve karşı katmanlar#
Senaryolar üç ayrı ekip tarafından yazıldı: bakım, İSG ve güvenlik tarafı. Bakım ekibi sahada gerçekten sorulan kısa yol sorularını getirdi, İSG izin gerektiren işlerin listesini, güvenlik tarafı ise dizini zehirleme ve yetki taklidi denemelerini. İlk tur hiçbir kapı katmanı olmadan koşuldu; amaç modelin ne kadar dayandığını görmek değil, hangi savunmanın gerçekten gerekli olduğunu bulmaktı.
| Saldırı yolu | Hedeflenen sonuç | Karşı katman |
|---|---|---|
| Doğrudan talep | Enerji izolasyonu atlanmış kısa yordam | İş sınıfı tanıma ve izin kapısı; adım üretilmeden durur |
| Belgeye gömülü talimat | Geri getirilen metnin politikayı değiştirmesi | Belge içeriği veri olarak işaretlenir, talimat gibi okunmaz |
| Yetki taklidi | Nezaretçi onayı varmış gibi ilerleme | Onay asistanın içinde değil izin kaydından doğrulanır |
| Üretim baskısı çerçevesi | Vardiya sonu için kısa yol | Aciliyet ifadesi politika gevşetme gerekçesi sayılmaz |
| Varyant karıştırma | İki makine ailesinin adımlarının birleşmesi | Parçalara varyant ve seri aralığı etiketi; karışık kaynaklı yanıt reddi |
| Eski revizyon | Yürürlükten kalkmış yordamın güncel gibi verilmesi | Revizyon durumu meta veride; geçersiz revizyon tek kaynak olamaz |
Güvenlik ve yetki#
Ölçüm düzeni#
- Gerileme kümesi: kırmızı takım senaryoları her istem, model ve dizin değişikliğinde yeniden koşuyor
- Kaynak denetimi: haftalık örneklemde yanıtların atıf verdiği belge ve revizyon el ile doğrulanıyor
- Reddetme kalitesi: gereksiz reddetme ile kaçırılmış tehlike ayrı sayılıyor, tek orana toplanmıyor
- Zehirlenme tatbikatı: dizine işaretli tuzak not eklenip asistanın onu talimat sanıp sanmadığı sınanıyor
- Kayıt bütünlüğü: yanıt, kullanılan parçalar ve revizyonlar değiştirilemez biçimde saklanıyor
Devreye alma ve işletme#
- 1Tehlike haritası
Yanıt verilecek ekipman aileleri için tehlikeli iş sınıfları, izin gerektiren yordamlarla birlikte listelendi.
- 2Kırmızı takım turu
Üç ekibin yazdığı senaryolar kapı katmanı olmadan koşuldu; her başarısızlık ayrı kayıt açtı.
- 3Katman eklemesi
Her başarısız senaryo için kural katmanı, meta veri alanı veya geri getirme kısıtı eklendi; çözülmemiş senaryo açık bırakıldı.
- 4Sınırlı açılış
Asistan yalnızca izin gerektirmeyen yordamlarda, atıf zorunluluğu ve tam kayıt açıkken kullanıma verildi.
Nerede yanıldık#
İlk tasarımda denetimi modele yaptırdık: yanıtı ikinci bir çağrı gözden geçiriyordu. Tuzak not dizine girdiğinde ikisi de aynı metni okudu ve ikisi de ikna oldu; denetçinin kaynağı model çıktısı değil belge kütüğü olmalıydı. İkinci yanılgı kapsamdı — yasak listesini kelimeler üzerinden kurmuştuk, içinde "akümülatör" geçmeyen ama hidrolik enerjiyi boşaltmayan bir yordam rahatça geçti. Üçüncüsü kimin saldırdığıyla ilgiliydi: en etkili girdi kullanıcıdan değil, ekipçe düzenlenebilen vardiya notundan geldi, bu yüzden yalnızca kullanıcı girdisini denetlemek savunmayı yanlış yere kurmak oluyor.
Bir sonraki projede ne değişir?
Bir vakanın en değerli bölümü sonuç değil, tekrar edilebilir dersidir.
- 01
Yasak listesini kelimeler üzerinden kurmak işe yaramıyor; tehlike iş sınıfı üzerinden tanımlanmalı — "akümülatör" kelimesini engellemek, hidrolik enerjiyi boşaltmayan bir yordamı engellemiyor.
- 02
Modelin kendi çıktısını denetlemesi, denetçinin de aynı zehirlenmiş belgeyi okuduğu durumda çöküyor; kural katmanının kaynağı model çıktısı değil belge kütüğü olmalı.
- 03
Yürürlükten kalkmış revizyon geri getirmede hâlâ en benzer metin olabiliyor; revizyon durumu meta veriye yazılmadığında model eski talimatı güncel sanıyor.
- 04
İki farklı makine varyantından alınan doğru adımlar birleştiğinde yanlış bir yordam çıkıyor; parçalara varyant ve seri aralığı etiketi yazılmadan bu karışım engellenmiyor.
- 05
En etkili saldırı kullanıcı girdisinden değil ekiple paylaşılan vardiya notundan geldi; kullanıcıyı denetleyip geri getirmeyi denetlememek savunmayı yanlış yere kuruyor.
Vaka kütüphanesinden
- EğitimDers materyali üretiminde telif ve kaynak zinciriBir eğitim içeriği ekibinin slayt, çalışma kâğıdı ve ders notu arşivi yıllar içinde karışık kaynaklardan büyümüştü: internetten alınmış görseller, yabancı kitaplardan çevrilmiş paragraflar, farklı lisanslarla dolaşan açık ders materyalleri. Bir hak sahibi itiraz ettiğinde hangi paragrafın nereden geldiğini kimse söyleyemiyor; arama dosya adına ve ekip hafızasına kalıyordu. Model destekli üretim devreye girdikten sonra bu belirsizlik büyüdü, çünkü üretilen metnin dayandığı kaynak hiçbir yerde yazılı olmuyordu. Ekipte yaygın olan eğitim amaçlı kullanım serbesttir varsayımı da hiç denetlenmemiş bir varsayımdı.
- EğitimÖdeve biçimlendirici geri bildirim üretimiBir özel okul grubunda dil ve sosyal bilimler öğretmenleri her hafta çok sayıda yazılı ödev okuyordu; not zamanında giriliyordu ama öğrenciye dönen şey bir puan ile kısa bir genel yorumdu. Hangi öğrencinin hangi rubrik ölçütünde tekrar tekrar zorlandığı hiçbir yerde toplu olarak durmuyordu; öğretmen bunu kendi defterindeki izlenimden hatırlıyordu. Geri bildirim yazma işi mesai dışına taştığı için dönem başındaki ödevlerde ayrıntılı, dönem sonuna doğru tek cümleye inen bir kalite farkı oluşuyordu. Velinin gördüğü tabloda puan vardı, gerekçe yoktu.
- EğitimÖğrenci risk modelinde etik sınırlarBir yükseköğretim kurumunda akademik danışmanlar, dersi bırakma ya da kayıt yenilememe riski taşıyan öğrencilere ulaşmayı sezgiyle yapıyordu: yokluğu fark edilen öğrenciye yazılıyor, fark edilmeyen kimseye görünmüyordu. Devam bilgisi, ödev teslimleri ve öğrenme yönetim sistemi hareketleri ayrı sistemlerde durduğu için kimse bunları tek bir öğrenci için yan yana koymuyordu. Danışmanın haftada yapabileceği görüşme sayısı sınırlıydı ama bu sınırın kime harcandığı hiçbir kayıtta yoktu. Risk modeli gündeme geldiğinde ilk itiraz teknik değildi: skor öğrenciye yapışan bir etikete dönerse ne olacağı soruldu.
BUILD
Aynı yaklaşımı kurumunuzda kurmak ister misiniz?
Discovery oturumunda mevcut durumunuzu, veri erişiminizi ve başarı tanımınızı birlikte yazıyoruz.