İçeriğe atla
SinaptikLabAI KNOWLEDGE PLATFORM
Dersİleri45 dakikaAI Güvenlik Mühendisi · 5. ders

Kayıt düzeni, olay müdahalesi ve tatbikat

Bir isteğin penceresini kayıtlardan yeniden kurmak için gereken alanları, kişisel veriyi ayrı saklama katmanına taşımayı ve olay sınıfına uygun sınırlama kolunu seçmeyi gösterir. Tatbikatı sürüm öncesi kontrol listesine bağlar.

Önkoşul: Guardrails, AI Agent, Prompt Injection

BU DERSİN SONUNDA

  • Bir isteği kayıtlardan yeniden kurmak için gereken alanları belirlemek
  • Kişisel veri taşıyan kayıtları ayrı saklama katmanına yerleştirmek
  • Olay sınıfına uygun en dar sınırlama kolunu seçmek
  • Tatbikat bulgularını sürüm öncesi kontrol listesine bağlamak
  1. 1

    Teori

    Kavramın çalışma mantığı

  2. 2

    Örnek

    Gerçek bir senaryo üzerinde gösterim

  3. 3

    Lab

    Uygulamalı alıştırma

  4. 4

    Test

    Kısa ölçüm

  5. 5

    Proje

    Rotadaki projeye katkı

Kısa cevap

Bu katmanda kayıt düzeninin tek ölçütü şudur: bir şikâyetten yola çıkıp o cevabı üreten pencereyi yeniden kurabiliyor musunuz? Kuramıyorsanız kök neden bulunamaz, sınırlama kolu körlemesine çekilir ve düzeltme yanlış katmana yapılır. Yeniden kurulabilirlik ile veri asgariliği çatışır; çözüm katmanlı saklamadır — kimlikler ve özetler uzun ömürlü, pencerenin tam metni kısa ömürlü ve erişimi kayıtlı.

Teori: yeniden kurulabilirlik#

Klasik bir hatada yığın izi ve girdi genellikle yeter. Burada cevabı belirleyen şey bir girdi değil, bir birleşimdir: istem şablonunun sürümü, o an getirilen parçalar, dizinin sürümü, araç çağrılarının sonuçları, denetim katmanının verdiği kararlar ve örnekleme ayarları. Bu alanlardan biri eksikse yeniden kurma yaklaşık kalır ve yaklaşık yeniden kurma, kök nedeni yanlış yere koyar.

Bu yüzden kayıt tasarımını hata ayıklama kolaylığı olarak değil, bir denetim izi olarak kurun. Zinciri tek bir istek kimliği taşır; bu kimlik istemci isteğinden başlayıp geri getirme, araç çağrıları ve denetim kararlarına kadar her kayda düşer. Zincirin kurulabilmesi, ileride etkilenen kullanıcı ve kayıt listesini çıkarabilmenin de önkoşuludur.

Kayıt alanları ve saklama katmanı#

AlanHangi soruyu yanıtlarSaklama
İstek kimliğiBu cevaba ait kayıtlar hangileriUzun ömürlü; kendisi kişisel veri taşımaz
İstem şablonu sürümüDavranış değişimi şablondan mı geliyorUzun ömürlü
Getirilen parça kimlikleri ve dizin sürümüCevaba hangi belgeler girdiUzun ömürlü; metin değil kimlik saklanır
Araç çağrıları: ad, parametre özeti, sonuç koduHangi yan etki tetiklendiUzun ömürlü; serbest metin parametreler maskeli
Denetim kararı ve ham puanEşik değişirse geçmiş yeniden değerlendirilebilir miUzun ömürlü
Pencerenin tam metniOlayı birebir yeniden kurmaKısa ömürlü; erişim kayıtlı ve bir olay kaydına bağlı
Kullanıcı kimliğiKim etkilendiTakma kimlik; gerçek kimliğe eşleme ayrı ve kısıtlı

Sınırlama kolları ve etki alanları#

  • Aracı kapatmak: en hızlı ve en anlaşılır kol; etki alanı o araca bağlı bütün akışlar. Kimin çekebileceği ve nasıl geri alınacağı önceden yazılı olmalı.
  • Araç kapsamını daraltmak: yazmayı kapatıp okumayı bırakmak işlevin bir kısmını ayakta tutar; bunun için sözleşmenin çalışma anında değiştirilebilir olması gerekir.
  • Belgeyi dizinden düşürmek: dolaylı enjeksiyon şüphesinde ilk kol. Dizin sürümünü kaydediyorsanız hangi cevapların etkilendiğini geriye dönük bulabilirsiniz.
  • Eşiği geçici olarak sıkmak: yanlış alarmı bilerek yükseltir; süreli ve gerekçeli olmalı, sessizce kalıcılaşmamalı.
  • Kaynağa yazma yetkisini askıya almak: zehirlenmenin sürmesini keser ama dizindeki mevcut yükü temizlemez; ikisi ayrı işlerdir.
  • Şablonu veya model yapılandırmasını geri almak: en geniş etki alanı, en yavaş kol. Kök neden şablon değişikliği değilse ilk tercih olmamalı.

Karar: olayı yürütmek#

  1. 1Zinciri kur

    Şikâyetten istek kimliğine inin ve o kimlikle şablon sürümünü, getirilen parçaları, araç çağrılarını ve denetim kararlarını tek bir zaman çizgisine dizin.

  2. 2Sınıfı belirle

    Olay dört kutudan hangisine düşüyor: yeni bir yazar kanalı, fazla geniş bir araç sözleşmesi, fazla gevşek bir eşik, değişmiş bir şablon. Sınıf, hangi kolun çekileceğini belirler.

  3. 3En dar kolu çek

    Sınıfa karşılık gelen en küçük etki alanlı kolu seçin; kolun etki alanını, süresini ve geri alma yolunu olay kaydına yazın.

  4. 4Kapsamı ölç

    Aynı imzayı taşıyan diğer istekleri arayın: aynı parça kimliği, aynı araç kalıbı, aynı puan bandı. Etkilenen kullanıcı ve kayıt listesini çıkarın.

  5. 5Düzeltmeyi katmanına bağla

    Kalıcı düzeltmeyi sınıfın ait olduğu katmanda yapın ve olayı yeniden üretecek bir vakayı regresyon setine ekleyin; eklenmeyen olay tekrar eder.

Tatbikattan sürüm öncesi listeye#

  1. 01Tehdit haritası bu sürümde değişti mi: yeni bir yazar kanalı, yeni bir araç ya da yeni bir çıktı hedefi eklendi mi?
  2. 02Kırmızı takım seti koşuldu mu ve yerleşim biçimine göre geçiş tablosu önceki sürümle karşılaştırıldı mı?
  3. 03Geri alınamaz eylemlerin iki aşamalı akışı, idempotens anahtarı ve prova adımı yerinde mi?
  4. 04Denetim eşikleri son kalibrasyondan bu yana değişti mi; değiştiyse gerekçe ve süre kaydı var mı?
  5. 05Rastgele seçilmiş bir istek kimliğinden pencereyi yeniden kurabildiniz mi; hangi alanlar eksik çıktı?
  6. 06Sınırlama kollarını kimin çekebileceği, nasıl geri alınacağı ve kimin haberdar edileceği yazılı mı?

Sık yapılan hata#

En sık görülen hata, kaydı hata ayıklama kolaylığı sayıp pencerenin tam metnini geniş erişimli bir yere süresiz yazmaktır. O depo artık sistemin gördüğü en hassas içeriğin toplandığı yerdir ve saldırgan için tek adımda en zengin hedeftir. İkinci hata, tatbikatı bir olaydan sonra bir kez yapıp bırakmaktır: kontrol listesi büyür, kimse budamaz ve bir süre sonra liste okunmadan işaretlenir.

LAB · UYGULAMALI ALIŞTIRMA

Bir olayı baştan sona yürütün

  1. 1Kendi sisteminizden rastgele bir istek seçin ve yalnızca kayıtlara bakarak o isteğin penceresini yeniden kurmayı deneyin; kuramadığınız her parçayı eksik alan olarak yazın.
  2. 2Eksik alanları kayıt şemasına ekleyin ve her alan için saklama süresi ile erişim kuralını belirleyin; kişisel veri taşıyan alanları ayrı bir katmana taşıyın.
  3. 3Bir tatbikat senaryosu yazın: kendi belgelerinizden birinin kopyasına zararsız bir işaret gömüp kırmızı dizine koyun; senaryo, işaretin bir cevapta görünmesiyle başlasın.
  4. 4Tespit adımını sınayın: işaret içeren cevabı kayıtlardan kaç adımda bulabildiğinizi ve arama için hangi alanları kullandığınızı yazın.
  5. 5Olay sınıfını belirleyip en dar sınırlama kolunu seçin ve yazılı olarak uygulayın; kolun etki alanını, süresini ve geri alma yolunu olay kaydına düşün.
  6. 6Tatbikatta ortaya çıkan her eksiği sürüm öncesi kontrol listesine madde olarak ekleyin ve her maddenin karşılığında somut bir kayıt alanı ya da bir kol bulunduğunu doğrulayın.

Beklenen çıktı

Bir isteğin kayıtlardan yeniden kurulmuş zaman çizgisi, eksik kayıt alanlarının saklama kurallarıyla birlikte listesi ve tatbikattan türetilmiş sürüm öncesi kontrol listesi.

Sık sorulan sorular

Kişisel veriyi saklamamamız gerekiyorsa olayı nasıl çözeriz?

Katmanlı saklamayla. Uzun ömürlü kayıt kimlik, sürüm ve özet taşır; tam metin kısa ömürlü, erişimi kayıtlı bir katmanda durur. Olayların çoğu kimlik zinciriyle çözülür: hangi parça geldi, hangi araç çağrıldı, denetim ne dedi. Tam metne inmek istisna olmalı ve bir olay kaydına bağlanmalıdır.

Tatbikatı üretimde mi yapmalıyız?

Yükü üretim dizinine koymayın; kopya dizin ve işaretli belge kullanın. Buna karşılık tespit ve müdahale adımlarını üretim araçlarıyla prova edin. Tatbikatın değeri yükün gerçekçiliğinde değil, tespit yolunun ve kolun gerçekten çalışıp çalışmadığında.

Kök neden "model yanlış davrandı" çıkarsa ne yapılır?

Bu bir kök neden değil, belirtidir. Bu katmanda önce dört yere bakılır: yazar kanalı, araç sözleşmesi, eşik, şablon. Dördü de değişmediyse soru şuna döner: bu davranış zaten mümkündü, neden şimdi görüldü? Cevap genellikle trafiğin ya da dizinin değişmesidir ve düzeltme de orada yapılır.

LEARN

AI Güvenlik Mühendisi rotasına devam et

Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.