KIRMIZI TAKIM · Orta
Kırmızı Takım Testi — Orta
Saldırı yüzeyini okuma, kapsam kurgusu, bulgu ciddiyetini sıralama ve azaltma seçimini orta düzeyde ölçen test.
- Soru
- 6
- Süre
- 12 dk
- Ölçülen beceri
- 4
- Seviye
- Orta
Kimler çözmeli?
Yapay zekâ özelliklerini yayına almadan önce sınayan güvenlik ve ürün ekipleri için; istem enjeksiyonu kavramını bilmek gerekir.
Ölçülen beceriler
- Saldırı yüzeyi okuma
- Bulgu ciddiyeti
- Kapsam kurgusu
- Azaltma seçimi
Testi çöz
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alan önerisi alırsın.
6 soruluk testi çözmeye hazır mısın?
Her cevaptan sonra doğru yanıt ve açıklaması gösterilir. Sonuçta beceri bazlı kırılım ve eksik alanlar için öneri alırsın.
Bu test neyi ölçüyor?
Test sonrası ne bildiğini değil, hangi beceride eksik olduğunu görürsün.
- 01
Doğrudan ve dolaylı enjeksiyonu ayırt etmek
- 02
Bir bulgunun ciddiyetini etkisine göre sıralamak
- 03
Bulunan zafiyet için uygun azaltmayı seçmek
Sorular sayfada görünür
Eğitim içeriği JavaScript arkasına gizlenmez. Aşağıdaki üç örnek soru, doğru cevapları ve açıklamalarıyla birlikte taranabilir durumdadır.
- Soru 01kirmizi-takim-orta-1Dolaylı enjeksiyon · Orta · Saldırı yüzeyi okuma
Bir asistan, özetlemesi istenen web sayfasındaki gizli bir talimata uyarak kullanıcının verisini dış bir adrese gönderdi. Bu hangi saldırı biçimidir?
- AEğitim verisi zehirlenmesi
- BDoğrudan istem enjeksiyonu
- CDolaylı istem enjeksiyonu
- DModel çıkarım saldırısı
Açıklama
Talimat kullanıcıdan değil, modelin işlemek üzere okuduğu üçüncü taraf içerikten geldiği için saldırı dolaylıdır. Doğrudan enjeksiyon seçeneği aynı mekanizmayı paylaşır ama orada kötücül metni kullanıcı kendisi yazar; buradaki fark, güvenilmeyen içeriğin araç girdisi olarak sisteme girmesidir.
Prompt Injection girdisini oku - Soru 02kirmizi-takim-orta-2Araç izinleri · Orta · Azaltma seçimi
Dolaylı enjeksiyonun etkisini azaltmak için sistem tasarımında en güçlü adım hangisidir?
- ASistem istemine, içerikteki talimatları yok sayma yönergesi eklemek
- BDışa veri gönderen araç çağrılarını en az yetkiye ve onaya bağlamak
- CGirdi metnindeki bilinen saldırı kalıplarını sözcük listesiyle süzmek
- DModel sıcaklığını düşürüp yanıt uzunluğunu sınırlamak
Açıklama
Enjeksiyonun zararı modelin kandırılmasından değil, kandırılan modelin elindeki yetkiden doğar; yetkiyi kısmak ve yan etkili çağrıyı onaya bağlamak etkiyi keser. Sistem istemine yönerge eklemek yaygın ilk hamledir ama aynı kanaldan gelen metinle yarışır ve güvenlik sınırı kurmaz.
Guardrails girdisini oku - Soru 03kirmizi-takim-orta-3Bulgu ciddiyeti · Orta · Bulgu ciddiyeti
Bulgulardan biri modelin kaba bir şaka üretmesine, diğeri başka kullanıcının kayıtlarının okunmasına yol açıyor. Ciddiyet sıralaması hangi ölçüte göre yapılır?
- ABulguyu tetiklemek için gereken istem denemesi sayısına
- BBulgunun kaç farklı model sürümünde yeniden görüldüğüne
- CBulgunun keşfedildiği kırmızı takım oturumunun süresine ve derinliğine
- DBulgunun yol açtığı etkinin kapsamına ve geri alınabilirliğine
Açıklama
Ciddiyet, kimin ne kadar zarar gördüğü ve zararın geri alınıp alınamadığıyla ölçülür; başkasının verisine erişim geri alınamaz bir sınır ihlalidir, uygunsuz üslup ise düzeltilebilir bir kalite kusurudur. Tetikleme kolaylığı istismar edilebilirliği etkiler ve bu yüzden çekicidir ama tek başına ciddiyet sırasını belirlemez.
Skor nasıl okunur?
AI Curious
0–35
Kavramları duymuş, henüz haritası yok.
AI Explorer
36–60
Temelleri biliyor, uygulamada boşluklar var.
AI Practitioner
61–80
Uygulama kurabiliyor, değerlendirme eksik.
AI Builder
81–100
Üretim sistemi kurabiliyor ve ölçebiliyor.
Ölçmeye devam et
- Kırmızı TakımKırmızı Takım Testi — İleri6 soru · 15 dk
- Benchmark TasarımıBenchmark Tasarımı Testi — İleri6 soru · 15 dk
- Benchmark TasarımıBenchmark Tasarımı Testi — Orta6 soru · 12 dk
- DeğerlendirmeDeğerlendirme Testi6 soru · 10 dk
- DeğerlendirmeDeğerlendirme Testi — Başlangıç6 soru · 8 dk
- DeğerlendirmeDeğerlendirme Testi — İleri6 soru · 15 dk
LEARN
Eksik çıkan beceriyi kapat
Test sonucun beceri grafiğine işlenir; sistem hangi dersle devam etmen gerektiğini söyler.