Orta
Guardrails
Bir yapay zekâ sisteminin girdi, çıktı ve eylem katmanlarına yerleştirilen, istenmeyen davranışı sınırlayan programatik denetimlerdir.
Prompt InjectionResponsible AIEvaluation
7 Eylül 2026
ATLAS KATEGORİSİ
AI Security
AI Security alanındaki 37 terimin Türkçe tanımı bu sayfada. Ayrıntı gerektiren kavramlar Atlas girdisine açılır; geri kalanında sözlük tanımı nihai biçimdir.
- Terim
- 37
- Atlas girdisi
- 2
- İşaretli
- 0
- Hedef girdi
- 11
01AYRINTILI GİRDİLER
Atlas kavramları
Gövdesi, kaynakları ve sürüm geçmişi olan girdiler. Bir kavramın Atlas girdisi açılması, tek satırlık tanımın yetmediği anlamına gelir.
Orta
Prompt Injection
Modelin işlediği içeriğe gizlenen yönergelerle sistem talimatlarının geçersiz kılınmaya çalışıldığı saldırı sınıfıdır.
JailbreakingTool UseAI Agent
8 Eylül 2026
02ALAN SÖZLÜĞÜ
AI Security terimleri
Bu alanın tüm sözlük terimleri, Türkçe tanımı ve İngilizce karşılığıyla. Mor işaretli olanların ayrıntılı Atlas girdisi yayında.
- Acil durdurmaKill Switch
- Çalışan bir ajanı ve bekleyen işlerini anında durdurma yeteneği. Otonom sistemlerde denetimin son halkası; sonradan eklenmesi zor olduğu için baştan tasarlanması gerekir.Sözlükteki yeri
- Ajan ele geçirmeAgent Hijacking
- Ajanın işlediği bir içeriğe gizlenmiş talimatlarla hedefinin değiştirilmesi. Ajan kendi yetkileriyle çalışmaya devam eder; artık saldırganın işini yapıyordur.Sözlükteki yeri
- Ajan kimliğine bürünmeAgent Impersonation
- Bir sistemin, güvenilen başka bir ajanmış gibi davranarak görev ya da veri alması. İmzalı ajan kartları ve karşılıklı kimlik doğrulama bu saldırıya karşı geliştirildi.Sözlükteki yeri
- Ajan tedarik zinciri saldırısıAgent Supply-Chain Attack
- Ajanın kullandığı sunucu, beceri paketi ya da çerçevenin kaynağında bozulması. Tek bir yaygın bileşenin ele geçirilmesi, onu kuran tüm ajanları aynı anda etkiler.Sözlükteki yeri
- AnonimleştirmeAnonymization
- Verinin kişiyle ilişkilendirilemeyecek hâle getirilmesi; geri döndürülemez olması gerekir.Sözlükteki yeri
- Araç açıklaması enjeksiyonuTool Description Injection
- Aracın adına ya da açıklamasına gizlenen talimatların modele ulaşması. Açıklamalar sistem istemine girdiği için, kullanıcıya hiç görünmeden yüksek yetkili bir kanaldan komut taşırlar.Sözlükteki yeri
- Araç ele geçirmeTool Hijacking
- Ajanın meşru araçlarının saldırganın amacı doğrultusunda kullandırılması: e-posta aracıyla veri sızdırmak, dosya aracıyla iz silmek. Yeni bir yetenek gerekmez, var olan yetkiler yeter.Sözlükteki yeri
- Araç zehirlemeTool Poisoning
- Bir aracın davranışının ya da tanımının saldırgan tarafından değiştirilerek ajanın istemediği bir işi yapmaya yönlendirilmesi. Ajan aracı güvenilir saydığı için saldırı, modelin denetiminden hiç geçmez.Sözlükteki yeri
- Aşırı yetkiExcessive Agency
- Ajana işini yapmak için gerekenden fazla izin, araç ya da özerklik verilmesi. Saldırıyı mümkün kılan şey genellikle modelin kandırılması değil, kandırıldığında elinde bulunan yetkidir.Sözlükteki yeri
- Bellek zehirlemeMemory Poisoning
- Ajanın uzun süreli belleğine yanlış ya da kötü niyetli bilgi yazdırılması. Etkisi kalıcıdır: saldırgan gittikten sonra da ajan her ilgili görevde o bilgiyi getirip kullanır.Sözlükteki yeri
- Çalışma zamanı koruma katmanıRuntime Guardrail
- Ajanın her araç çağrısını ve çıktısını, gerçekleşmeden önce politikaya göre denetleyen katman. Eğitimle kazandırılan davranıştan farkı, dışarıdan ve denetlenebilir biçimde uygulanmasıdır.Sözlükteki yeri
- Çekişmeli örnekAdversarial Example
- İnsan gözüne normal görünen ama modeli kasıtlı olarak yanıltan girdi.Sözlükteki yeri
- Derin kurguDeepfake
- Bir kişinin görüntüsünü veya sesini yapay olarak üreterek gerçekmiş gibi sunma.Sözlükteki yeri
- Diferansiyel gizlilikDPDifferential Privacy
- Tek bir kaydın sonuca etkisini matematiksel olarak sınırlayarak bireysel gizliliği koruyan yöntem.Sözlükteki yeri
- Dinamik yetkilendirmeDynamic Authorization
- İznin baştan sabitlenmek yerine her eylemde bağlama göre yeniden değerlendirilmesi: kim, ne için, hangi veriyle, hangi risk düzeyinde. Ajanların değişken davranışına statik rollerden daha uygun.Sözlükteki yeri
- Dolaylı istem enjeksiyonuIndirect Prompt Injection
- Saldırganın talimatı kullanıcı girdisinden değil, modelin okuduğu bir belge veya sayfadan geçirmesi.Sözlükteki yeri
- En az yetki ilkesiLeast Privilege
- Bir bileşene yalnızca işini yapmaya yetecek kadar yetki verme ilkesi; ajan güvenliğinin taşıyıcı katmanıdır.Sözlükteki yeri
- Gölge kullanımShadow AI
- Çalışanların kurumun onayı ve görünürlüğü dışında yapay zekâ araçları kullanması.Sözlükteki yeri
- İnsan olmayan kimlikNHINon-Human Identity
- Hizmet hesabı, bot, iş yükü ve ajan gibi bir insana ait olmayan kimliklerin ortak adı. Kurumlarda sayıları insan hesaplarını çoktan aştı; ajanlar bu kümenin en hızlı büyüyen ve en geniş yetkili parçası.Sözlükteki yeri
- İstem enjeksiyonuPrompt Injection
- Modele verilen içerik içine gizlenmiş talimatlarla davranışının ele geçirilmesi.Sözlükteki yeriAtlas girdisi
- Kapsamı daraltılmış kimlik bilgisiScoped Credentials
- Yalnızca belirli bir kaynağa, belirli bir işlem için ve kısa süreyle geçerli erişim anahtarı. Sızdığında zararın büyüklüğünü sınırlayan başlıca önlem.Sözlükteki yeri
- Kırmızı takımRed Teaming
- Sistemi kasıtlı olarak kırmaya çalışarak zafiyetleri yayına çıkmadan bulma çalışması.Sözlükteki yeri
- Kısıt aşımıJailbreak
- Modelin güvenlik kısıtlarını aşmasını sağlayan istem tekniği.Sözlükteki yeri
- Kimlik bilgisi sızıntısıCredential Leakage
- Anahtar, token ya da parolanın modele, günlüklere veya çıktıya karışması. Ajanlarda risk daha yüksektir: kimlik bilgileri araç çağrılarının içinden geçer ve izler uzun süre saklanır.Sözlükteki yeri
- Koruma katmanıGuardrail
- Girdi veya çıktı üzerinde çalışan, istenmeyen davranışı yakalayıp engelleyen denetim katmanı.Sözlükteki yeriAtlas girdisi
- Kum havuzuSandbox
- Kodun veya aracın sistemin geri kalanına erişemeyeceği yalıtılmış çalışma ortamı.Sözlükteki yeri
- MaskelemeMasking
- Hassas alanların görüntülenirken kısmen veya tümüyle gizlenmesi.Sözlükteki yeri
- MCP sunucu zehirlemeMCP Server Poisoning
- Kötü niyetli ya da ele geçirilmiş bir MCP sunucusunun, bağlanan ajanları yanlış araç tanımları ve sahte sonuçlarla yönlendirmesi. Sunucu kurulumunun kaynağını doğrulamak temel önlemdir.Sözlükteki yeri
- Model çıkarımı saldırısıModel Inversion
- Model çıktılarından eğitim verisindeki hassas bilgiyi geri çıkarmaya çalışan saldırı.Sözlükteki yeri
- Ses klonlamaVoice Cloning
- Bir kişinin sesini kısa örneklerden taklit edebilen sentez; rıza ve kimlik doğrulama açısından yüksek riskli sayılır.Sözlükteki yeri
- Şaşkın vekil sorunuConfused Deputy Problem
- Yetkili bir bileşenin, yetkisiz bir tarafın isteğini kendi yetkisiyle yerine getirmesi. Ajan mimarisinin yapısal açığıdır: ajan hem kullanıcı adına hareket eder hem de dışarıdan gelen metni talimat sayabilir.Sözlükteki yeri
- Takma adlaştırmaPseudonymization
- Kimlik bilgisinin yerine geri döndürülebilir bir takma değer koyma; anonimleştirmeden farklıdır.Sözlükteki yeri
- Üyelik çıkarımıMembership Inference
- Belirli bir kaydın modelin eğitim verisinde bulunup bulunmadığını tespit etmeye çalışan saldırı.Sözlükteki yeri
- Veri sızmasıData Exfiltration
- Hassas verinin sistem çıktısı üzerinden dışarı taşınması.Sözlükteki yeri
- Veri zehirlemeData Poisoning
- Eğitim veya geri getirme verisine kasıtlı olarak bozuk kayıt sokarak model davranışını etkileme saldırısı.Sözlükteki yeri
- Yetenek denetimiCapability Control
- Ajanın erişebileceği araç ve eylem kümesinin açıkça sınırlandırılması. "Ne yapmamalı" diye talimat vermek yerine, yapamayacak biçimde kurmak.Sözlükteki yeri
- Yetki yükseltmePrivilege Escalation
- Bir bileşenin başlangıçtaki izinlerinin ötesine geçmesi. Ajan sistemlerinde zincirleme olur: düşük yetkili bir ajan, yüksek yetkili bir ajana görev devrederek sınırı dolanır.Sözlükteki yeri