AI Güvenliği
Ajan güvenliğinde asıl mesele yetki tasarımı
Dolaylı istem enjeksiyonu bir metin filtreleme sorunu değil; ajanın neye erişebildiğiyle ilgili bir mimari karar.
13 dakikalık okuma
Responsible AI
AI Güvenliği
AI güvenliği, bir modelin hem kasıtlı kötüye kullanıma hem de istenmeyen davranışa karşı nasıl davrandığını inceler; klasik yazılım güvenliğinden farkı, tehdit yüzeyinin modelin kendi çıktısı olmasıdır. Konu tek bir filtre değil bir yığın olarak kurulur: eğitimde hizalama, çalışma anında yetki kısıtı ve girdi-çıktı denetimi, yayın sonrasında izleme ve kırmızı takım. Model düzeyi ve sistem düzeyi savunmalar, saldırı sınıfları, şeffaflık ve adillik başlıkları, güvenlik ile yetenek arasındaki ödünleşimler bu başlığın altında toplanır.
- Gündem
- 9
- Kavram
- 2
- Analiz
- 3
- Radar momentum
- —
ALT KONULAR
AI Güvenliği altındaki 3 başlık
Her alt konu kendi merkezine sahiptir; kavram, haber, ders ve test orada toplanır.
- HizalamaHizalama (alignment), modelin davranışını insan tercihleri ve açıkça yazılmış kurallarla uyumlu hâle getirme çalışmasıdır; RLHF, tercih optimizasyonu
- Önyargı ve AdillikModel önyargısı çoğunlukla kötü niyetten değil veriden gelir: eğitim külliyatındaki temsil dengesizliği, etiketleyici tercihleri ve geçmişteki kararla
- YorumlanabilirlikYorumlanabilirlik (interpretability) bir modelin çıktısını değil içindeki hesabı açmaya çalışır: hangi özelliklerin temsil edildiği ve hangi devreleri
02DISCOVER
Son gelişmeler
- 12 EylAnthropic CEO'su frontier modellerde hız kesme çağrısı yaptı; OpenAI, xAI ve DeepMind desteklediAnthropic CEO'su Dario Amodei 12 Eylül 2026'da yayımladığı "We Must Pace the Frontier" başlıklı yazıda, yapay zekâ şirketlerinin model yeteneklerini artırma hızını bilinçli olarak yavaşlatmasını istedi. Öneri üç düzeyde kurgulanıyor: bağımsız değerlendiricilere çalışan benzeri erişim, demokratik ülkelerdeki frontier laboratuvarları arasında ortak güvenlik standartları ve devletlerarası doğrulanabilir anlaşmalar. Çağrıya kısa sürede OpenAI'dan Sam Altman, Google DeepMind'dan Demis Hassabis ve xAI'dan Elon Musk katıldı; ortada bağlayıcı bir taahhüt metni yok.
- 03 EylOpenAI, GPT-6 Astra'yı kritik siber yetenek seviyesinde sınıflandırdıOpenAI 3 Eylül 2026'da yayımladığı GPT-6 Astra'yı kendi Hazırlık Çerçevesi'nde kritik siber yetenek seviyesinde sınıflandırdı; bu seviyeye ulaştığı açıklanan ilk geniş dağıtımlı OpenAI modeli oldu. Üretim koruma önlemleri kapalıyken yapılan ölçümde model ExploitBench'te yüzde 100 başarı bildirdi; önceki GPT-5.6 Sol aynı testte yüzde 78,5'te kalmıştı. Yayımlanan sürüm güvenli kod incelemesi ve yama üretimiyle sınırlı, kavram kanıtı istismar kodu isteklerini reddediyor; kurumsal çalışma alanlarında erişim varsayılan olarak kapalı geliyor ve yöneticinin elle açması gerekiyor.
- 02 EylGoogle siber güvenlik modelini herkese değil doğrulanmış savunuculara açtıGoogle 2 Eylül 2026'da Gemini 3.8 Flash'ın yanında siber güvenliğe özel Gemini 3.8 Flash Cyber'ı duyurdu. Cyber sürümü genel API'de yok; erişim, devlet kurumları, kritik altyapı işletmecileri ve büyük kod tabanlarının bakımcıları için kurulan Fairwind Programı üzerinden inceleme sonrası veriliyor. Google'ın açıkladığı rakamlara göre model CyberGym'de yüzde 86,2, CWE-Bench'te yüzde 47,2 pass@1 alıyor; Google ayrıca modeli kendi kodunda kullandığını ve Chrome zafiyetlerinde en iyi ticari modellere kıyasla 2,6 kat daha fazla doğru yama ürettiğini bildiriyor.
- 27 AğuOpenAI, Anthropic, Google ve 100'ü aşkın kuruluştan yapay zekâ destekli siber saldırılara karşı ortak çağrı27 Ağustos 2026'da OpenAI, Anthropic, Google, Microsoft, Amazon, Oracle, CrowdStrike ve Fortinet'in de aralarında bulunduğu 100'ü aşkın kuruluş ortak bir açık mektup yayımladı. Mektup, siber savunmayı güçlendirmek için sınırlı bir pencere kaldığını söyleyerek önümüzdeki aylarda yapay zekâ destekli saldırıların yaygınlaşacağını, hastane, su arıtma tesisi ve internet altyapısı gibi kritik altyapının birinci hedef olduğunu belirtiyor. Metin bağlayıcı taahhüt içermiyor: hükümetlerden koordinasyon ve finansman, şirketlerden yüksek riskli açıkların kapatılması isteniyor.
- 22 AğuGuidelight değerlendirmesi: büyük laboratuvarlar kaçan bir modeli nasıl durduracağını yazmıyorGuidelight AI Standards'ın ilk Kontrol değerlendirmesi 22 Ağustos 2026'da yayımlandı: OpenAI, Anthropic, Google, Meta ve xAI'nin kamuya açık güvenlik belgeleri, denetimden çıkmaya çalışan bir modelin yetkilerinin nasıl geri alınacağını tarif etmiyor. OpenAI 5 üzerinden 3 ile gruptaki en yüksek puanı aldı; Anthropic ve Meta en düşük grupta kaldı ve Guidelight, Meta'da yazılı bir müdahale planına dair kanıt bulamadığını bildirdi.
- 18 AğuOpenAI, 13-17 yaş için ayrı bir ChatGPT sürümü başlattı: yaş kapısı kimlikle değil tahminle kuruluyorOpenAI 18 Ağustos 2026'da 13-17 yaş aralığı için ayrı bir ChatGPT deneyimi başlattı. Kullanıcılar zorunlu kimlik doğrulamasıyla değil, hesaptaki yaş bilgisi ve bir yaş tahmini modeliyle bu sürüme yönlendiriliyor. Sürümde kendine zarar, yeme bozukluğu, şiddet ve cinsel içerikte daha katı varsayılanlar geçerli; ebeveyn hesabı bağlandığında sessiz saatler, çalışma saatleri ve ses kipi, bellek, görsel üretim ile eğitim verisi tercihini kapatma denetimleri açılıyor. Ebeveynler sohbet içeriğini okuyamıyor.
- 14 AğuZ.ai, GLM-5.3'ü yayımladı; açık ağırlıkları siber yetenek değerlendirmesi için iki hafta ertelediZ.ai, 14 Ağustos 2026'da GLM-5.3'ü yayımladı. Model GLM-5.2 ile aynı temel ağırlıklar üzerine kurulu; bildirilen tüm kazanç yeniden ön eğitimden değil ölçeklenmiş eğitim sonrası aşamadan geliyor. Terminal-Bench 3.0 skoru 4,6'dan 28,3'e, DeepSWE v1.1 46,2'den 66,9'a, ExploitBench yüzde 24,4'ten yüzde 54,4'e çıktı. Z.ai, modelin saldırgan güvenlik yeteneğinin beklediğinden hızlı büyüdüğünü söyleyerek açık ağırlıkların yayımını güvenlik değerlendirmesi ve sertleştirme tamamlanana kadar yaklaşık iki hafta erteledi.
- 07 AğuOpenAI, Astra modelinde kritik siber yetenek eşiğini dışlayamadığını açıkladıOpenAI, geliştirmekte olduğu Astra modelinin ön değerlendirmelerde Hazırlık Çerçevesi'ndeki "kritik" siber yetenek seviyesine ulaşmış olma ihtimalini dışlayamadığını duyurdu. Şirket modeli kritik siber model olarak sınıflandırmadı; bunun yerine izole test ortamı, kısıtlı ağ ve araç erişimi ile model ağırlıklarında güçlendirilmiş şifreleme gibi önlemleri önden devreye aldı, bu gerekleri karşılamayan Astra çalışmalarını durdurdu ve dağıtımdan önce kamu kurumlarından ve seçilmiş yapay zekâ güvenliği kuruluşlarından dış değerlendirme isteyeceğini bildirdi.
- 04 AğuBeyaz Saray dört frontier laboratuvarını gönüllü model testi çerçevesi için topladı4 Ağustos 2026'da Beyaz Saray; OpenAI, Anthropic, Google ve Meta'yı frontier modeller için gönüllü bir güvenlik testi çerçevesini görüşmek üzere topladı. Çerçeve, 2 Haziran tarihli başkanlık kararnamesine dayanıyor ve şirketlerin en güçlü modellerini kamuya açılmadan önce 30 güne kadar federal denetçilere sunmasını öngörüyor. Katılım zorunlu değil: karşılığında federal fon uygunluğu ve fikri mülkiyet koruması vaat ediliyor. Toplantıdan resmî bir karar duyurulmadı.
03ANALİZ
Derinlemesine
AI Güvenliği
Koruma katmanı yetki sınırlamasının yerine geçmez
Koruma katmanı bir filtredir: metni okur, kural uyar mı diye bakar, geçirir veya durdurur. Yetki sınırlaması ise bir sınırdır: eylem yapısal olarak mümkün değildir. Filtre atlanmak için yeni bir zafiyet gerektirmez, yalnızca yeniden ifade gerektirir. Bu yüzden ikisi aynı katmanda sayılamaz — filtre gürültüyü azaltır, sınır hasarı tavanlar.
7 dakikalık okuma
AI Güvenliği
Gölge kullanım bir disiplin sorunu değil, yasağın öngörülebilir sonucu
Kurumsal yapay zekâ yasakları çalışanların araç kullanmasını engellemiyor; kullanımı görünmez kılıyor. Yasak sonrası kullanım kişisel hesaplara, kişisel cihazlara ve denetlenmeyen arayüzlere kayıyor — yani veri sızıntısı riski azalmıyor, tam aksine kurumun hiç göremediği bir kanala taşınıyor. Doğru müdahale yasak değil, onaylı ve izlenebilir bir yol açmak.
7 dakikalık okuma
04ATLAS
İlgili kavramlar
Semantik komşuluk: bu konuyu anlamak için gereken veya ondan türeyen kavramlar.
Responsible AI
Hallucination
Modelin akıcı ve kendinden emin biçimde, gerçekle uyuşmayan bilgi üretmesidir.
Başlangıç
Responsible AI
Responsible AI
Yapay zekâ sistemlerinin adillik, şeffaflık, hesap verebilirlik, gizlilik ve güvenlik boyutlarını tasarım aşamasından itibaren yönetme yaklaşımıdır.
Başlangıç
07LEARN
Öğren ve ölç
Aynı konunun öğretim ve ölçüm formatları.
Testler
- AI Güvenliği Testi6 soruİstem enjeksiyonu, veri sızıntısı, en az yetki, güvenli entegrasyon, denetlenebilirlik ve kırmızı takım pratiğini ölçen test.
- AI Güvenliği Testi — Başlangıç6 soruDil modeli uygulamalarında karşılaşılan temel tehdit türlerini ayırt etmeyi ve her tehdide hangi önlemin karşılık geldiğini bilmeyi ölçen test.
- AI Güvenliği Testi — Orta6 soruAraç kullanan sistemlerde saldırı yüzeyini çözümlemeyi, tek katmanlı savunmanın nerede yetersiz kaldığını ve üretimdeki belirtiyi doğru okumayı ölçen test.
- Hizalama Testi — Orta6 soruÖdül vekilinin nerede bozulduğunu, tercih verisindeki eğilimlerin davranışa nasıl geçtiğini ve hizalama ölçümünün hangi kurguda anlamını yitirdiğini ölçen test.
- Önyargı ve Adillik Testi — Orta6 soruAdillik ölçütleri arasındaki gerilimi, önyargının hangi aşamada veriye girdiğini ve azaltma yöntemlerinin nerede yetersiz kaldığını ölçen test.
- Yorumlanabilirlik Testi — İleri6 soruBir açıklamanın modelin gerçek hesaplamasını yansıtıp yansıtmadığını sınama, atıf yöntemlerini denetleme ve müdahale bulgularını yorumlama yetkinliğini ölçen test.