THOUGHT LEADERSHIP
Her analiz tek soruya cevap arar: peki bunun anlamı ne? Kaynaklandırılmış iddia, açık varsayım, net sonuç.
Ajan mimarisi, adımların sırasını çalışma anında modelin kurmasıdır. Bu esneklik yalnızca sıranın önceden bilinemediği işlerde kazandırır; sırası belli ve nadiren değişen bir işte aynı esneklik, kazanç getirmeden belirsizlik, gecikme ve hata ayıklama zorluğu ekler. Doğru soru "ajan kurabilir miyiz" değil, "bu işin sırası gerçekten önceden bilinemiyor mu" sorusudur.
Kod yazan değil, iş akışını yürüten sistemler; yazılım ekiplerinin sorumluluk sınırlarını yeniden çiziyor.
Bir ajana araç eklemek onu yetenekli yapmaz; seçim problemini büyütür. Her yeni araç hem bir yetki yüzeyi hem de modelin yanlış seçebileceği bir alternatiftir. Araç kataloğu büyüdükçe doğru aracı seçme oranı düşer ve bu düşüş model kalitesinden değil seçim uzayının genişlemesinden kaynaklanır; daha iyi bir model sorunu geciktirir, çözmez.
Tek seferlik doğruluk ölçümü bitiyor; görev tamamlama, geri dönüş maliyeti ve hata kurtarma konuşuluyor.
Bir RAG sisteminin cevabı kötüyse sorun çoğunlukla modelde değil, modelin ne gördüğünde. Doğru parçayı görmeyen bir model hiçbir istemle kurtarılamaz; yanlış parçayı gördüğünde ise kaynaklı görünen bir yanlış üretir — bu, kaynaksız yanlıştan daha tehlikelidir. Bu yüzden model değiştirmek çoğu ekibin elindeki en zayıf kaldıraçtır.
Dil modelleri veriyi ucuz buldu; robotik bulamıyor. Asıl darboğaz parametre değil, örnek toplama.
İstem enjeksiyonu bir yazılım hatası değil, mimarinin doğrudan sonucudur: dil modeli veriyi ve talimatı aynı kanaldan alır, dolayısıyla okuduğu her içerik bir komut olabilir. Bu ayrımın olmaması bir uygulama kusuru değil sistemin tanımıdır; bu yüzden enjeksiyon yamalanarak kapatılamaz, yalnızca yetki sınırlamasıyla hasarı küçültülerek yönetilir.
Sorun model kalitesi değil; başarı tanımının, veri sahipliğinin ve operasyon sorumluluğunun yazılmamış olması.
Dil modeli maliyetini düşürmek isteyen ekipler önce daha ucuz modele bakıyor; oysa faturayı belirleyen şey birim fiyat değil, istek başına gönderilen token miktarı ve istek sayısıdır. Bağlam tasarımı, önbellek kullanımı, model yönlendirmesi ve gereksiz tur eleme, birim fiyat farkından büyüklük mertebesinde daha fazla kazandırır — ve kalite kaybı olmadan kazandırır.
Genel benchmarklar Türkçeyi temsil etmiyor; açık metodolojili yerel setler olmadan model seçimi tahmine dayanıyor.
Yapay zekâ otomasyonunun pratik sınırı model doğruluğu değil, insan onay kapasitesidir. Güven eşiği yükseltildikçe insana düşen iş artar ve belirli bir noktada onay kuyruğu, otomasyonun kazandırdığı zamanı tümden yer. Dahası onay yorgunluğu gerçektir: günde yüzlerce onay veren kişi bir süre sonra okumadan onaylar ve denetim biçimsel bir adıma dönüşür.
Dolaylı istem enjeksiyonu bir metin filtreleme sorunu değil; ajanın neye erişebildiğiyle ilgili bir mimari karar.
Bağlam pencereleri büyüdükçe "artık her şeyi bağlama koyarız, geri getirmeye gerek kalmaz" tezi yaygınlaştı. Sığdırmak teknik olarak mümkün hâle geldi ama geri getirmenin üç işlevinden yalnızca birini ortadan kaldırdı. Maliyet, dikkat dağılımı ve en önemlisi yetki süzmesi yerinde duruyor; geri getirme bir sığdırma tekniğinden bir erişim denetimi katmanına dönüşüyor.
Bir dil modelinin başka bir modelin çıktısını puanlaması, değerlendirmeyi otomatikleştirmenin en yaygın yolu oldu. Ama yargıç da bir modeldir ve kendi yanlılıklarını taşır: uzun cevabı, kendinden emin tonu ve kendi ailesinden gelen çıktıyı tercih edebilir. İnsan etiketine karşı kalibre edilmemiş bir yargıç ölçümü otomatikleştirmez; yanlılığı her koşuya yayarak ölçeklendirir.
Parçalama, RAG hattının en sessiz adımı: bir kez yapılır, sonra görünmez olur. Ama geri getirilebilecek en küçük birimi o tanımlar — parça bir tanımı ortadan kesiyorsa o tanım hiçbir arama stratejisiyle tam getirilemez, çünkü arama yalnızca var olan parçalar arasından seçim yapar. Bu yüzden parçalama bir ön işleme detayı değil, sistemin bilgi tavanını belirleyen mimari karardır.
Anlamsal arama, sorguyla aynı kelimeleri içermeyen ilgili belgeleri bulur; bu gerçek bir kazanç. Ama kurumsal veri kod, ürün numarası, madde numarası ve özel adla doludur ve bu sorgularda tam eşleşme gerekir — anlamsal yakınlık "benzer" bir kaydı getirir, doğru olanı değil. İki yöntem birbirinin alternatifi değil; hiçbirinin tek başına kapsamadığı sorgu sınıfları var.
Teknik borç bilinir: nerede olduğu, ne kadar olduğu ve ne zaman ödeneceği konuşulabilir. Değerlendirme seti olmadan yayımlanan bir yapay zekâ sistemi ise bilinmeyen borç üretir — sistemin nerede bozulduğu, ne kadar bozulduğu ve bozulmanın ne zaman başladığı bilinemez. Ölçmemenin bedeli kalitesizlik değil, kalitenin bilinmemesidir.
Bir kıyaslama yayımlandığı anda internete girer; sonraki model kuşağı o veriyi eğitim derlemine alır ve skor, yetenekten bağımsız biçimde yükselir. Bu bir ihmal değil mekanizmanın kaçınılmaz sonucu: açık kıyaslama ile temiz test kümesi aynı anda var olamaz. Bu yüzden kamuya açık skorlar bir yetenek ölçüsü olarak giderek daha az bilgi taşıyor.
Koruma katmanı bir filtredir: metni okur, kural uyar mı diye bakar, geçirir veya durdurur. Yetki sınırlaması ise bir sınırdır: eylem yapısal olarak mümkün değildir. Filtre atlanmak için yeni bir zafiyet gerektirmez, yalnızca yeniden ifade gerektirir. Bu yüzden ikisi aynı katmanda sayılamaz — filtre gürültüyü azaltır, sınır hasarı tavanlar.
Kendi altyapında model çalıştırmanın ucuz olduğu eşik, toplam istek hacmine değil kapasite kullanım oranına bağlıdır. Yönetilen API'de boşta duran kapasite ödemezsiniz; kendi donanımınızda ödersiniz. Bu yüzden yüksek ama dalgalı hacim, düşük ama düzgün hacimden daha pahalıya gelebilir — karar hacim tablosuyla değil yük profiliyle verilir.
Büyük sağlayıcıların güncel model kademeleri aynı bağlam penceresini, aynı yerleşik araç setini ve büyük ölçüde aynı yeteneği paylaşıyor; aralarındaki ayrım fiyat kademesinde. Bu, model seçimini bir yetenek karşılaştırmasından bir bütçe kararına çeviriyor. Yetenek farkı iddiası artık kademeler arasında değil, aileler ve iş yükü türleri arasında aranmalı.
Ağırlıkları indirilebilen her model "açık kaynak" diye anılıyor ama iki kavram aynı değil. Açık ağırlık, modeli kendi donanımınızda çalıştırabilmeniz demek; açık kaynak ise eğitim verisi, eğitim kodu ve kısıtsız bir lisansı da gerektirir. Aradaki boşluk hukuki: pek çok model ağırlığını yayımlar ama kullanımı kısıtlayan özel bir lisansla gelir ve bu kısıt genellikle yayına çıkmadan önce okunmaz.
Uyum çalışmaları çoğu kurumda bir yayın öncesi kontrol listesi olarak kuruluyor: belgeler hazırlanır, onay alınır, sistem yayına çıkar. Yükümlülüklerin büyük bölümü ise sistem yaşadığı sürece süren nitelikte — kayıt tutma, izleme, güncelleme, olay bildirimi ve insan gözetimi. Bir kez geçilen kapı, sürekli bir yükümlülüğü karşılamaz.
Bir görü modelinin ulaşabileceği en yüksek doğruluk, eğitim verisindeki etiketlerin tutarlılığıyla sınırlıdır. İki etiketçi aynı görüntüyü farklı etiketliyorsa model, çelişen iki hedefi birden öğrenmeye çalışır ve aradaki belirsizlik bir tavan oluşturur. Bu tavan mimari değiştirilerek, veri çoğaltılarak ya da eğitim süresi uzatılarak aşılamaz.
Bir işi birden çok ajana bölmek yetenek eklemiyor; koordinasyon maliyeti ekliyor. Her ek ajan gecikmeyi, hata yüzeyini ve hata ayıklama zorluğunu büyütüyor. Çok ajanlı yapı yalnızca üç koşul birlikte sağlandığında kazandırıyor: sorumluluklar gerçekten ayrışıyor, işler paralelleşebiliyor ve tek ajanın bağlam penceresi görev için yetersiz kalıyor.
Bir cevabın altına kaynak bağlantısı koymak, o cevabın doğru olduğunu göstermez — yalnızca bir belgenin okunduğunu gösterir. Kaynak gösteren yanlış cevap, kaynak göstermeyen yanlış cevaptan daha tehlikelidir çünkü okurda denetlenmişlik hissi yaratır ve şüpheyi kaldırır. Güven üreten şey kaynağın varlığı değil, gösterilen kaynağın o cümleyi gerçekten desteklediğinin ölçülmüş olması.
Ajan belleği genellikle bir kapasite sorunu olarak kuruluyor: bağlam penceresi yetmiyor, dışarıya bir hafıza koyalım. Oysa asıl soru teknik değil: bu bellek kime ait, kim okuyabilir, ne kadar süre yaşar ve kim silebilir? Bellek eklemek, sisteme kişiye bağlı kalıcı veri eklemek demek — ve o andan itibaren yetki, saklama ve silme yükümlülükleri devreye giriyor.
Model Context Protocol genellikle bir entegrasyon standardı olarak anlatılıyor: her araç için ayrı bağlayıcı yazmaktan kurtarıyor. Doğru ama eksik. Protokolün asıl yapısal etkisi, daha önce farklı sistemlere dağılmış yetkilerin tek bir istemcide toplanması. O istemci artık kurumun en geniş yetkili tek aktörü ve bu, entegrasyon değil yetki mimarisi sorunu.
Ajan sistemlerinde hata ayıklama, klasik yazılımdakine benzemiyor: aynı girdi iki farklı yol izleyebiliyor ve yanlış çıktının nedeni tek bir satırda durmuyor. İzlenebilirlik bu yüzden bir gözlemlenebilirlik eklentisi değil, akışın bir parçası. Karar noktaları, araç çağrıları ve bağlam içeriği kaydedilmeden bir ajan hatası yeniden üretilemiyor — ve yeniden üretilemeyen hata düzeltilemiyor.
Uzun düşünme süresi bir kalite düğmesi gibi kullanılıyor: sonuç yetersizse bütçeyi artır. Oysa akıl yürütme, çok adımlı çıkarım gerektiren görevlerde kazanç üretiyor; bilgi getirme, biçimlendirme ve sınıflandırma gibi görevlerde gecikmeyi ve maliyeti artırırken doğruluğu değiştirmiyor, bazen düşürüyor. Doğru soru 'ne kadar düşünsün' değil, 'bu görev düşünmeyi hak ediyor mu'.
Değerlendirme seti kurmak bir kerelik bir yatırım gibi anlatılıyor: örnekleri topla, beklenen çıktıları yaz, panoyu kur. Oysa set kurulduğu andan itibaren bozulmaya başlıyor — ürün değişiyor, kullanıcı davranışı kayıyor, örnekler eğitim verisine sızıyor. Bakılmayan bir set yanlış bir güven üretiyor ve bu, hiç set olmamasından daha tehlikeli.
Kalite panolarının çoğu tek bir yüzdeye indirgeniyor ve yayın kararı o yüzdeye bakılarak veriliyor. Bu, birbirine dönüştürülemeyen şeyleri toplamak demek: bir doğruluk kaybı ile bir güvenlik ihlali aynı ortalamada eritiliyor. Karar tek skorla değil, her biri kendi eşiğine sahip bir ölçü kümesiyle verilmeli — ve bazı eşikler ortalamaya girmeyip tek başına veto hakkına sahip olmalı.
Kırmızı takım çalışması genellikle yayın öncesi bir tatbikat olarak kurgulanıyor: bir hafta saldırılır, bulgular raporlanır, düzeltilir, yayına çıkılır. Bu kurgunun sorunu, bulunan her açığın tek seferlik sayılması. Oysa bir istem enjeksiyonu yolu kapatıldıktan sonra bir sürüm güncellemesiyle geri açılabiliyor. Kırmızı takım bulguları düzeltildiğinde silinmiyor — otomatik koşan bir regresyon setine dönüşüyor.
Dil modeli sistemlerinde gecikme dağılımı simetrik değil: çıktı uzunluğu, bağlam boyutu, kuyruk bekleme ve ajan turları yüzünden sağ kuyruk uzun. Ortalama gecikme bu kuyruğu gizliyor ve kullanıcı deneyimini belirleyen şey tam olarak kuyruk. Bir sistem ortalamada iyi, en yavaş yüzde birlik diliminde kullanılamaz olabilir — ve panoda ilki görünüyor.
Kurumsal yapay zekâ yasakları çalışanların araç kullanmasını engellemiyor; kullanımı görünmez kılıyor. Yasak sonrası kullanım kişisel hesaplara, kişisel cihazlara ve denetlenmeyen arayüzlere kayıyor — yani veri sızıntısı riski azalmıyor, tam aksine kurumun hiç göremediği bir kanala taşınıyor. Doğru müdahale yasak değil, onaylı ve izlenebilir bir yol açmak.
Sesle kimlik doğrulama, sesin taklit edilemez olduğu varsayımına dayanıyordu. Bu varsayım artık geçerli değil: kısa bir kayıttan üretilen bir ses, telefon kanalının sıkıştırması altında insan kulağıyla ayırt edilemiyor. Sonuç, sesin bir kimlik kanıtı olmaktan çıkıp yalnızca bir kolaylık unsuruna dönüşmesi — ve sesle onay veren her sürecin yeniden tasarlanması gerekliliği.
Geri getirmeli sistemlerde yetki genellikle son adıma bırakılıyor: model cevabı üretir, sonra kullanıcının göremeyeceği kaynaklar ayıklanır. Bu yaklaşım iki şeyi birden bozuyor — cevap yetkisiz belgelerden beslendiği için içerik sızıyor ve ayıklama sonrası cevap tutarsız kalıyor. Yetki, geri getirme sorgusunun içinde olmalı; sonradan uygulanan yetki yetki değil, perdeleme.
Veri yönetişimi genellikle hızın karşıtı sayılıyor: kurallar arttıkça proje yavaşlar. Pratikte tersi oluyor. Yönetişimsiz bir ortamda her yeni yapay zekâ projesi aynı soruları sıfırdan soruyor — bu veri nereden geliyor, kim sahibi, hangi sınıfta, kullanılabilir mi? Bu sorular her projede yeniden cevaplandığında gecikme kuralların değil belirsizliğin sonucu oluyor.
Bir modelin eğitim kümesine giren veri, sonradan kaldırılamıyor: silme talebi geldiğinde yapılabilecek şey ya modeli yeniden eğitmek ya da etkiyi bastırmaya çalışmak. İkisi de tam bir çözüm değil. Bu yüzden eğitim verisi kararı, geri döndürülebilir bir yapılandırma değil kalıcı bir taahhüt — ve kalıcı taahhütler hazırlıkla verilir.
Sentetik içerik işaretleme tartışması etiketin nasıl basılacağı üzerine yoğunlaşıyor. Asıl boşluk başka yerde: etiketi olmayan bir içeriğin ne anlama geldiği tanımlı değil. Etiketleme gönüllüyse, etiketsizlik 'insan yapımı' anlamına gelmiyor — yalnızca 'bilinmiyor' anlamına geliyor. Bu belirsizlik sürdükçe etiket, dürüst üreticiyi işaretleyip kötü niyetli olanı serbest bırakıyor.
Bir sağlayıcının modelini kullanmak, o modelin çıktısından doğan sorumluluğu sağlayıcıya geçirmiyor. Kullanıcıya görünen taraf sizsiniz: sistemi tasarlayan, bağlamı kuran, çıktıyı sunan ve kullanım amacını belirleyen taraf. Sözleşmedeki sorumluluk sınırları sağlayıcı ile aranızdaki ilişkiyi düzenliyor — kullanıcıyla ya da denetleyiciyle aranızdaki ilişkiyi düzenlemiyor.
Adillik, tek bir ölçüyle ifade edilebilir bir şey değil. Yaygın kullanılan ölçütler — gruplar arası eşit kabul oranı, eşit hata oranı, eşit kalibrasyon — matematiksel olarak aynı anda sağlanamıyor; biri iyileşirken diğeri bozuluyor. Bu yüzden adillik çalışması bir optimizasyon değil bir tercih: hangi ölçütün bu bağlamda önemli olduğuna karar vermek ve bu kararı gerekçelendirmek.
Bir modelin iç işleyişini anlamak ile bir kararın gerekçesini sunmak iki farklı iş. Birincisi araştırma alanı: mekanizmanın ne olduğunu çözmek. İkincisi ürün gerekliliği: kullanıcıya ya da denetleyiciye bir gerekçe vermek. Karıştırıldığında ortaya çıkan şey en tehlikeli sonuç — makul görünen ama modelin gerçek işleyişiyle ilgisi olmayan bir açıklama.
Modelin eğitimle kazandığı davranış sınırları — zararlı isteği reddetmesi, talimatlara uyması — bir güvenlik katmanı gibi kullanılıyor. Ama bu sınırlar olasılıksal, sürüme duyarlı ve girdiyle etkilenebilir. Uygulama güvenliği ise deterministik kontrollere dayanıyor: yetki denetimi, giriş doğrulama, çıktı maskeleme. İkincisi birincinin yerine geçebiliyor; birincisi ikincinin yerine geçemiyor.
Nicemleme kararı genellikle tek bir karşılaştırmayla veriliyor: değerlendirme setinde doğruluk ne kadar düştü? Düşüş küçükse karar olumlu. Oysa nicemlemenin etkisi homojen değil — kayıp, nadir girdilerde, uzun bağlamlarda, yapılandırılmış çıktılarda ve Türkçe gibi daha az temsil edilen dillerde yoğunlaşıyor. Ortalama bu yoğunlaşmayı tam olarak gizliyor.
Model büyüklüğü uzun süre bir yetenek göstergesi olarak kullanıldı ve bu kısayol artık çalışmıyor. Seyrek etkinleştirmeli mimariler toplam parametre ile aktif parametreyi ayırdı, eğitim verisi miktarı ve kalitesi belirleyici hâle geldi, son eğitim aşamaları davranışı büyüklükten bağımsız biçimde değiştiriyor. Parametre sayısıyla yapılan karşılaştırma bugün yalnızca yanlış değil, yanlış yönde.
Kurumlar kendi kodlarının her değişikliğini test ediyor ama sistemin en belirleyici bileşeni — sağlayıcının modeli — habersiz değişebiliyor. Aynı sürüm adı altında davranış kayabiliyor, bir sürüm kullanımdan kaldırılabiliyor, bir güvenlik ayarı sıkılaşabiliyor. Bu değişiklikler sizin dağıtım hattınızdan geçmiyor ve bu yüzden hiçbir kapıda yakalanmıyor.
Cihaz üstü ve küçük modeller genellikle maliyet tasarrufu olarak pazarlanıyor ve bu hesap çoğu zaman tutmuyor: kendi barındırmanın toplam maliyeti, düşük kullanım oranlarında API'den pahalı olabiliyor. Asıl gerekçe başka yerde — verinin cihazdan hiç çıkmaması. Bu, bir maliyet kalemi değil bir uyum ve güven özelliği ve bazı kullanımlarda tek uygulanabilir seçenek.
Getiri hesapları neredeyse her zaman aynı biçimde kuruluyor: bir iş kaç dakika kısaldı, kaç kişi kaç saat kazandı. Bu hesap, işin bir bölümünü hiç saymıyor — çıktının doğrulanması. Bir metin on dakikada değil bir dakikada üretiliyorsa ama doğrulanması yedi dakika sürüyorsa kazanç iki dakika, dokuz değil. Doğrulama yükü ölçülmeyen her getiri hesabı yanlış.
Kurumsal yapay zekâ stratejileri genellikle bir olanak listesi hâline geliyor: şu departmanda şu, bu departmanda bu. Bu bir strateji değil bir envanter. Strateji, kaynağın sınırlı olduğunu kabul edip hangi işlerin yapılmayacağına karar vermek. Yapılmayacaklar listesi olmayan bir plan, on beş pilot projeyle başlayıp hiçbiri üretime geçmeden biten bir yıl üretiyor.
Bir yapay zekâ aracı kullanılmıyorsa ilk varsayım arayüz oluyor: eğitim verelim, tanıtım yapalım, daha kolay hâle getirelim. Oysa benimseme genellikle bir kalibrasyon sorunu — kullanıcı aracın ne zaman güvenilir olduğunu bilmiyor. Ne zaman doğru olduğunu bilmeyen bir kullanıcı ya hiç kullanmıyor ya her şeye güveniyor; ikisi de başarısızlık.
"Şu meslek yok olacak" tartışması yanlış birimde yürüyor. Meslekler görev demetleri ve bu demetlerin içindeki görevler farklı derecede etkileniyor. Bir mesleğin görevlerinin yarısı hızlanırken diğer yarısı hiç değişmiyorsa, o meslek yok olmuyor — içeriği değişiyor, kıdem dağılımı kayıyor ve işe alım ölçütleri farklılaşıyor. Etki gerçek ama başka biçimde.
İnce ayar en sık şu gerekçeyle isteniyor: modelin bizim verimizi bilmesini istiyoruz. Bu, ince ayarın yapmadığı iş. İnce ayar modele bir davranış kalıbı öğretiyor — nasıl biçimlendirileceğini, hangi tonu kullanacağını, hangi adımları izleyeceğini. Bilgiyi güncel ve doğrulanabilir biçimde taşımanın yolu geri getirme. İkisini karıştırmak, pahalı ve yanlış bir çözüme gidiyor.
"İstem mühendisliği bitti" iddiası bir gözlemden doğuyor: modeller talimat takip etmede o kadar iyileşti ki ince istem hileleri gereksizleşti. Gözlem doğru, sonuç yanlış. İşin ağırlığı istemin ifade biçiminden bağlamın bileşimine kaydı: pencereye ne konacak, hangi sırayla, ne kadarı, hangi kaynaktan. Bu daha teknik ve daha belirleyici bir iş.
Aynı anlamı taşıyan bir metin Türkçe yazıldığında, İngilizce yazıldığından daha fazla token'a bölünüyor. Bu, doğrudan üç sonuç doğuruyor: aynı iş için daha yüksek fatura, aynı pencereye daha az içerik ve aynı çıktı için daha uzun süre. Etki modelden modele değişiyor ama yönü sabit ve hiçbir fiyat listesinde görünmüyor.
Bir görü modelinin test kümesindeki doğruluğu, sahadaki doğruluğunu tahmin etmiyor. Nedeni basit: test kümesi eğitim verisiyle aynı koşullarda toplanmış — aynı kameralar, aynı ışık, aynı açılar, aynı etiketleyiciler. Saha bu koşulları paylaşmıyor. Bu yüzden laboratuvar doğruluğu bir yeterlilik kanıtı değil, yalnızca bir alt sınır belirtisi.
