MESLEK · Mühendislik
LLM Uygulama Geliştirici nasıl olunur?
Dil modelini son kullanıcıya dokunan bir arayüzün arkasına yerleştiren, akış, hata ve bekleme deneyimini tasarlayan geliştirici.
- Temel sorumluluk
- 6
- Kıdem basamağı
- 3
- Beceri
- 6
- Rota bölümü
- 5
Ne yapar?
Aynı iş şu adlarla da anılır: LLM Application Developer · GenAI Application Developer
- 01
Akışlı (streaming) yanıt deneyimini uçtan uca kurar
- 02
Model belirsizliğini arayüzde dürüstçe gösteren durumlar tasarlar
- 03
Kullanıcı geri bildirimini yapılandırılmış veri olarak toplar
- 04
Oturum ve konuşma belleğini sınırlı bağlam penceresine sığdırır
- 05
Kısmi başarısızlıkta kullanıcıyı kilitlemeyen geri dönüş yolları kurar
- 06
Erişilebilirlik ve gecikme algısını birlikte optimize eder
Basamaklar ve ne değiştiği
Unvanlar kurumdan kuruma değişir, sorumluluk sınıfları değişmez. Her basamak bir kanıtla eşleşir: o basamakta olduğunuzu gösterebileceğiniz somut bir iş.
- 1Junior LLM Uygulama GeliştiriciGiriş
Odak
Var olan bir arayüz kalıbını genişletir; akışın çalıştığı durumu kurar.
Bu basamağın kanıtı
Yazdığı akış, ağ kesildiğinde kullanıcıyı boş ekranda bırakmıyordur.
Sorumluluklar
- Akışlı yanıtı doğru bileşende, doğru durumlarla gösterir
- Yapılandırılmış çıktıyı şemaya karşı doğrular ve hatayı yakalar
- Geri bildirim düğmelerini ve kaydını uygular
- 2LLM Uygulama GeliştiriciOrta
Odak
Başarısızlık durumlarının tamamını tasarlar; mutlu yol artık varsayılan değil bir durum.
Bu basamağın kanıtı
Uygulamada model yanlış cevap verdiğinde kullanıcı bunu fark edebiliyordur.
Sorumluluklar
- İptal, yeniden deneme ve kısmi çıktı akışlarını kurar
- Bağlam bütçesini oturum uzadıkça yöneten strateji seçer
- Yanlış çıktının kullanıcıya nasıl bildirileceğine karar verir
- Geri bildirimi değerlendirme setine akan bir veri kaynağına çevirir
- 3Senior LLM Uygulama GeliştiriciKıdemli
Odak
Ürünün belirsizlikle ilişkisini tanımlar; ekibin kalıplarını yazar.
Bu basamağın kanıtı
Kurduğu kalıplar başka ekiplerin arayüzlerinde de kullanılıyordur.
Sorumluluklar
- Belirsizlik gösterme dilini standartlaştırır (ne zaman kaynak, ne zaman uyarı, ne zaman ret)
- Gecikme algısını mimariye bağlar: neyin önden, neyin akışla geleceğine karar verir
- Geri bildirim döngüsünü ürün kararlarına bağlayan hattı kurar
İş günü neye benziyor?
Meslek seçimini unvan değil, günün nasıl geçtiği belirler.
Sabah
Dünkü oturumlarda yarıda kesilen üretimleri ve iptalleri inceler.
Öğleden önce
Bağlam bütçesi taşan uzun oturumlar için özetleme stratejisini ölçer.
Öğleden sonra
Tasarımla birlikte 'model emin değil' durumunun arayüzdeki karşılığını çalışır.
Gün sonu
Toplanan olumsuz geri bildirimleri sınıflandırıp değerlendirme setine taşır.
Beceriler ve araçlar
Araç listesi hızla değişir; işe alım görüşmelerinde belirleyici olan araçlar değil beceriler.
Gerekli beceriler
- Modern istemci çatısı ve akış (streaming) yönetimi
- Durum makinesi kurma: bekleme, kısmi, hata, iptal
- Bağlam penceresi bütçeleme
- Yapılandırılmış çıktı ve şema doğrulama
- Kullanıcı geri bildirimi tasarımı
- Erişilebilirlik (canlı bölge, odak yönetimi)
Bu role hangi geçmişlerden gelinir
- Ön yüz geliştiriciliğinden geçiş
- Tam yığın ürün geliştiriciliğinden kayma
- Etkileşim tasarımından kod tarafına geçiş
Teknolojiler
- Sunucu tarafı akış (SSE veya benzeri)
- Şema doğrulayıcı
- Sağlayıcı SDK'ları
- Oturum deposu
- Ürün analitiği
Bilmesi gereken kavramlar
Ne üretir, nasıl ölçülür?
Bir rolün gerçek tanımı unvanında değil, ürettiği çıktıda ve başarısının nasıl ölçüldüğündedir.
Ürettiği çıktılar
- Akış, iptal ve hata durumlarını kapsayan bileşen kütüphanesi
- Bağlam bütçeleme stratejisi belgesi
- Yapılandırılmış geri bildirim şeması
- Belirsizlik gösterme kılavuzu
Başarı ölçütleri
- Yarıda bırakılan oturum oranı
- Kullanıcının yanıtı beklemeden ayrıldığı oturumlar; gecikme algısının ve akış tasarımının doğrudan ölçüsü.
- Geri bildirimin kullanılabilirliği
- Toplanan olumsuz geri bildirimin kaçta kaçının değerlendirme setine dönüştürülebildiği.
- Sessiz hata oranı
- Model yanlış cevap verdiği hâlde arayüzün bunu hiçbir biçimde işaret etmediği durumlar.
Bu mesleğe çıkan öğrenme yolu
Maaş verisi
Maaş aralıkları, Sinaptik Research'ün saha araştırması yayımlandığında — örneklem büyüklüğü, toplama yöntemi ve kaynak bilgisiyle birlikte — bu sayfaya eklenecek. Doğrulanmamış aralık yayımlanmaz; bu alanda en çok okunan ve en kolay yanlış yönlendiren veri budur.
Neyi göstermek işe yarar?
Çalışan bir demo tek başına yetmez; demolar kolay, kalıcılık zordur. Aşağıdaki her madde belirli bir yetkinliği kanıtlar.
Akış deneyimi kıyaslaması
Aynı özelliği önce tek seferde yanıt, sonra akışla üreten iki sürüm yazıp beklemenin algılanışını karşılaştırmak.
Neyi kanıtlar: Gecikme aynı kaldığı hâlde algının değiştiğini gösterebilmek.
Uzun oturum bağlam yönetimi
Konuşma uzadıkça bağlamı özetleyen, neyi attığını kullanıcıya söyleyen bir arayüz.
Neyi kanıtlar: Bağlam taşmasında bilgi kaybını gizlemeyen bir tasarım.
Uzun Bağlamda Bilgi KaybıReddedebilen arayüz
Modelin emin olmadığında cevap üretmek yerine durduğu ve bunu kullanıcıya gerekçesiyle söylediği bir akış.
Neyi kanıtlar: Reddin kullanıcıyı kaçırmadan yapılabildiğini gösteren bir tasarım.
Sık duyulan ama yanlış
Bu iş, sohbet kutusu yerleştirmekten ibarettir.
Sohbet kutusu en kolay parçadır. İşin ağırlığı, modelin yanılabilir olduğunu kullanıcıya gizlemeden ürünü kullanılabilir tutmaktır.
Akış (streaming) yalnızca bir görsel süstür.
Akış, uzun üretimlerde kullanıcının iptal edebilmesini ve yanlış gidişi erken görmesini sağlar; bir kontrol mekanizmasıdır.
Geri bildirim düğmesi koymak geri bildirim toplamaktır.
Yapılandırılmamış başparmak verisi değerlendirme setine dönüşmez. Geri bildirimin hangi örnekle, hangi bağlamla eşleştiği kaydedilmezse veri değil gürültüdür.
Bununla karıştırılanlar
Kariyer kararı çoğunlukla 'bu meslek nedir' değil 'bununla şu arasındaki fark nedir' sorusudur.
- AI EngineerAI Engineer sistemin arkasındaki akıştan, LLM Uygulama Geliştirici o akışın kullanıcıya dokunan yüzünden sorumludur. Küçük ekiplerde ikisi aynı kişidir.
- Konuşma Arayüzü GeliştiriciKonuşma Arayüzü Geliştirici ses kanalının gerçek zamanlı kısıtlarıyla uğraşır; burada kanal metin ve ekrandır.
Aynı rol ailesinden: Mühendislik
Sık sorulan sorular
Bu rol ön yüz geliştiriciliğinden ne kadar farklı?
Temel beceriler ortaktır; ayrışma, üzerinde çalışılan sistemin belirleyici olmamasından gelir. Klasik bir arayüzde aynı girdi aynı çıktıyı verir ve hata durumları sonludur. Dil modeli arayüzünde çıktı her seferinde değişebilir, kısmi gelebilir, yanlış ama inandırıcı olabilir. Tasarım işi bu belirsizliği gizlemeden taşınabilir kılmaktır.
Akış (streaming) her zaman doğru seçim mi?
Hayır. Akış, uzun ve okunarak tüketilen üretimlerde kullanıcıya erken bilgi ve iptal imkânı verir. Kısa ve yapılandırılmış bir çıktıda ise yarım görünen JSON ya da yarım tablo, beklemekten daha kötü bir deneyimdir. Çıktı bir bütün olarak anlam kazanıyorsa tek seferde göstermek doğrudur.
Konuşma belleği nasıl yönetilir?
Bağlam penceresi sonlu olduğu için uzayan her oturumda bir şey atılmak zorundadır. Üç yaygın strateji vardır: en eskiyi atmak, aralıklı özetlemek ve yalnızca ilgili geçmişi geri getirmek. Hangisi seçilirse seçilsin kritik olan kararın kullanıcıdan gizlenmemesidir; modelin unuttuğunu kullanıcının fark etmemesi en pahalı hata türüdür.
LEARN
Nereden başlayacağını bilmiyorsan önce ölç
Seviye testi, mevcut becerilerine göre hangi bölümden başlaman gerektiğini söyler.