LAB · DEMO
Sentetik İçerik İşaretleme Demosu
Üretilmiş bir görselin veya metnin taşıdığı makine okunur işareti ekranda gösteren, işaretin kırpma ve yeniden kodlama gibi işlemlerden sonra hangi durumla okunduğunu yan yana koyan arayüz denemesi. İçeriğin kökenine bakan editör ve moderasyon ekiplerinin işaretin ne söylediğini ne söylemediğinden ayırması için yazıldı.
Durum
GeliştiriliyorBu projenin girdi tanımları, arayüz tasarımıyla birlikte yayımlanacak.
Sentetik İçerik İşaretleme Demosu henüz yayında değil
Bu proje geliştirme listesinde. Yayına girdiğinde bültenle duyurulacak; çalışan araçları Lab sayfasından görebilirsiniz.
Projenin içi
Kurulum, varsayımlar, ölçüm düzeni ve sınırlılıklar.
Kısa cevap
Demo bir içerik işaretinin var olup olmadığını ve okunabilir kalıp kalmadığını gösterir; içeriğin üretilmiş, doğru ya da izinli olduğunu göstermez.
Gösterdiği şey#
Üretici modellerden çıkan dosyalar kökenini bildiren bir işaret taşıyabilir: dosya üstbilgisine yazılan köken kaydı, piksel ya da token dağılımına gömülü filigran, veya dosyadan ayrı tutulan bir imza. Demo bu üç işaret ailesini aynı ekranda ele alır ve her biri için doğrulayıcının döndürdüğü durumu gösterir. Ekranın çıktısı bir tespit skoru değil, dört durumdan biridir: okundu, yok, bozuk, doğrulanamadı.
Arayüz kararları#
| Karar | Neden | Alternatifi neden değil |
|---|---|---|
| Dört ayrı durum etiketi: okundu, yok, bozuk, doğrulanamadı | "İşaret yok" ile "okuyamadım" farklı bilgilerdir; ikisini aynı kutuya koymak yanlış güven üretir | İkili yeşil-kırmızı gösterge, aracın karar veremediği durumu da olumsuz karar gibi okutur |
| Yüzdelik bir olasılık değeri gösterilmiyor | Doğrulayıcı işaretin okunup okunmadığını söyler, içeriğin üretilmiş olma olasılığını söylemez | Tek bir yüzde, farklı kaynaklardan gelen belirsizlikleri aynı sayıda eritir ve ölçülmüş gibi görünür |
| İşlem geçmişi dosyanın yanında zaman sırasıyla duruyor | Bir işaretin okunamaması çoğu zaman dosyaya sonradan yapılan işlemle ilgilidir | Yalnızca son durumu göstermek, sebebi arayüzden tümüyle siler |
| Her satır hangi doğrulayıcıdan geldiğini adıyla taşıyor | Hangi doğrulayıcının hangi işaret ailesine baktığı kararın parçasıdır | Tek birleşik sonuç, iki doğrulayıcının çeliştiği durumu gizler |
Kullanıcı akışı#
- 1Dosyayı bırak
Kullanıcı tek bir görsel veya metin dosyasını alana bırakır; demo dosyayı tarayıcıda okur, bir sunucuya yüklemez.
- 2İşaret ailesini seç
Üstbilgi kaydı, gömülü filigran ve ayrık imza sekmeleri ayrı durur; kullanıcı hangi aileye bakıldığını görerek geçiş yapar.
- 3İşlem uygula
Kırpma, yeniden kodlama, ekran görüntüsü ve biçim dönüştürme işlemleri listeden seçilir; her işlem geçmişe bir satır ekler.
- 4Durumları karşılaştır
Özgün dosyanın ve işlem görmüş kopyanın durum etiketleri yan yana kalır; kullanıcı hangi adımda okunabilirliğin değiştiğini izler.
İşlemler ve durum etiketleri#
| İşlem | Arayüzde ne görünür | Satırın altına yazılan not |
|---|---|---|
| Kayıpsız biçimde kopyalama | Özgün dosyanın durum etiketi değişmeden kalır | İşareti taşıyan alana bu işlemde dokunulmamıştır |
| Yeniden kodlama veya sıkıştırma | Durum etiketi "bozuk" ya da "doğrulanamadı" tarafına geçebilir | Etiketin değişmesi içerik hakkında değil, dosyanın geçtiği işlem hakkında bilgidir |
| Ekran görüntüsü alma | Üstbilgi kaydı sekmesi "yok" döner, gömülü filigran sekmesi ayrı bir durum gösterir | Ayrık kayıt ile gömülü işaretin aynı işlem karşısındaki davranışı aynı değildir |
| Metni biçimsiz olarak başka bir alana yapıştırma | Metnin kendisinde değil, üstbilgi veya biçim katmanında tutulan işaretler düşer ve o sekmede durum "yok" olur | "Yok" sonucu, metnin insan eliyle yazıldığı anlamına gelmez |
Belirsizlik nasıl gösteriliyor#
Bu ekranda en çok bilgi taşıyan yer, doğrulayıcının cevap veremediği durumdur. Bu yüzden belirsizlik köşede küçük bir simge değil, durum etiketinin kendisidir: "doğrulanamadı" diğer üç etiketle aynı boyutta ve aynı konumda görünür. Etiketin altında o sonucun neyi kapsamadığı tek cümleyle yazılır.
- "Doğrulanamadı" etiketi doğrulayıcının çalıştığını ama karar veremediğini söyler; sonucun yokluğu ile olumsuz sonuç ayrı tutulur.
- "İşaret yok" satırının altında, işaretlemeyi hiç uygulamayan üreticilerin de aynı sonucu vereceği notu durur.
- Her durum etiketi geldiği doğrulayıcının adını taşır; kaynağı yazılamayan bir sonuç ekrana basılmaz.
- İşlem geçmişinde yalnızca kullanıcının bu ekranda uyguladığı adımlar görünür; dosyanın demoya gelmeden önce ne gördüğü bilinmez ve o satır boş bırakılır.
Sınırlılıklar#
Demo bir tespit aracı değildir ve öyle kullanılamaz. Gösterdiği tek şey, eldeki dosyada belirli bir işaretin okunabilir olup olmadığıdır; içeriğin üretilmiş olup olmadığı, doğru olup olmadığı veya izinli kullanılıp kullanılmadığı bu ekranda cevaplanmaz. İşaretleme uygulamayan bir üreticiden çıkan dosya ile işareti sonradan silinmiş bir dosya arayüzde aynı satırı verir.
Aracın arkasındaki kavramlar
Hesaplayıcı bir kararı hızlandırır; kararın nedenini kavram girdileri anlatır.
- Generative AIGenerative AIÖğrendiği veri dağılımından yeni metin, görsel, ses, video veya kod örnekleri üreten model ailesinin genel adıdır.
- Responsible AIResponsible AIYapay zekâ sistemlerinin adillik, şeffaflık, hesap verebilirlik, gizlilik ve güvenlik boyutlarını tasarım aşamasından itibaren yönetme yaklaşımıdır.
Lab'dan
- AraçÇalışıyorAI ROI HesaplayıcıSüre tasarrufu ve hata azaltma üzerinden yatırım geri dönüşü tahmini.
- AraçÇalışıyorAjan Adım MaliyetiBir ajan döngüsünün adım sayısı, biriken bağlamı ve kendi fiyatlarınızla toplam token faturasını hesaplar. Adım sınırının neden bir maliyet kararı olduğunu ve bağlam penceresinin kaçıncı adımda dolduğunu görünür kılar.
- DeneyYakındaAjan Bellek Mimarisi DeneyiÖzetleme, vektör belleği ve kayan pencere yaklaşımlarını aynı uzun ajan görevinde karşılaştıran ölçüm düzeni. Bellek mimarisi seçimini karara bağlamak isteyen ekipler için, bilgi kaybının hangi turda başladığını görünür kılacak denetim noktaları üzerine kurulur.
- Açık KaynakYakındaAjan İzleme KitiAjan döngüsünün her turunu — araç çağrısını, dönen yanıtı ve büyüyen bağlamı — tek bir iz kaydında toplayan kit. Başarısız bir koşunun hangi adımda saptığını sonradan yeniden oynatarak görebilmek için kurulur.
- DemoYakındaAjan Plan Görünümü DemosuAjanın planını adımlar yürümeden önce gösteren, her adımın gerekçesini ve plan değişikliklerini iz bırakacak biçimde tutan arayüz taslağı. Müdahale ve geri sarma noktalarının nereye konması gerektiğini tartışır.
- DeneyYakındaAkıl Yürütme Bütçesi DeneyiDüşünme bütçesi kademe kademe yükseltildiğinde doğruluk kazancının nerede düzleştiğini arayan ölçüm düzeni. Bütçeyi görev türüne göre ayarlamak isteyen ekipler, ek bütçenin karşılığı olup olmadığını kendi görev kümesinde görebilir.
BUILD
Hesap tuttu, sıra uygulamada
Aynı hesabı kendi verinizle yapıp mimariyi kurmak için kurumsal destek alabilirsiniz.