Şeffaflık etiketi yeterli değil; etiketlenmemişin anlamı da tanımlanmalı

Tez#

Sentetik içerik işaretleme çalışmaları teknik tarafta belirgin biçimde ilerledi: içeriğe gömülen köken bilgisi, üretim geçmişini taşıyan imzalı üstveri, görünmez filigranlar. Bunların hepsi işe yarar araçlar ve hiçbiri tartışmanın asıl boşluğunu kapatmıyor.

Boşluk çıkarım tarafında. Bir kullanıcı etiketli bir görsel gördüğünde ne anladığı açık: bu görsel yapay zekâ ile üretilmiş. Ama etiketsiz bir görsel gördüğünde ne anlaması gerektiği tanımlı değil ve pratikte yanlış anlıyor — etiketsizliği "gerçek" olarak okuyor. Oysa etiketleme gönüllü ya da eksik uygulanıyorsa, etiketsizlik yalnızca bilginin olmadığını gösteriyor. Bu iki farklı şeyin — yokluk ile olumsuzluk — karıştırılması, işaretleme sisteminin faydasını tersine çevirebiliyor: sistem varken kullanıcı daha çok güveniyor ama güvenin dayanağı yok.

Bağlam: etiketin hayatta kalma yolu#

Etiketin işe yaraması için içeriğin yolculuğu boyunca hayatta kalması gerekiyor. Tablo, tipik aşamalarda ne olduğunu gösteriyor.

Üçüncü satır en çok düzeltilebilir olan. Platformlar yükleme sırasında görüntüyü yeniden kodluyor ve üstveriyi çoğu zaman gereksiz veri olarak atıyor. Bu teknik bir zorunluluk değil bir varsayılan; köken bilgisini koruyan bir yükleme hattı kurulabiliyor. Ama bu, platformların ayrı ayrı vereceği bir karar ve çoğu vermemiş durumda.

Kanıt: sistemin çalışması için gerekenler#

İşaretlemenin kullanıcıya gerçek bir bilgi vermesi için dört katmanın birlikte kurulması gerekiyor. Bugün her katmanda ayrı bir eksik var.

• Üretimde basma: üretici araçların etiketi varsayılan olarak basması. Seçime bırakıldığında kötü niyetli kullanıcı seçmiyor.
• Aktarımda koruma: platformların yükleme hattında köken bilgisini silmemesi. Bugün en yaygın kopma noktası.
• Arayüzde gösterim: kullanıcının etiketi görebilmesi. Üstveride duran ama gösterilmeyen bir etiket kullanıcı için yok.
• Etiketsizliğin anlamı: sistemin, etiketsiz içeriğin ne anlama geldiğini açıkça söylemesi. "Köken bilgisi yok" ile "insan yapımı" ayrımı yapılmalı.
• Kurcalama tespiti: etiketin silinip silinmediğinin anlaşılabilmesi. Sessizce silinen bir etiket hiç olmamış gibi davranıyor.
• Zorunluluk: gönüllü bir sistemde yalnızca dürüst üretici etiketliyor; yaptırım olmadan kapsam sağlanamıyor.

Dördüncü madde en az konuşulan ve en belirleyici olan. Bir platform "bu içerik yapay zekâ ile üretildi" etiketi gösteriyor ama etiketsiz içerik için hiçbir şey söylemiyorsa, kullanıcı boşluğu kendi varsayımıyla dolduruyor ve varsayımı yanlış oluyor. Doğru gösterim iki durumlu değil üç durumlu: "yapay zekâ ile üretildi", "insan yapımı olduğu doğrulandı" ve "köken bilgisi yok". Üçüncü durumun açıkça söylenmesi, sistemin dürüstlüğünü belirleyen tek şey.

Mekanizma: gönüllülüğün ters teşviki#

Gönüllü etiketleme sistemleri bir teşvik sorunuyla karşılaşıyor. Etiketleme, içeriğin algılanan değerini düşürüyor — etiketli bir görsel daha az paylaşılıyor, etiketli bir metin daha az güvenilir sayılıyor.

Bu durumda etiketlemeyi seçen taraf, bir maliyet üstleniyor; etiketlemeyen taraf ise bir avantaj kazanıyor. Sonuç, ekonomide bilinen bir ters seçim kalıbı: dürüst davranan cezalandırılıyor. Somut sonucu şu — etiketli içerik kütlesi, gerçek sentetik içerik kütlesinin küçük ve yanlı bir örneklemi oluyor. Kurumsal ve iyi niyetli üreticiler etiketliyor, kötü niyetli olanlar etiketlemiyor. Yani etiket, tam olarak kendisine en çok ihtiyaç duyulan yerde yok. Bu yüzden gönüllü bir sistem, iyi niyetli bir şeffaflık aracı olabilir ama bir koruma mekanizması olamıyor — ve ikisi sık karıştırılıyor.

Karşı görüş#

Üç itiraz güçlü. Birincisi: kusurlu bir sistem hiç sistem olmamasından iyi; etiketli içeriğin bir bölümünün görünmesi bile fayda. İkincisi: zorunluluk uygulanabilir değil — hangi araç ne ürettiğini merkezî olarak denetlemenin yolu yok. Üçüncüsü: üç durumlu gösterim kullanıcıyı yoruyor ve ürün ekipleri basit ikili etiketi tercih ediyor.

Etiket gösterimini açtık. İlk haftada kullanıcı geri bildirimi şuydu: etiketsiz içeriklerin doğrulanmış olduğunu sandık. Gösterimi üç duruma çevirdik.

Birinci itiraz kısmen doğru ama bir koşulla: kusurlu sistemin kusurunun kullanıcıya söylenmesi. Söylenmezse sistem faydadan zarara geçiyor, çünkü kullanıcı etiketin kapsamını tam sanıyor ve etiketsizliği güvence okuyor. İkinci itiraz doğru — merkezî denetim yok — ama zorunluluk üretici araçlar yerine büyük platformlara ve yayıncılara uygulanabiliyor; kapsamı sınırlı ama sıfır değil. Üçüncü itiraz alıntının doğrudan yanıtladığı yer: ikili gösterim kullanıcıyı yormuyor ama yanlış bilgilendiriyor ve yanlış bilgilendirme bir basitlik kazancıyla telafi edilmiyor.

Sınırlar ve belirsizlik#

Bu alan hızla değişiyor ve bu analiz bir teknik standart değerlendirmesi değil.

• Standartlar olgunlaşıyor: köken bilgisi taşıyan biçimlerin yaygınlığı artıyor; tablo zamanla değişecek.
• Filigran dayanıklılığı ölçülmedi: görünmez filigranların yeniden kodlamaya dayanma oranı yönteme göre değişiyor.
• Kullanıcı algısı verisi sınırlı: etiketin davranışı nasıl değiştirdiğine dair Türkçe bağlamda ölçüm bulunmuyor.
• Regülasyon tarafı hareket hâlinde: zorunluluk kapsamı ülkeye ve içerik türüne göre farklı gelişiyor.

Sonuç#

İşaretleme tartışmasının merkezine etiketin kendisi konuyor ama belirleyici olan etiketsizliğin anlamı. Gönüllü bir sistemde etiketsizlik "insan yapımı" değil "bilinmiyor" demek; kullanıcı bu ayrımı kendiliğinden yapmıyor ve yanlış tarafa yorumluyor.

Bu yüzden bir platformun yapacağı en değerli şey etiket basmak değil, üç durumu ayırmak: üretildiği bilinen, insan yapımı olduğu doğrulanan ve köken bilgisi olmayan. Üçüncü durumu açıkça söylemek, sistemin dürüstlüğünü belirliyor. Gönüllü etiketleme iyi niyetli bir şeffaflık aracı olabilir; ama bir koruma mekanizması olarak sunulduğunda, dürüst üreticiyi işaretleyip kötü niyetli olanı serbest bırakan bir düzen kuruyor.

Ne yapmalı?#

1. 1Üç durumlu gösterime geçin

   Üretildiği bilinen, insan yapımı doğrulanan, köken bilgisi olmayan. İkili gösterim yanlış bilgilendiriyor.

2. 2Kapsamı açıkça söyleyin

   Etiketlemenin gönüllü olduğu ve kapsamın kısmi olduğu kullanıcıya iletilmeli.

3. 3Yükleme hattında köken bilgisini koruyun

   Yeniden kodlamada üstveriyi atmak bir varsayılan, zorunluluk değil. En yaygın kopma noktası burası.

4. 4Etiketi arayüzde gösterin

   Üstveride duran ama gösterilmeyen bir etiket kullanıcı için yok sayılıyor.

5. 5Kurcalama tespitini ekleyin

   Sessizce silinen bir etiket hiç olmamış gibi davranıyor; silinme izinin görünmesi gerekiyor.

6. 6Kendi üretiminizde varsayılanı açık tutun

   Seçime bırakıldığında etiketleme yapılmıyor; kurumsal üretimde varsayılan basma olmalı.