Sağlıkta yapay zekâ: kişisel veri ve klinik doğrulama

Sağlık projelerinde en pahalı belirsizlik teknik değil tanımsaldır: uygulamanın ne iddia ettiği yazılmaz. 'Radyoloji iş akışını hızlandıran bir asistan' cümlesi bir kullanım amacı değildir; kimin neyi ne zaman göreceğini söylemez. Kullanım amacı, öznesi ve zamanı belli tek bir cümle olmalıdır: 'Ön değerlendirme listesindeki çekimleri, uzman hekim okumasından önce öncelik sırasına dizer.' Bu cümle değiştiğinde hem hukuki kapsam hem doğrulama tasarımı değişir.

Tıbbi cihaz mevzuatı yazılımı kullanım amacına göre değerlendirir: teşhis, önleme, izleme veya tedavi amacı taşıyan bir yazılım, donanımı olmasa da cihaz kapsamına girebilir. Bu değerlendirmeyi geliştirme bittikten sonra yapmak, ürünü baştan yazmak anlamına gelebilir; çünkü kapsam girildiğinde kalite yönetim sistemi, teknik dosya, risk yönetimi ve klinik değerlendirme birer ürün gereksinimidir, sonradan eklenen belge değil.

• Çıktı bir klinik kararı doğrudan mı yönlendiriyor, yoksa yalnızca bilgiyi mi taşıyor?
• Hekim çıktıyı bağımsız olarak doğrulayabiliyor mu, yoksa çıktıya güvenmek zorunda mı?
• Ürünü kim piyasaya sunuyor: kurum içi kullanım mı, üçüncü tarafa satış mı?
• Model güncellendiğinde sürüm nasıl yönetilecek ve kim onaylayacak?
• Bir olay yaşandığında bildirim ve geri çekme yolu kimde?

Sağlık verisi KVKK'da özel nitelikli kişisel veridir; genel kişisel veriden farklı ve daha dar bir işleme rejimine tabidir. Pratikte bu, 'zaten elimizde' cümlesinin bir dayanak olmadığı anlamına gelir: verinin kurumda bulunma amacı ile model geliştirme amacı farklı olduğunda dayanak yeniden kurulur. Envanteri alan bazında çıkarmak zorunludur, çünkü işleme şartı veri kümesine değil alana ve amaca bağlanır.

Kimliksizleştirme ikili bir durum değil, bir merdivendir ve her basamağın hukuki karşılığı farklıdır. Takma adlandırılmış veri hâlâ kişisel veridir: eşleştirme anahtarı bir yerde durduğu sürece kimliğe geri dönülebilir. Anonimleştirme ise geri dönüşün makul yollarla mümkün olmamasını gerektirir; bunu iddia etmek, yeniden kimliklendirme riskini değerlendirmeyi de gerektirir.

• DICOM üstverisi: hasta adı ve kimlik alanları dışında kurum, cihaz, seri açıklaması ve özel etiketler de tanımlayıcı taşıyabilir.
• Görüntüye yanmış metin: ultrason ve bazı modalitelerde hasta bilgisi piksellerin içindedir; üstveriyi temizlemek bunu temizlemez.
• Serbest metin: klinik notlarda isim, adres, telefon ve akraba bilgisi düzensiz biçimlerde geçer; kural tabanlı temizlik tek başına yetmez, örneklem üzerinden elle denetim gerekir.
• Dolaylı tanımlayıcılar: nadir tanı, kabul tarihi ve küçük bir yerleşim birimi birleştiğinde tek kişiye inilebilir.
• Dosya adları ve klasör yapısı: kimliksizleştirilmiş içeriğin yanında protokol numarası taşıyan bir dosya adı çoğu denetimde atlanır.

Sağlıkta 'doğru cevap' çoğu zaman hazır durmaz; üretilir. Referansı kimin ürettiği, hangi bilgiye bakarak ürettiği ve anlaşmazlıkların nasıl çözüldüğü, modelin ölçülebileceği tavanı belirler. İki uzmanın anlaşmadığı bir sınıfta hiçbir modelin anlaşmazlıktan daha iyi ölçülmesi mümkün değildir; bu yüzden uzmanlar arası uyum, model performansının yanında raporlanmalıdır.

• Referansı kim üretti: kaç okuyucu, hangi uzmanlık düzeyinde?
• Okuyucu neyi gördü: yalnızca görüntü mü, klinik bağlam da mı? Bağlam farkı referansı değiştirir.
• Anlaşmazlık nasıl çözüldü: üçüncü okuyucu, uzlaşma toplantısı yoksa çoğunluk mu?
• Daha güçlü bir referans var mı: patoloji sonucu, takip verisi, kesin tanı kaydı?
• Kohort nasıl oluştu: ardışık hastalar mı, seçilmiş vakalar mı? Seçilmiş kohort performansı olduğundan iyi gösterir.

Kohortun ardışık olması, sağlıkta en çok fark yaratan ayrıntılardan biridir. 'İyi örnekler' üzerinden kurulan bir küme, gerçek akışta karşılaşılan belirsiz ve sınırdaki vakaları dışarıda bırakır; model tam da o vakalarda hata yapar. Dışlama ölçütleri yazılı olmalı ve dışlanan vaka sayısı raporda görünmelidir.

Rastgele bölme, kayıtların bağımsız olduğunu varsayar; sağlıkta bu varsayım neredeyse hiç doğru değildir. Aynı hastanın birden çok çekimi, aynı cihazın imzası ve aynı merkezin protokolü kayıtları birbirine bağlar. Bölme hasta düzeyinde yapılmazsa model hastayı tanır ve ölçüm, gerçekte var olmayan bir başarıyı gösterir.

Tek bir özet sayı klinik karar için yeterli değildir. Bir modelin ayırt etme gücü ile olasılık tahminlerinin güvenilirliği farklı şeylerdir: sıralamayı doğru yapan bir model, olasılıkları sistematik olarak yüksek verebilir. Karar eşiği bu olasılıklara konduğu için kalibrasyon bozuksa eşik de yanlış yere oturur. Ayrıca hata maliyeti simetrik değildir; atlanan bir vaka ile gereksiz bir tetkik aynı şey değildir ve eşik bu asimetriye göre seçilir.

Eşiği seçerken çıktının akıştaki karşılığını hesaplayın: bu eşikte günde kaç ek inceleme doğar, kaç vaka listenin altına düşer, bu yük kim tarafından karşılanır? Klinik doğrulamanın en somut çıktısı bir yüzde değil, akışa binen bu yüktür. Eşik merkeze göre değişebilir ve değiştiğinde yeniden doğrulanması gerekir.

Doğrulanmış bir model, kötü yerleştirildiğinde zarar verebilir. Çıktının hekime ne zaman gösterildiği sonucu değiştirir: okumadan önce gösterilen bir işaret, hekimin dikkatini yönlendirir ve bağımsız değerlendirmeyi zayıflatır. Bu etki iyi belgelenmiş bir insan-otomasyon örüntüsüdür ve tasarımla yönetilir — gösterim anı, çıktının biçimi ve gerekçe sunumu bu yüzden klinik kararla birlikte seçilir.

• Kim görüyor: çıktı hangi rol tarafından, hangi ekranda ve hangi anda görülüyor?
• Ne görüyor: yalnızca sonuç mu, gerekçe ve güven bilgisi de mi?
• Nasıl itiraz ediliyor: hekim katılmadığında tek tıkla işaretleyebiliyor mu, bu işaret nereye gidiyor?
• Nasıl atlanıyor: model çıktısı olmadan iş akışı yürüyebiliyor mu?
• Ne kaydediliyor: hangi sürüm, hangi girdi, hangi çıktı ve hangi karar; olay incelemesi bunsuz yapılamaz.