En yüksek vaat, en düşük hata payı

Yapay zekanın vaatleri içinde en heyecan verici olanı herhalde sağlık: kanseri aylar erken yakalamak, gözden kaçan bulguyu yakalamak, doktora zaman kazandırmak. Aynı zamanda hata payının en düşük olduğu alan da bu — yanlış film önerisi can sıkar, yanlış teşhis can yakar.

Bu ikili yüzünden sağlıkta yapay zeka haberleri iki uca savrulur: “Yapay zeka doktorları geçti” manşetleri ile “hastanede deney malzemesi olduk” korkusu. Gerçek, her zamanki gibi, ortada ve daha ilginç. Bu yazıda bugün gerçekten ne olduğuna bakalım: ne çalışıyor, ne çalışmıyor, doktorunuz nerede duruyor.

Neden ilk büyük adım görüntülemede atıldı?

Sağlıkta yapay zekanın en olgun alanı tıbbi görüntüleme — radyoloji, patoloji, göz taramaları. Tesadüf değil bu; işin doğası, teknolojinin güçlü yanıyla birebir örtüşüyor.

Bir röntgene, tomografiye ya da patoloji kesitine bakıp “burada şüpheli bir şey var mı?” diye sormak, özünde bir örüntü tanıma işidir: girdi bir görüntü, çıktı sınırlı bir değerlendirme. Bu, ayırt edici yapay zekanın — sohbet botlarının değil, sınıflandırıcı sistemlerin — ekmek yediği iş. Üstelik tıp, bu sistemlerin en sevdiği şeye sahip: etiketli veri. On yıllardır arşivlenmiş milyonlarca görüntü ve yanlarında uzman raporları. Derin öğrenme modelleri bu arşivlerle eğitildiğinde, “tümörlü doku örüntüsü” ile “sağlıklı doku örüntüsü”nü ayırt etmeyi öğreniyor — tıpkı köpek fotoğrafından “köpekliği” öğrenen ağ gibi, ama bu kez konu gölgeler, dokular, yoğunluklar.

Bir avantaj daha var: görüntülemede başarı ölçülebilirdir. Modelin “şüpheli” dediği bulgu, biyopsiyle ya da hastanın sonraki seyriyle sınanabilir; isabet oranı net bir sayıya dökülür. Bu ölçülebilirlik, hem araştırmayı hem de resmi onay süreçlerini mümkün kılan şeydir.

Sonuçlar ciddiye alınacak düzeyde. Meme kanseri taramasından akciğer nodüllerine, diyabete bağlı göz hasarından cilt lezyonlarına kadar pek çok alanda, iyi eğitilmiş modellerin belirli görevlerde uzman radyologlarla karşılaştırılabilir isabet gösterdiği hakemli çalışmalar birikti — diyabetik retinopatide JAMA’da (2016), cilt kanserinde Nature’da (2017), meme kanseri taramasında yine Nature’da (2020) yayımlanan çalışmalar bu birikimin kilometre taşlarından. Bazı ülkelerde bu sistemler onay alıp rutin kullanıma girdi; örneğin İsveç’te on binlerce kadını kapsayan randomize MASAI çalışması, yapay zeka destekli mamografi okumasını standart çift okumayla karşılaştırdı ve bazı Avrupa tarama programlarında yapay zeka, mamografileri değerlendiren “ikinci göz”lerden biri olarak fiilen çalışıyor.

Ayrıca radyoloji dışına taşan bir damar var: erken uyarı. Görüntü yerine hastanın seyir verilerine — tahliller, yaşamsal bulgular, geçmiş — bakıp “bu hasta önümüzdeki saatlerde kötüleşebilir” sinyali üreten sistemler bazı hastanelerde kullanılıyor. Aynı örüntü mantığı, farklı veri.

“Doktordan iyi” manşetinin küçük harfleri

Şimdi dürüstlük kısmı. “Yapay zeka radyologları geçti” cümlesi, neredeyse her zaman küçük harfli dipnotlarla gelir ve o dipnotlar işin özüdür.

Dar görev, dar başarı. Model, meme kanseri taramasında iyiyse, sadece onda iyidir. Radyoloğun işi ise tek görev değildir: görüntüdeki beklenmedik ikinci bulguyu fark etmek, klinik öyküyle birleştirmek, “bu görüntü kalitesi karar için yeterli mi” demek, meslektaşıyla tartışmak. Kıyaslamalar genellikle daraltılmış görevde yapılır; manşetler bunu söylemez.

Veri değişince zemin kayar. Bir hastanenin cihazlarıyla eğitilen model, başka marka cihazın, başka hasta profilinin görüntülerinde performans kaybedebilir. Eğitim verisinde az temsil edilen gruplarda — örneğin cilt lezyonu modellerinin koyu tenlerde daha zayıf kalması gibi — hata payı yükselebilir. Model örüntü genelleştirir; örüntünün dışına düşeni bilemez, üstelik bilemediğini de her zaman söyleyemez.

Yanlış alarmın da maliyeti var. Taramada aşırı hassas bir sistem, sağlıklı insanları gereksiz biyopsiye, kaygıya, masrafa sürükleyebilir. “Hiçbir şeyi kaçırma” ile “sağlamı hasta çıkarma” arasındaki denge, klinik bir karardır — teknik bir ayar değil.

Bir de ayrı bir başlık: hastaların (ve bazen hekimlerin) sohbet botlarına sağlık sorusu sorması. Burada iş, ayırt edici sistemlerden üretici modellere geçer ve risk profili değişir: dil modelleri akıcı ve ikna edicidir ama halüsinasyon — kendinden emin uydurma — mekanizmalarının doğasında vardır. Genel sağlık okuryazarlığı için yararlı olabilirler; kişisel teşhis ve tedavi kararı için tek kaynak olamazlar. Nedenini halüsinasyon neden olur yazısında anlattım.

“Yerine değil, yanına” tam olarak ne demek?

Bu sitede sık kullandığım bir çerçeve var: yapay zeka, çok iyi bir tahminci stajyerdir — hızlı, yetenekli, ama imza atmayan. Sağlıkta bu çerçeve mecaz olmaktan çıkıp neredeyse hukuki gerçeğe dönüşür: onaylı sistemlerin ezici çoğunluğu “karar destek” olarak sınıflandırılır. Karar veren — ve sorumluluğu taşıyan — hekimdir. (Bu sorumluluk zincirinin hukuku başlı başına bir konu; hukuk ve etikte yapay zeka yazısında ele aldım.)

Peki stajyer somut olarak ne yapıyor? Üç iş öne çıkıyor:

Önceliklendirme. Yüzlerce taramanın beklediği bir listede, şüpheli bulgulu olanları öne çekmek. Kritik vakanın rapor kuyruğunda saatlerce beklememesi, tek başına hayat kurtarabilen sıradan bir iyileştirmedir.

İkinci göz. İnsan dikkati yorulur; günün 47. filminde göz kayabilir. Model yorulmaz. “Şuraya bir daha bak” diyen bir sistem, gözden kaçmayı azaltır — nihai kararı değiştirmeden.

Angarya azaltma. Rapor taslağı çıkarmak, ölçümleri yapmak, muayene konuşmasını nota dökmek. Hekimin ekrana değil hastaya bakabildiği her dakika, teknolojinin en az konuşulan ama belki en gerçek kazancıdır.

Fark ettiyseniz üçü de aynı deseni izliyor: makine tarar, insan karar verir. Bu iş bölümü, iki tarafın da güçlü yanını kullanıyor — modelin yorulmaz örüntü taraması, hekimin bağlam ve sorumluluk taşıyabilmesi.

Ufukta ne var?

Temkinli iyimserliği hak eden gelişmeler de var. İlaç keşfinde ve biyolojide yapay zeka, deneme-yanılma sürelerini kısaltıyor — AlphaFold’un protein yapılarında yaptığı, bunun en parlak örneği. Kişiselleştirilmiş tıp — tedaviyi hastanın verisine göre uyarlamak — ve sağlık hizmetine erişimin kıt olduğu bölgelerde tarama kapasitesini büyütmek, önümüzdeki yılların gerçekçi vaatleri arasında.

Ama zaman çizelgesi konusunda tarih bize alçakgönüllülük öğretiyor: sağlıkta devrim tarihleri hep tahminlerden geç geldi. Klinik doğrulama yavaştır — ve yavaş olması iyidir; aradaki fren, hasta güvenliğidir.

Aklınızda kalsın

  1. Görüntülemede yapay zeka gerçek ve olgun — dar görevlerde uzman düzeyine yaklaşan, onay almış, sahada çalışan sistemler var.
  2. Başarı dar, dipnotlar önemli — görev daraldıkça model parlar; veri değişince, görev genişleyince insan farkı ortaya çıkar.
  3. Model tarar, hekim karar verir — “yerine değil yanına” bir slogan değil, hem güvenliğin hem mevcut hukukun özetidir.

Bir gün taramanızı önce bir yapay zekanın önceliklendirdiğini öğrenirseniz, bunun anlamı doktorunuzun devre dışı kaldığı değil; dikkatinin, en çok gereken yere daha hızlı yönlendirildiğidir. İyi kullanıldığında bu teknolojinin sağlıktaki en doğru özeti bu.

Kaynaklar

  • Gulshan, V. vd. (2016). Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs. JAMA. Diyabete bağlı göz hasarını retina fotoğraflarından yüksek isabetle saptayan derin öğrenme çalışması. jamanetwork.com
  • Esteva, A. vd. (2017). Dermatologist-level classification of skin cancer with deep neural networks. Nature. Cilt lezyonu sınıflandırmasında dermatolog düzeyine ulaşan modelin çalışması. nature.com/articles/nature21056
  • McKinney, S. M. vd. (2020). International evaluation of an AI system for breast cancer screening. Nature. Meme kanseri taramasında yapay zekanın radyologlarla uluslararası karşılaştırması; “ikinci okuyucu” iş yükünü azaltma bulgusu. nature.com/articles/s41586-019-1799-6
  • Lång, K. vd. (2023). Artificial intelligence-supported screen reading versus standard double reading in the Mammography Screening with Artificial Intelligence trial (MASAI). The Lancet Oncology. İsveç’te yapay zeka destekli mamografi taramasının randomize kontrollü değerlendirmesi. pubmed.ncbi.nlm.nih.gov/37541274