Deepfake Sizi İki Türlü de Kanser Yapabilir

Yazının başlığı “Deepfake sizi kanser yapabilir” olsaydı, belki devamını okumaya bile gerek kalmazdı. Yazının içeriğini “Sahte bir videoyla hakkınızda yanlış bir algı yayılsa, öyle büyük bir yıkıma uğrarsınız ki, bağışıklık sisteminiz bile çökebilir” mesajına kolayca indirgeyebilirdiniz.
Saplantılı bir düşmanlık ya da rekabetle karşı karşıya iseniz ve biraz da ünlü, varlıklı ve itibarlıysanız, çok da uzak olmayan bir gelecekte, böyle bir riskin kesinlikle var olduğunu zaten biliyoruz. Deepfake’in hedefi olmak, duygusal ve fiziksel olarak yıprattığı kişiyi, elbette kanser hastası bile yapabilir. Ama deepfake yüzünden başına neler gelebileceğinin farkında olanlara, bunu anlatmak için bir yazı kaleme almak, artık fazlasıyla klişe sayılır. Bu yazının amacı da zaten bu değil.


Deepfake’in tümörle dansı…


Yapay zeka (ai) ve derin öğrenme yoluyla geliştirilen deepfake teknolojileri, öylesine iki ucu keskin bıçak ki, vaat ettiği faydalar ile ortaya çıkardığı tehlikeler, birbirinden keskin. Deepfake – kanser ilişkisi de bunun çarpıcı bir örneği. Çünkü deepfake teknolojisinin, kanserin erken ve etkin teşhisinde işe yarayabileceğine dair, önemli akademik çalışmalar var. Deepfake’in hedefi olmak ise, yukarıda söz ettiğimiz gibi, kansere davetiye çıkarırcasına, insanı yıkıma uğratabilir. Ama asıl dikkat çekici olan başka bir kötü olasılık daha var. Siber saldırganlar, işi öyle azıtabilirler ki, sağlıklı olduğunuz halde deepfake ile sizi kanserli yapabilirler ya da kanser hastası iken sağlıklı olduğunuza inandırabilirler.


Kanserin hızlı ve etkin teşhisinde; deepfake…


Özellikle geçen yıl bazı akademik çalışmalar, ai ve derin öğrenmenin, radyolojide daha hızlı, doğru ve ayrıntılı klinik tanıyı destelemek için, devrim niteliğinde bir araç olabileceğini ortaya koyuyordu. MIT Technology Review’da, geçen yılın ikinci yarısında yayınlanan bir makalede, ai kullanılarak geliştirilen, derin öğrenme temelli deepfake teknolojilerinden Üretken Rakip Ağlar (GAN) ve onlara gerçekçi görüntü sentezleme yeteneği kazandıran algoritmalardan, tıbbi teşhis alanında faydalanılabileceği vurgulandı. Yazıda, derin öğrenme algoritmalarının görüntülerde desen eşleştirme konusunda mükemmel olduğu hatırlatıldı. GAN’ların bilgisayarlı tomografi (BT) taramasında, farklı kanser türlerini tespit etmek, manyetik rezonans görüntülemelerde (MRG) hastalıkları ayırt etmek ve bir röntgendeki anormallikleri belirlemek için eğitilebilecekleri ifade edildi. Gizlilik endişeleri nedeniyle, araştırmacıların, yeterli eğitim verisine sahip olmadıkları belirtilen makalede, GAN’ların burada devreye girdiği ve gerçeklerden ayırt edilemeyen daha fazla tıbbi görüntüyü sentezleyerek, bir veri kümesini gerekli miktarda etkili bir şekilde geliştirebildiği anlatıldı.
Ancak, derin öğrenme algoritmalarının en iyi tahminleri üretmek için, yüksek çözünürlüklü görüntüler üzerinde eğitim alması gerekiyordu. Bu yüksek çözünürlüklü görüntüleri özellikle 3D’de sentezlemek için ise, konfigürasyonu güçlü, özel ve pahalı donanıma ihtiyaç vardı. Bu yüksek maliyet, teşhiste deepfake desteğini hastaneler için kullanışsız hale getirecekti. Lübeck Üniversitesi Tıp Bilişimi Enstitüsü’nden araştırmacılar, süreci daha az yoğun hale getirmek için aşamalara böldüler. Böylece GAN önce tüm görüntüyü düşük çözünürlükte üretiyor, sonra ayrıntıları her seferinde küçük bir bölüm halinde yüksek çözünürlükte elde ediyordu. Deneyler yoluyla araştırmacılar, yöntemlerinin düşük hesaplama kaynaklarına sahip, gerçekçi yüksek çözünürlüklü 2D ve 3D görüntüler ürettiğini ve aynı zamanda görüntü boyutundan bağımsız olarak maliyetin sabit kaldığını gösterdiler.


Tıbbi görüntülemeler, deepfake tehdidi altında


Oysa, deepfake teknolojilerinin, derin öğrenme ile klinik tanıyı güçlendirmesi, madalyonun sadece bir yüzüydü. Madalyonun karanlık yüzünü ise, Cornell Üniversitesi’nden İsrailli bir araştırma grubu CT-GAN projesiyle ortaya koydu. Yisroel Mirsky , Tom Mahler , Ilan Shelef ve Yuval Elovici’den oluşan araştırma grubu, akademik bir çıktı üretmek üzere, aktif bir hastanenin radyoloji ağına sızıp, BT taramalarını manipüle ederek, uygulamalı bir deney de gerçekleştirdi.
Araştırma grubu, 2018’de klinik ve hastanelerin, tıbbi hizmetlerde önemli veri ihlallerine ve kesintilere yol açan çok sayıda siber saldırıya uğramasından yola çıktı. Araştırmacıların hedefi, tıbbi kayıtlara erişim sağlayan bir saldırganın, fidye için verileri tutmak veya karaborsada satmaktan, çok daha fazlasını yapabileceğini ispatlamaktı. Yüksek çözünürlüklü (3D) mevcut tıbbi taramalara, sentetik tıbbi durum kanıtları eklemek veya kaldırmak için, derin öğrenmenin nasıl kullanabileceğini göstermeyi amaçladılar. Saldırgan böyle bir eylemi, siyasi bir adayı durdurmak, sigorta sahtekarlığı yapmak, terör eylemi gerçekleştirmek ve hatta cinayet işlemek için bile yapabilirdi. 
Araştırmacıların, yayınladıkları akademik çıktıda yer verdikleri bilgiye göre, aktif bir hastanenin radyoloji sistemine yönelik deneysel saldırıyı, bir 3D koşullu GAN kullanarak gerçekleştirdiler. Eylemlerinde projelerine konu olan çerçevenin (CT-GAN) nasıl otomatik hale getirilebileceğini ortaya koydular. Vücut karmaşık ve 3D tıbbi taramalar çok büyük olmasına rağmen, CT-GAN milisaniyeler içinde gerçekleştirilebilen gerçekçi sonuçlar elde ediyordu. Deneysel saldırıyı değerlendirmek için, BT taramalarına akciğer kanseri enjekte etmeye ve çıkarmaya odaklandılar. Deneylerinde, üç uzman radyoloğun ve son teknoloji ürünü yapay zekaya sahip sistemin saldırıya karşı ne kadar duyarsız kaldıklarını ve modern radyoloji ağının, internet bağlantıları da dahil olmak üzere, saldırıya karşı koruma sağlayacak düzeyde güvenli olmadığını belirlediler. Sonuçta, aktif bir hastanenin radyoloji ağındaki BT taramalarını gizli bir penetrasyon testi ile durdurup manipüle etmeyi başardılar.


Radyologlar bildikleri halde inandılar


CT-GAN projesi, sağlık korsanlarının, kullanılan Dijital Arşivleme ve İletişim Sistemi (PACS) altyapısına kolaylıkla sızılabileceğini ortaya koydu. Üstelik araştırmacılar, aktif bir hastanenin sistemlerine yönelik deneysel saldırıyı, Raspberry Pi olarak bilinen 50 doların altında ortak bir bilgisayar kullanarak, simüle edilmiş bir şekilde gerçekleştirdiler. Katılımcı hastane deneyi önceden kabul etmiş olsa da, hackerların kolayca ağa erişmesinden kuşkusuz hiç memnun olmadı. Ayrıca, derin öğrenme modelleri tarafından üretilen görüntülerin gerçekçiliği de bir o kadar endişe vericiydi. Radyologlar, görüntülerin değişmiş olabileceğinin farkında oldukları halde, görüntülerin değiştirildiğini fark etmekte oldukça zorlandılar. Deneyimli üç radyoloji uzmanı, kendilerine sahte akciğer kanseri tümörü içeren görüntülere baktıkları söylenmediği için, yüzde 99’luk bir kanser teşhisini doğruladılar.
Proje ispatlıyordu ki, 3D tıbbi taramalar, hastanın durumuna ilişkin güçlü kanıtlar sunduğundan, taramaya erişim sağlayan bir saldırgan, hastalarla ilgili teşhis sonuçlarını değiştirme gücüne sahip olur. Bu ürkütücü gerçek bir saldırganın, dijital tıbbi kayıtlara, anevrizma, kalp hastalığı, kan pıhtıları, enfeksiyonlar, beyindeki tümörler ve diğer kanserlerin kanıtlarını ekleyebileceğini veya bulguları kaldırabileceğini akla getiriyor. Bu tür bir saldırıyı gerçekleştirmek için, sağlık korsanının çok sayıda motivasyon olabilir. Örneğin ciddi bir hastalık teşhisi kurgulayarak, bir seçimin sonucunu etkilemek veya siyasi bir figürü devirmek, demokrasiye büyük yaralar açabilir. 
İşte deepfake ile yeni ve farklı kanser sınavımız. Çağımızın hastalığına karşı sağlığımızı korumak zaten hiç kolay değildi. Nasıl olacak bilinmez ama, kanser kabusu görmemek için, artık diğer yandan tıbbi dijital kayıtlarımızı da deepfake tehdidinden korumak zorundayız.

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: