Bataklık Açıkta, Sivrisinekle Mücadeleye Devam…

Deepfake tespit modeli geliştirenlerin, deepfakes araçları geliştirenlerden daha hızlı olmaları ve çok geç olmadan algoritmalar savaşında üstünlük sağlamaları bekleniyor. Bunun için, biraz zamanı ve pozitif ayrımcılığı hak etmiyorlar mı? Kimler tarafından hangi amaçlarla kullanılacağı belli olmayan deepfakes araçlarını geliştirenlere ve bunlar yardımıyla deepfakes üretenlere, koşulsuz, kuralsız cephane sağlayıp hız kazandıran açık kaynak platformlarına, biraz çekidüzen vermek gerekmez mi?

Yanlış kullanımında tehlikeye yol açabilecek şeyleri, açıkta bırakmamak gerektiğini bilmek için, ortalama bir zeka ve biraz hayat tecrübesi yeterli. Bu bir ilaç da olabilir, ruhsatlı bir silah da… Hatta çok masum bir şekerleme bile, sağlıklı ya da güvenli tüketilmediğinde, akla gelmeyecek türden ölümcül sonuçlara yol açabilir. Onları, risk taşıyanların ulaşamayacağı güvenli yerlere kaldırır, yanlış ellere geçmemesi, tehlikeli ve yanlış biçimde kullanılmaması için önlem alırız. Biliriz ki, acil yardım çantası ya da ecza dolabının kolay ulaşılır bir yerde bulunması, güvende olmayı sağlamaz.

Yaşadığımız kaotik süreçte, Covid-19 pandemisi nedeniyle, dijital yaşam tarzı topluma daha da fazla pompalanıyor. Diğer yandan ise, çevrimiçi dünya için türlü tehlikelere yol açabileceği bilinen deepfakes gibi yapay zeka (ai) teknolojileri, herkesin kolayca erişimine ve kullanımına açık biçimde internetten paylaşılıyor. Sonra da çevrimiçi dünyaya korku salınıyor. Gerçekleri şüpheli hale getirecek ve zekayı kör edecek kadar inandırıcı sahte sentetik ses ve görüntülere karşı, dezenformasyon uyarıları yapılıyor… Ayrıca, Facebook, Microsoft gibi çevrimiçi dünyanın liderleri öncülüğünde, büyük beklentiler ve milyonlarca dolarlık ödüller ile deepfake tespit modelleri geliştirmeye yönelik, global yarışmalar düzenleniyor. Aylarca bekleyiş sonunda elde edilen sonuç ise, geliştirilen modellerin deepfakes’i yakalama başarısı değil. Sadece gelecekte bu başarıyı elde etmek amacıyla, mevcut küresel ar-ge’nin ortak kullanıma açılacağı müjdeleniyor. Ne mutlu bize ki, açıkta duran artık sadece kötü niyetle kullanılabilecek deepfake üretim araçları olmayacak…

Deepfakes sürekli mutasyona uğruyor

Deepfake teknolojilerinin, ai’nin yol açtığı başka inovasyon fırsatları gibi, sağlık, spor, iletişim, pazarlama gibi alanlarda, şüphesiz pek çok faydalı kullanımı söz konusu olacaktır. Zaten bu durum, geliştirilen deepfake teknolojilerine meşruiyet kazandırıyor. Dolayısıyla olası faydalarıyla karşılaştırılamayacak kadar büyük tehdide yol açması beklenen deepfake teknolojilerinin, yasakçı politikalar ile engellenmesini kimse talep edecek durumda değil. Bu, zaten ifade özgürlüğüne aykırı. Ancak, kötü niyetli, tehlikeli ve zararlı deepfake üretimine karşı, etkin tespit araçları geliştirmenin zaman alacağını ve belki de bu algoritmalar savaşının hiç son bulmayacağını, uzmanlar da kabul ediyor. Çünkü, deepfake olarak adlandırılan sahte sentetik ses ve görüntü sentezlerini, gün geçtikçe daha inandırıcı hale getiren, bu alanda sürekli yeni teknolojiler geliştiriliyor olması. Yani deepfakes, sürekli teknolojik mutasyona uğruyor. Deepfake tespit modellerinin ise, geliştirilen her yeni deepfake teknolojisine karşı hızla uyum sağlayan ve her tür deepfake’i yakalayıp, zararlı etkilerini önleyen “mucize bir ilaç” olması bekleniyor.

Ancak bataklıkları ıslah ederseniz, sivrisinek ilaçları işe yarar…

Yüzyıllardır, bilimin sırlarını çözmeye uğraştığı doğanın mükemmel ekosisteminde, her varlık hassas dişlinin olağanüstü bir parçasını oluşturur. Yaşam döngüsünde her canlı, bir diğerine muhtaçtır; çünkü doğal hayat ancak böyle devam edebilir. Ölümcül bulaşıcı hastalıkların taşıyıcısı, kanla beslenen sivrisinekler bile, balık türlerinden, çeşitli kuşlar, yarasa ve örümceklere kadar, pek çok farklı canlının besin kaynağını oluşturuyor. Bilim, sivrisineklerin ekolojik denge için kilit bir tür olmadığını savunsa da, insanoğlu kendisi için rahatsız edici özelliklere sahip bu türü, biyolojik olarak yok etmek yerine, kontrolsüz biçimde üredikleri kirli dereler ve bataklıkları ıslah ediyor. Aksi halde, haşere ilaçları işe yaramıyor, sivrisinekler yaydıkları ölümcül hastalıklarla, insanlık için büyük bir tehdide dönüşüyor.

Bilim ve onun yaşamsal çıktısı olan teknoloji, doğa kadar mükemmel olmamakla birlikte, insanoğlunun yüzyıllar boyu geliştirebildiği, en ileri ekosistemi meydana getiriyor. Her yeni bilimsel bulgu, geliştirilen her yeni teknoloji, bir sonraki ve daha gelişmiş olanın girdisini ve bilgi kaynağını oluşturuyor. Doğadaki tüm varlıklar gibi, her buluş ve icadın, insanlık için sağladığı faydaların yanında, kontrolden çıktıklarında dünyayı yok edebilecek kadar korkunç sonuçları da olabiliyor. Bu yüzden nükleer, biyolojik ve kimyasal tesisler, özel olarak korunuyor. Bırakın, her isteyenin elini kolunu sallayarak girip, dilediğini alıp çıkmasını, yetkisi olmayanlar, bu tesislerin yanına bile yaklaştırılmıyor.

Açık kaynak platformları, bir deepfakes bataklığına dönüşür mü?

Dünya çevrimiçi hale geldikçe, insanlığı hedef alan tehditler ve tehlikeler de dijitalleşiyor. İnsan beyni modellenerek üretilen yapay sinir ağları üzerinden, algoritmalar yardımıyla insan zekasının sınırlarını ortadan kaldıran ai teknolojileri, adeta Pandora’nın kutusunu açtı. Deepfake yazılımlarının, tehlikeli kimyasallardan giderek bir farkı kalmayacak gibi görünüyor. Ya da çevrimiçi topluma böyle bir algı empoze ediliyor. Ancak şu gayet açık ki, deepfake araçlarına, açık kaynak yazılım kütüphanelerinden kolay erişilebiliyor olması, deepfakes devinimini ve mutasyonu hızlandırıyor.

New York Üniversitesi (NYU) araştırmacıları, ücretsiz, indirilebilir açık kaynaklı yazılımın, deepfake teknolojisinin metalaştırılmasında birincil faktör olduğunu ortaya koyuyorlar. Bu projelerin çoğu Github’da bulunduruluyor ve paylaşılıyor. Hatta birçok proje yaratıcısının Patreon, Paypal veya Bitcoin aracılığıyla kullanıcı bağışları talep ettikleri de biliniyor. Yazılımların, daha çok yüz değiştirme ve sentetik ses üretimi ile ilgili olduğunu belirleyen NYU araştırma ekibi, bu araçların çoğunun, amatör geliştiricilerden ziyade, deepfake profesyonellerine hitap ettiğini vurguluyor. Çünkü araçlar çoğunlukla programlama deneyimi ve güçlü bir grafik işlemci (GPU) gerektiriyor. Bununla birlikte, bazı popüler açık kaynaklı deepfake platformlarının, yayınlanan kullanım kılavuzları ve tartışma gruplarının öğreticiliği sayesinde, amatör geliştiricilerin bu araçları kullanma hızını artırdığına işaret ediliyor.

GitHub’ı, 2018 yılında Microsoft 7,5 milyar dolara satın almıştı

Rachael Winter ve Anastasia Salter imzasıyla Ekim 2019’da yayınlanan “DeepFakes: GitHub’da hardcore açık kaynakların ortaya çıkarılması” başlıklı araştırma da, GitHub’un süreçteki etkin rolüne dikkat çekiyor. Çalışmada, Reddit.com’da “Deepfakes” kullanıcı adıyla kavramı ilk ortaya atan ve kimliği bugün de belirsiz olan kullanıcının, 2017 sonlarında yayınladığı ilk pornografik deepfake örneklerinin, 2018 yılı başından itibaren kademeli olarak yasaklandığına işaret ediliyor. Buna rağmen, asıl projenin GitHub platformu üzerinde paylaşılan açık kaynak kodlu bir dizi yazılım ile sürdürüldüğü savunuluyor. Çalışma, GitHub’ın deepfakes’in yayılmasında nasıl bir platform rolü üstlendiğini inceleyerek, açık kaynak etiğini sorguluyor. Sonuç olarak, deepfakes projesinin kasıtlı olarak, açık kaynak kodu desteğiyle, sınırlı moderasyonlu alanlara yayıldığı, bu sayede varlığını ve gelişimini devam ettirilebildiği yargısına varılıyor. NYU Mevzuat ve Kamu Politikası Dergisi’nde Şubat ayında, Robert Volkert ve Henry Ajder imzasıyla yayımlanan “Deepfakes’in metalaşmasının analizi” başlıklı makale de, açık kaynak platformlarının katkısına işaret ediyor. Makalede, deepfakes’in ticarileşmesi ve dolaşım hızının artmasında çıkış noktasının açık kaynak platformları olduğu belirtiliyor. Ortaya çıkmaya başlayan deepfake servisleri ve pazar yerlerinin de metalaşma sürecini geliştirdiği görüşü savunuluyor.

Deepfakes örnekleri ve popülaritesi arttıkça, bu içerikleri oluşturan ve geliştiren daha iyi kodlara olan talep de artıyor. Deepfakes geliştirme sürecinin temel taşlarını oluşturan, Faceswap, DeepFaceLab ve Avatarify gibi birçok önemli araç, GitHub kütüphanelerinde yayınlanıyor.  Github veya TensorFlow gibi açık kaynaklı platformlar, kodlardaki olası güvenlik açığı ve lisans uyumsuzluğu gibi risklere karşın, algoritmaların geliştirilmesi ve kullanımı kolay mobil uygulamalar oluşturulması konusunda, geliştiricilere önemli katkılar sağlamaya devam ediyor.

GitHub, yazılım dünyasının çok iyi bildiği ve en çok başvurduğu bir açık kaynak platformu. Birçok şirket ve yazılımcı, masaüstü, bulut tabanlı yazılım ya da mobil uygulama geliştirme süreçlerinde, GitHub’da yayınlanan araçlardan yararlanıyor. GitHub’ın teknoloji devi Microsoft’a 7,5 milyar dolar karşılığında satıldığı, 4 Haziran 2018 tarihinde duyurulmuştu. Dolayısıyla, Microsoft o tarihten bu yana, açık kaynak kodlu yazılımların, en büyük platformuna sahip bulunuyor.

DFDC’de sonuç; %65 performans. Umut var, ama henüz çözüm yok…

Geçen yıl 5 Eylül’de duyurulan Facebook, Microsoft ve Amazon destekli Deepfake Detection Challenge’ın (DFDC) sonuçları, pandeminin de etkisiyle ancak 12 Haziran’da açıklanabildi.  Facebook, ai.facebook.com internet adresinden yaptığı duyuruda, 11 Aralık’ta 115 bin videodan oluşan veri setiyle başlatılan yarışmanın kamuya açık ilk etabında, en iyi performans gösteren deepfake tespit modelinin %82,56 ortalama hassasiyet elde ettiğini açıkladı. Daha önce yayımlanmamış kapalı devre veri seti üzerinden gerçekleştirilen final etabını ilk sırada tamamlayan ve yarışmada birinci olan model ise, ancak %65,18’lik ortalama performansa ulaşabildi. 2114 katılımcının, 35 binden fazla modelle yarıştığı, ilk küresel deepfake tespit modeli geliştirme mücadelesinin sonuçlarını, belki bir başka yazıda daha detaylı değerlendiririz. Ancak ortaya çıkan önemli sonuç şu ki, deepfake’i %100 tespit için, an itibariyle yolun ancak üçte ikisi tamamlanabilmiş durumda. Ama deepfakes teknolojileri de durup beklemiyor. Sürekli yeni deepfake araçları geliştiriliyor. O yüzden Facebook, 3500’den fazla aktörle 38,5 günde oluşturulan, sadece yarışmacılara açtığı final etabındaki veri setini, artık tüm geliştiricilerle paylaşma kararı aldı. Facebook, yeni nesil ai tabanlı gelişmiş deepfakes tespit modelleri geliştirilmesine katkı sağlamak amacıyla, bu veri setini de ham veri olarak açık kaynak koduyla yayınlayacağını duyurdu.

Açık kaynak platformlarını ıslah etmeden, aradaki farkı kapatmak zor…

Facebook’un duyurusundaki ifadeyle, DFDC “öngörülemeyen deepfake örneklerine genellemeyi öğrenmenin” önemini ortaya koydu. Bu şu demek; deepfake tespit modellerinin %100 performansa ulaşabilmek için, bilinen deepfake teknolojileri üzerindeki hakimiyeti yeterli değil. Yeni geliştirilen ve hatta henüz geliştirilmemiş deepfake araçlarına karşı da, sezgisel duyarlılık taşıyan ai modelleri tasarlamak gerekiyor.

Demek ki, deepfake tespit modeli geliştirenlerin, deepfakes araçları geliştirenlerden daha hızlı olmaları ve çok geç olmadan algoritmalar savaşında üstünlük sağlamaları bekleniyor. Bunun için, biraz zamanı ve pozitif ayrımcılığı hak etmiyorlar mı? Kimler tarafından hangi amaçlarla kullanılacağı belli olmayan deepfakes araçlarını geliştirenlere ve bunlar yardımıyla deepfakes üretenlere, koşulsuz, kuralsız cephane sağlayıp hız kazandıran açık kaynak platformlarına, biraz çekidüzen vermek gerekmez mi? Engele, yasağa da gerek yok. Deepfakes araçlarının açık kaynak kodlarının paylaşımları, bir kayda ve kurala bağlansa bile, deepfakes tehlikesinin hızı biraz olsun yavaşlatılmış olmaz mı? Kişi hakları, barış, güvenlik, demokrasi gibi yüce değerlerin korunabilmesi için, bunu sağlamak, milyon dolarlık yarışmalar düzenlemekten daha mı zor?

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: