Deepfake Safari Başladı, Peki Ya Av Silahlarından Kaçı Dolu?

İnsanoğlu çelişkilerle dolu. Dünyayı gerçeklikten uzaklaştırıp küresel bir kaosa sürüklemesinden endişe duyulan Deepfake siber tehdidine karşı, ortaya çıkan global reflekse bakınca insan hayrete düşüyor. Sanki bir üst akıl, “tavşana kaç, tazıya tut” diyor, kötülükle iyiliği yarıştırıyor. 

Farklı versiyonlarda Deepfake sentetik medya üretimine olanak tanıyan, Yapay Zeka (AI) algoritmalarını geliştiren üniversiteler ve AR-GE grupları, ürettikleri verileri, yöntemleri ve kodları, aynı alanda yeni AR-GE çalışmalarına altyapı oluşturabilir, kolay erişilebilir ve kullanılabilir biçimde, “kötü niyet” filtresi/önlemi olmaksızın, internetteki açık kaynak platformlarında herkesin kullanımına açıyorlar. Deepfake tespit araçları geliştirmeye odaklanan siber güvenlik çözümleri arayışı ise, kapalı kapılar ardında, kapalı devre ve içe dönük bir biçimde ve çoğunlukla tekil girişimler halinde yürütülüyor.

ABD Temsilciler Meclisi ve ABD’nin ulusal güvenlik kurumları (DARPA, IARPA) başta olmak üzere, özellikle ABD ve Avrupa merkezli üniversiteler, uluslararası siber güvenlik kuruluşları ile bilişim dünyası ve sosyal medyanın teknoloji devleri, çevrimiçi uluslararası toplumu Deepfake sentetik medya saldırılarından korumak için, çeşitli girişimlere öncülük ediyorlar. Bu girişimlerin ortak hedefi, Deepfake sentetik medyayı tespit ederek, orijinal ve gerçek olandan ayırt edecek, siber güvenlik çözümleri geliştirilmesini teşvik etmek ve desteklemek. En güncel olanı ise, 8 -14 Aralık’ta Kanada’daki Vancouver Kongre Merkezi’ndeki Nöral Bilgi İşleme Sistemi Konferansı’nda (NeurIPS) start verilen Deepfake Detection Challenge (DFDC) organizasyonu. 

Hırsıza kilit, çare olur mu?

Facebook, Microsoft, Amazon Web Services (AWS) ve Apple, Google, Intel, IBM, Sony gibi 90 üyesi bulunan Partnership On AI’nın ortaklığıyla gerçekleştirilen yarışmayı, geçen yazıda bir tür Deepfake Safari’ye benzetmiştik. Çünkü, siber güvenlik geliştiricileri için, Ekim ayında yüz binden fazla videodan oluşan, özel hazırlanmış bir veri seti yayınlayan sponsor kuruluşlar, katılımcı Deepfake tespit araçlarını, 2020 Mart ayı sonuna kadar dev bir Deepfake havuzunda test edeceklerini açıklamışlardı. Böylece, kapalı kapılar ardındaki siber güvenlik çözümü geliştirme girişimleri, gün yüzüne çıkarılıp değerlendirilecek ve “Deepfake yakalama” performansları ölçülüp tescil edilecek. 

Şimdi asıl soru şu: Geçtiğimiz iki yıl boyunca, Deepfake sentetik medyayı yakalayacak güçte siber savunma silahları geliştirilebildi mi? Yoksa DFDC’de, sınırlı Deepfake tespit araçlarının yetersiz performansları sonucu, “hırsıza kilit olmaz” misali, manipüle edilmiş sahte sentetik medyayı, orjinalinden ayırt edebilmenin tümüyle mümkün olmadığı görüşü mü ağırlık kazanacak? 

Deepware Scanner, Deepfake sentetik medyaya tek başına meydan okuyor

Zemana Deepware ekibi olarak DFDC’ye iddialı bir biçimde katıldığımıza göre, öngörüde bulunmak için Deepfake tespit aracı geliştirmek konusunda, sahnedeki diğer oyuncularla, geliştirdiğimiz “Deepware Scanner” üzerinden bir benchmark yapmaya çalışmakta fayda var. Ancak öncelikle vurgulamak gerekir ki, Deepware.ai gibi, çevrimiçi kullanıcılara ücretsiz sunulan, herkesin erişimine açık, dünyada belirleyebildiğimiz kullanılabilir durumda başka bir Deepfake sentetik medya tespit aracı yok. Marka tescili ve patent yoluyla ticarileşmiş olma iddiasındakiler de dahil, başka hiçbir Deepfake siber güvenlik çözümünün, Deepware Scanner gibi DFDC’nin başlamasını bile beklemeden çevrimiçi kullanıcıların karşısına çıkıp, Deepfake sentetik medyaya meydan okuyabildiğini söyleyebilmek mümkün değil. 

Zemana olarak, AI üzerine yoğunlaşan son 1 yılı aşkın AR-GE çalışmalarımızın ürünü olan Deepware Scanner, çok katmanlı mekanizmasıyla manipüle edilmiş videoları anında yakalamak üzere programlandı. Deepware Scanner, sosyal medya ağları, medya kuruluşları, devlet kurumlarına yönelik geliştirilmiş versiyonlarıyla, her platforma entegre edilebiliyor. Gerçeğinden ayırt edilebilmesi giderek zorlaşan sahte ses ve videoların, hızla yayılıp bir kaosa yol açmadan tespit edilmesi için, herhangi bir platforma entegre edilen “Deepware Scanner”, arka planda güçlü bir şekilde çalışıyor. O platformda izlenen veya dinlenen dosyanın taramasını online olarak gerçekleştirebiliyor. Deepware Scanner, yapısı değiştirilmiş, orijinal olmayan sentetik medyayı tespit ettiğinde, izleyici ya da dinleyiciyi uyarıyor ve sahte içerikle kandırılmaktan koruyor. Böylece dijital içeriklerdeki AI sahteciliğini, zarar oluşmadan tespit etme ve oluşabilecek hasarların önüne geçme olanağı sunuyor. 

Deepware DFDC’de 133 takım arasında 1’inci sırada

Kanada Vancouver’daki NeurIPS 2019’da başlayan DFDC’nin daha ilk günü dolmadan, bu yazı kaleme alındığında, yani yarışmanın yaklaşık 17’nci saatinde, dünyanın her yanından yarışmaya katılan siber güvenlik geliştirici takım sayısı 133’e ulaştı. 2020 Mart ayı sonunda tamamlanacak ve yaklaşık 3 ay sürecek yarışmanın ilk gününde Zemana’nın Deepware Takımı, 10 saatlik performans sonucu elde ettiği 0,69297 puanlık skorla, sıralamada ilk sırada yer aldı. Dünyanın önde gelen online veri bilimi platformu Kaggle.com’daki yarışmalar arasında bulunan DFDC’nin, katılımcıları arasındaki gerçek zamanlı takım sıralaması, Kaggle.com/c/deepfake-detection-challenge/leaderboard adresinden takip edilebiliyor.

Deepfake tespit araçlarından bazılarının, adları bile yok…

Kullandığınız arama motoruna, hangi anahtar kelimeleri yazarsanız yazın, Deepfake sentetik medya tespitine yönelik, çok fazla siber güvenlik çözümü alternatifiyle karşılaşamıyorsunuz. Kategorize etmek gerekir ise, bu alandaki AR-GE girişimleri şöyle sıralanabilir:

Marka tescili ve/veya patent sahibi ticari çözümler, kullanıcılara yeni bir siber güvenlik teknolojisi vaat ederek, kullanım için ön başvuru kayıtları alıyorlar ya da Deepfake tespit araçlarından ücretli biçimde yararlandırmak üzere talep başvurusu topluyorlar. 

Üniversitelerin akademik AR-GE çalışmaları: Çoğunlukla bu alanda kanaat önderi konumundaki bilim insanlarının liderliğinde, birden çok üniversitenin eşgüdümünde gerçekleştiriliyor. Çevrimiçi kullanıcılara sunulan kullanıma hazır Deepfake tespit araçları olmaktan çok, çözüm iddiası taşıyan yöntem tercihlerinin ve markasız yeni teknolojilerin tanımlandığı akademik çıktılardan ibaret kalıyor.

Karma AR-GE girişimleri (Kamu – özel sektör – üniversiteler): Akademik çalışmaların, ulusal güvenlik ve bilişim yönetimi alanındaki kamu kuruluşları ya da teknoloji şirketleri tarafından desteklenip finanse edildiği versiyonunu oluşturuyor. Bunlar arasında da, AR-GE sürecini tamamlayanlar göze çarpmıyor.

Dünya belki de gelecek yıl ABD Başkanlık seçimi sürecinden itibaren, uluslararası istikrarı, toplumsal barışı ve bireyin kişilik haklarını, en üst düzeyde tehdit edecek, Deepfake sentetik medya siber saldırılarıyla karşı karşıya kalacak.  Bu tehdidin kaynağını, insan zekasının insan beynini taklit ederek, Derin Öğrenme yoluyla daha yüksek zeka kapasitesini makinelere aktardığı, AI teknolojisinin oluşturduğunu biliyoruz. İnsan beyninin işleyişini modelleyerek, her formattaki milyonlarca veriyi analiz kabiliyeti kazanan ve gerçeğinden ayırt edilebilmesi giderek güçleşen türev sentetik çıktılar üreten AI yardımıyla, insanın biyometrik kodlarını, tepeden tırnağa sentezlenip, dijital olarak aktarılabiliyor olması, onun kukla gibi sahte bir gerçekliğin içine karıştırılmasını mümkün kılıyor. 

Dünyanın siber güvenlik geliştiricileri, insan zekasıyla alay eden sentetik medyanın, yine AI tabanlı bir Deepfake panzehiriyle hakkından gelemezse, “gerçeğe sahip çıkma” görevi, belki de gelecek yazıda söz edeceğimiz kobay farelerine kalacak…

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: