Deepfake Tersine Mühendislik Mücadelesi (DREC)

Facebook CTO’su Mike Schroepfer, tersine mühendislik yapılmasını önlemek için, Facebook’un kendi deepfake algılama teknolojisini gizli tutacağını açıklıyor. Oysa Facebook, aynı hassasiyeti DFDC’deki en başarılı deepfake tespit algoritmaları için göstermiyor. Schroepfer böylece, DFDC’de derece alan algoritmaları açık kaynak koduyla yayınlamakla, bunlara yönelik tersine mühendislik fırsatı sağlamış olacaklarını da, bir anlamda itiraf etmiş oluyor.

Görünürde hiçbir sorun yok. Her şey, yarışma şartnamesinde yer alıyordu. Zemana adına yarışmaya katılan ve 2000’e yakın katılımcıyı geride bırakma başarısı gösteren Deepware.ai ekibimiz de dahil, tüm yarışmacılar şartları en baştan kabul ederek katıldı. Ama yarışma sonrasında “bu da olur mu?” diyebileceğimiz kadar büyük ve rahatsız edici çelişkiyi, görmezden gelmek de mümkün değil. Bu, çevrimiçi dünyayı, deepfake tehdidinden koruyacak tespit modelleri geliştirmeyi teşvik etmek ve desteklemek için düzenlenen ilk ve en büyük yarışmaydı. Kötü niyetli deepfake geliştiricilerin de, tersine mühendislik süreçlerine katkı sağlayabilecek sonuçlar doğurması, tabi ki kolay anlaşılır ve kabul edilebilir bir durum olmasa gerek.

DFDC finalinde deepfake videolar, algoritmaların çalışmadığı yerden gelince…

Facebook ve Microsoft liderliğinde büyük beklentilerle 6 aydan uzun bir organizasyonla gerçekleştirilen, ilk global deepfake tespit modeli geliştirme yarışmasının sonuçlarından, bir önceki yazıda söz etmiştik. Her kıtadan 2114 ekibin 35.000’den fazla deepfake tespit algoritmasıyla katıldığı Deepfake Detection Challenge’ın (DFDC) final etabında, yarışmayı birinci bitiren model, ancak %65,18’lik bir deepfake tespit performansına ulaşabilmişti. Bu sonuç, geliştirilen yapay zeka (ai) temelli siber güvenlik algoritmalarının, her tür deepfake’i yakalamak konusunda, henüz yolun en çok üçte ikisini kat edebilmiş durumda olduklarını ortaya koyuyordu.

Oysa, yarışmanın kamuya açık ilk etabını ilk sırada tamamlayan algoritmanın ortalama performansı, %82,56’ya ulaşmıştı. Çünkü, yarışmanın ilk etabında, yarışmacıların 100.000’in üzerinde videodan oluşan veri setine erişebilmelerine ve geliştirdikleri modelleri bu veri seti üzerinde eğitebilmelerine olanak sağlanmıştı. Final etabında ise, yarışmacı deepfake tespit modelleri, kara kutu olarak tanımlanan ve yarışmacılarla paylaşılmayan 10.000 videoluk farklı bir veri seti üzerinde test edildiler. Üstelik bu videolar, farklı derin kare oluşturma modelleri, görüntü iyileştirme teknikleri ve bulanıklık, kare hızı değişikliği ve kaplamalar gibi ek büyütme ve dikkat dağıtıcılar kullanılarak, tespiti daha da zorlaştırılacak biçimde değiştirildi. Bunun için, DFDC’nin akademik paydaşları olan, Cornell Tech, MIT, Münih Teknik Üniversitesi, UC Berkeley, Albany – SUNY Üniversitesi, Maryland Üniversitesi, Naples Federico II ve Oxford Üniversitesi’nden uzmanların desteklerinden yararlanıldı. Bu yolla, yarışmacı algoritmaların, bilinen örneklerden, bilinmeyen örneklere genelleme yapma zorluğunu aşabilme nitelikleri ölçülüyordu. Geliştirilen deepfake tespit algoritmalarının, daha önce eğitilmedikleri deepfake örneklerinde, henüz eğitildikleri veri setlerindeki kadar başarılı olamadıkları, çok net biçimde açığa çıkmış oldu.

Deepfake tespit modeli ar-ge’si, tersine mühendislik içermiyor mu?

Zaten, siber güvenlik sağlayıcıların, ai temelli deepfake tespit modelleri geliştirme sürecinde, ar-ge çalışmalarının önemli bir bölümünü, deepfake araçlarının algoritmalarını çözme çabasının oluşturduğunu görürsünüz. Bunun bir nedeni, deepfake teknolojilerinin, eğitim, sağlık, spor, iletişim gibi alanlardaki faydalı kullanımına yol açacak inovasyon girişimleri olarak görünebilir. Ancak diğer yandan mevcut deepfake algoritmalarının yapısını çözerek, onların çalışma prensiplerine uygun tespit yöntemleri geliştirmek, ar-ge’nin temel hedeflerindendir. Bu yönüyle, deepfake tespit algoritmaları için yapılan ar-ge, aynı zamanda deepfake teknolojilerine yönelik bir tür tersine mühendislik faaliyetidir.

Facebook için deepfake henüz sorun değil, DFDC’nin başarısı beklentinin üzerinde…

DFDC birincisinin elde ettiği ortalama %65,18’lik performans, en başarılı deepfake tespit aracı için hedeflenen isabet oranı olmasa gerek. Ancak, milyon dolarlık ödüllerle yarışmaya öncülük eden Facebook, yarışma öncesi bu kadarını bile beklemiyormuş. 2013 yılından bu yana Facebook’un Teknolojiden Sorumlu Başkan Yardımcısı (CTO) görevini yürüten Mike Schroepfer, sonuçlar açıklandıktan sonra gerçekleştirdiği basın buluşmasında, gazetecilere elde edilen sonuçlardan memnun olduklarını açıkladı. Sonuçların gelecekteki çalışmalarına rehberlik edeceğini belirten Schroepfer, “Dürüst olmak gerekirse, yarışma umduğumdan daha başarılı oldu” diye konuştu.

Facebook CTO’sunun bir başka ilginç saptaması ise, deepfakes’in Facebook için şu anda büyük bir sorun olmaması. Mike Schroepfer, gazetecilere yine de bu tür içerikleri gelecekte mutlaka tespit etmeye hazır olmaları gerektiğini aktarıyor. Facebook, Ocak ayında, kapsamı tartışmalı olsa da, deepfakes içerikleri yasakladığını duyurmuştu. Facebook’ta, teknolojinin başındaki adam konumundaki Schroepfer, hazırlıklı olmanın önemini vurguluyor ve “Son birkaç yıldan zor yoldan öğrendiği ders; asla gerçekleşmeyecek birçok kötü şey için önceden hazırlıklı olmam gerektiği” diyor. Herhalde, Facebook yönetimi dışında kimse, deepfakes tehdidini artık gelecekte yaşanabilecek olası bir sorun olarak görmüyor. Facebook’ta içerik kısıtlamalarına karşı olduğu bilenen Mark Zuckerberg’in de bir süre önce sıkıntılı bir biçimde deepfake kurbanları arasına katılmış olması, herhalde bu kadar iyimser olmamak gerektiğini kanıtlıyor.

Facebook, çevrimiçi dünyayı ve tabi ki dijital platform yatırımlarını gelecekteki tehlikeden korumak üzere, etkin bir deepfake tespit modeli geliştirilmesi için, DFDC’ye katılmayan geliştiricilere de katkı sağlayacağını ilan ediyor. Bu doğrultuda, sadece final etabında yarışmacı algoritmaları zorlayan özel veri setini, yarışma sonrası açık kaynak koduyla yayınlamayı yeterli görmüyor. Facebook CTO’su, DFDC’de dereceye giren başarılı deepfake tespit algoritmalarını da açık kaynak koduyla bu alanda çalışan tüm geliştiricilerin erişimine açacaklarını duyuruyor.

Dereceye giren modellerin kodu açık, Facebook’unki kapalı

Facebook DFDC kapsamında, diğer çevrimiçi dünya devi ortaklarıyla birlikte, deepfake tespitinde geleceğe yatırım yapıyor görünüyor. Ancak umudunu sadece DFDC katılımcılarının geliştireceği modellere bağlamıyor. Schroepfer, DFDC sonuçları ile ilgili gazetecilere yaptığı değerlendirmede, Facebook’un şu anda bu yarışmadan ayrı olarak kendi deepfakes algılama teknolojisini geliştirdiğini vurguluyor ve “Üretimde deepfake tespit teknolojimiz var ve bu bağlamda geliştireceğiz” diyor. Üstelik Facebook, geliştirilmesine doğrudan katkı sağladığı bu deepfake tespit modelini, ödüllendirmenin dışında kalacak biçimde, DFDC’deki yarışa dahil ettiğini de açıkladı.

Facebook CTO’su, asıl bombayı, geliştirdikleri deepfake tespit modeli ile ilgili olarak patlatıyor ve Facebook’un tersine mühendislik yapılmasını önlemek için, kendi algılama teknolojisini gizli tutacağını açıklıyor. Oysa Facebook, aynı hassasiyeti DFDC’de derece alan en başarılı deepfake tespit algoritmaları için göstermiyor. Schroepfer kendi algoritmalarını gizli tutacaklarını vurgulayarak, DFDC’de derece alan algoritmaları açık kaynak koduyla yayınlamakla, bunlara yönelik tersine mühendislik fırsatı sağlamış olacaklarını da, bir anlamda itiraf etmiş oluyor.

Bugün daha önde olan ve yakalanmamak için kaçan deepfakes teknolojileri ile gerisinde olduğu halde onu yakalamak için kovalayan deepfake tespit modelleri arasında, çok da eşit şartlarda gelişmeyen bir yarış hüküm sürüyor. Deepfake tespit algoritmaları geliştikçe, kötü niyetli deepfake üreticileri için, tersine mühendislik bugünkünden daha fazla önem kazanacak. Bu alanda DFDC organizasyonunda öne çıkan küresel külliyatı, açık kaynaklı hale getirmek, deepfake tespit algoritmaları geliştirmeye katkı sağlamak amaçlı ve buna hizmet eder görünüyor olabilir. Ama bu strateji aynı zamanda deepfake araçlarının, algılama algoritmalarını daha kolay atlatmalarına yardımcı olacak. Zaten, Facebook da tam da bu yüzden, kendi geliştirdiği algoritmaları açık etmekten kaçındığını, açık seçik açıklamıyor mu?

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: