Zoom’da Deepfake’in Maskesini İndirebilir Misiniz?

“Karantinada yaşam modeli”, dijital dönüşümü hızlandırdı. Yüz yüze iletişimin yerini büyük oranda video konferans uygulaması Zoom aldı. Dünya bir de Zoombombing saldırganlarıyla uğraşmak zorunda kaldı. Ama belki de bu bir öncü sarsıntı. Önceki yazıda, “Zoom’da görüştükleriniz gerçekten onlar mı?” diye sormuştuk. Peki ya onlar, gerçekte sandığımız kişiler olmadıklarında ne olacak? Zoom’da asıl deprem, ya arkadan geliyorsa…

COVID-19 Yeni Tip Koronavirüs Pandemisi’nin neden olduğu “karantinada yaşam modeli”, dijital dönüşümü hızlandırdı. Yüz yüze iletişimin yerini büyük oranda video konferans uygulaması Zoom aldı. Dünya bir de Zoombombing saldırganlarıyla uğraşmak zorunda kaldı. Ama belki de bu bir öncü sarsıntı. Önceki yazıda, “Zoom’da görüştükleriniz gerçekten onlar mı?” diye sormuştuk. Peki ya onlar, gerçekte sandığımız kişiler olmadıklarında ne olacak? Zoom’da asıl deprem, ya arkadan geliyorsa…

Artık yüz yüze görüşmeler çoğunlukla Zoom üzerinden gerçekleştiriliyor…

Tıpkı GDO’lu sebze meyve gibi, Zoom’un kullanıcı sayısını 3 ayda 20 kat artıran virüslü büyüme de, elbette bir güvenlik sorunu doğuracaktı. Davetsiz misafirlerin Zoombombing olarak adlandırılan saldırılarıyla, Zoom’daki görüntülü toplantı ya da eğitim oturumlarına kolayca sızabiliyordu. Onların uygunsuz görüntü ve söylemlerle, oturumları hacklemeleri hemen olay oldu. Sanki bu yaşanabilecek tek sorunmuş gibi, gündemin ilk sırasına oturdu. Hatta New York Başsavcılığı ve FBI Boston Ofisi’nin Nisan ayı başında Zoom CEO’su Eric Yuan’a yaptıkları güvenlik uyarısı ile eşzamanlı biçimde, ABD’de video konferans korsanlığı “federal suç” sayıldı. ABD Adalet Bakanlığı Doğu Michigan Başsavcılığı, artan Zoombombing eylemleri üzerine, 3 Nisan’da yaptığı yazılı açıklamada, “Halka açık bir toplantıyı aksatma, bilgisayara izinsiz giriş, suç işlemek için bilgisayarı kullanmak, bu yolla nefret suçları işlemek, sahtekarlık veya tehditte bulunmak, para cezası ve hapis ile cezalandırılabilir” uyarısında bulundu.

ABD’li savcı deepfake’i, belki aklına bile getirmek istemedi…

Doğu Michagan Başsavcısı Matthew Schneider, yazılı açıklamada “Michigan’da bir telekonferansa müdahale ederseniz, federal, eyalet veya yerel güvenlik güçleri kapınızı çalabilir. Zoom bombardımanının komik olduğunu mu düşünüyorsunuz? Tutuklandıktan sonra, ne kadar komik olduğunu görürüz” diyerek, Zoom bombacılarına göz dağı verdi. Doğu Michagan Başsavcısı, adaletin sopasını gösterip, Zoom korsanlarını caydırmaya çalışırken, olası risklerin tanımını da genişletiyordu. Örneğin, Zoom saldırganları, sadece oturumlara değil, oturama katılanların kameralarına da sızabilir, onların istem dışı görüntülerini, sırlarını ve kişisel bilgilerini elde edebilirlerdi. Ama Michagan Başsavcısı’nın bile aklına getirmediği ya da söylemekten çekindiği asıl büyük tehlike, Zoom korsanlarının deepfake maskeleriyle yapabilecekleriydi.

İngiltere Başbakanı, COVID-19 zirvesine evinde Zoom üzerinden başkanlık yapmıştı.

Zoom ekranındaki Boris Johnson, ya gerçek olmasaydı?

Örneğin İngiltere’nin koronavirüse yakalanan Başbakanı Boris Johnson, yoğun bakımda tedaviye alınmadan evdeki karantina günlerinin başında, Zoom üzerinden İngiltere’deki COVID-19 toplantısına başkanlık etmişti. Toplantıya katılanlar arasında, büyük olasılıkla bakanlar, üst düzey bürokratlar ve belki bilim insanları da vardı. Avrupa’nın en güçlü ülkelerinden birinin toplum sağlığı ve ulusal geleceği, en üst düzeyde konuşuluyor ve sadece İngiltere’yi değil, belki dünyayı ilgilendiren kararlar alınıyordu. Üstelik, İngiltere dünyada yeni tip koronavirüsü başıboş bırakan “sürü bağışıklığı” tercihinin öncülerindendi. Sonunda Başbakan’ın bile COVID-19 testi pozitif çıkınca, karantinaya U dönüşü yapılmıştı. İşte o günlerde, Zoom ekranındaki gerçekten İngiltere Başbakanı değil de, ya onun kopyalanmış sesiyle konuşan, Boris Johnson deepfake maskesi takmış bir korsan olsaydı. Ve hayati kararların alındığı o video konferansta, bakanlarına ve bürokratlarına karantinaya gerek olmadığı talimatı vermeye kalkışsaydı neler olurdu? Orjinali bile bu kadar kötü bir COVID-19 sınavı verirken, onun yüzünü ve sesini kendine maske yapmış kopyası, “güneşi batmayan imparatorluk” sanılan bu ülke için, kim bilir nelere mal olurdu?

Maskeli balo, deepfake’in icadından önce başladı

Geçen ay, 11 Mart Pazar günü Paris Mahkemesi, İsrail asıllı Fransız vatandaşı iki sanıktan Gilbert Chikli’yi 11 yıl hapse ve 2 milyon euro para cezasına çarptırdı. Suç ortağı Anthony Lazarevitch ise, 7 yıl hapis ve 1 milyon avro para cezasına çarptırıldı. Bu iki adam, çevrimiçi dünyanın deepfake ile tanışmasından yaklaşık 1-2 yıl önce, yani 2015-2016 yıllarında, deepfake’in bugün yapabileceklerini, sadece silikondan imal edilmiş bir maske kullanarak gerçekleştirmiş ve tüm dünyayı şaşkına çevirmişlerdi. İki yıl süren maskeli balonun baş rolündeki 54 yaşındaki Gilbert Chikli, 35 yaşındaki ortağı Anthony Lazarevitch ile birlikte, o günlerin Fransa Savunma Bakanı, günümüzün Dışişleri Bakanı Jean-Yves Le Drian’ın silikon maskesini yaptırıp onun kimliğine bürünerek, akıl almaz isimleri kandırmaya başardı. Dolandırıcı ikili, yönettikleri 5 kişilik suç örgütüyle, dünya çapında birbirinden önemli kişileri tam 55 milyon avro dolandırdılar. The Guardian’ın haberine göre, dolandırıcılar varlıklı iş insanı, siyasetçi ve dini figürlerden seçtikleri 150’den fazla hedefe, telefon ve özellikle de Skype üzerinden video konferans çağrısı ile olta attılar.

Chikli (sağda) Fransız Bakan Le Drian’ın maskesiyle, milyonlarca Avro topladı.

Ele başı Chikli, Fransız Bakan Le Drian’ın silikon maskesini takarak onun görünümüne bürünürken, duvarda da bakanlık ofisinin kopyası bir fon yer alıyordu. Dolandırıcılar, genellikle Suriye başta olmak üzere, Ortadoğu’daki dinci terör örgütlerinin elindeki esirleri kurtarmaya yönelik operasyonlar için yardım kisvesi altında, zengin kurbanlarına tezgah kuruyorlardı. Maskeli video konferans dolandırıcıları, en büyük vurgunu 2016 yılında Polonya ve Çin’de verdikleri hesap numaralarına, 5 farklı transfer ile toplam 20 milyon Avro yatıran dini lider Kerim Ağa Han sayesinde vurdular. Transferlerin 3’ü son anda dondurulsa da 7,7 milyon Avro’ya ulaşılamadı. Haberde, Türk iş insanı İnan Kıraç’ın da, bundan birkaç ay sonra, Suriye’deki iki rehine gazetecinin fidye parası olarak, dolandırıcılara 47 milyon doların üzerinde para göndermeye ikna edildiği belirtiliyordu. Üçüncü kurban ise, dünyaca ünlü Porto şarabı ve emlak yatırımlarıyla tanınan Yunan asıllı Fransız iş kadını Corinne Mentzelopoulos idi. Onun zararı da 5 milyon Avro’ydu. Maskeli video konferans dolandırıcılık girişiminde sonuç alamadıkları girişimler arasında, Gabon’un başkanı Ali Bongo, Fransız AIDS Yardım Kuruluşu Sidaction, dünyanın en büyük çimento şirketlerinden Lafarge’ın genel müdürü ve Paris Başpiskoposu da vardı. Aslında, Chikli 10 yıl arayla aynı tezgahı ikinci kez kurmaya kalkışmıştı. 2005-2006 yıllarında, benzer dolandırıcılık faaliyetleri için, 2015 yılında Fransa’da, gıyaben 7 yıl hapse mahkum edilmişti. Chikli, önceki dolandırıcılık öyküleriyle Fransız Sineması’nda, 2015 yapımı “Je Compte Sur Vous”a da (Sana Güveniyorum) ilham kaynağı olmuştu.

COVID-19 Yardım Kampanyaları da, deepfake tehdidi altında değil mi?

Chikli, Deepfake’in sahne aldığı 2017 yılında, artık silikon maskelerin devri kapandığı için olsa gerek, ortağı Lazarevitch ile birlikte Ukrayna’da yakalandı. Yine de tutuklandıklarında telefonlarında, yeni yüzleri olarak kullanmaya fırsat bulamadıkları Monaco Prensi Albert’in silikon maskenin fotoğrafları çıktı. Şimdi ise artık, yapay zeka (ai) teknolojisi sayesinde, yapay sinir ağları kullanılarak, makine öğrenmesine dayalı algoritmalar yardımıyla üretilebilen deepfake sentetik medya, silikon maskeden çok daha inandırıcı görünüyor. Bu da demektir ki, bir Bakan, Başbakan ya da Cumhurbaşkanı’nın görünümüne bürünerek, başkalarını kandırabilmek için için, artık korsanların silikon maskelere ihtiyaçları kalmadı.  Tam da devlet liderlerinin artık tüm toplantılarını Boris Johnson gibi Zoom ya da başka video konferans yöntemleriyle yaptıkları, TV ekranlarında haber olurken… Ve tam da COVID-19 Pandemisi’ne yönelik tüm dünyada devletler ve uluslararası kuruluşlar, dev yardım kampanyaları başlatmışlarken. Bilgisayar ya da telefon ekranında, karşısında bir siyasi lideri gören kaç iş insanı ve varlıklı kişi, bir kontrol edeyim, acaba gerçekten o mu demeye cesaret eder? Siz karar verin…

O kadar kolay mı? Bakın bakalım, gerçekten zor mu?

Deepfake’i bugüne kadar hep, gerçek bir video görüntü üzerinden, yapay sinir ağları ve derin öğrenme yardımıyla, özel algoritmalar kullanılarak üretilen, orjinalinden ayırt edilmesi zor sahte videolar olarak algılamış olabilirsiniz. Bu durumda, deepfake’in önceden hazırlanmış videolardan ibaret olduğunu düşünebilirsiniz. Oysa, ai teknolojisi, artık kanlı canlı deepfake’i de mümkün kılıyor. Yani, gündelik kullanımda, görüntülü konuşma olanağı sunan Zoom, Whatsapp, Skype, Facetime gibi bir video konferans uygulamasından, görüntülü bir çağrıyı yanıtladığınızda, karşınızdakinin tanıdığınız kişi olduğundan, o kadar da emin olmayın. O tanıdık görüntü ve sesin arkasına kötü niyetli bir kişi saklanıp, sizinle oymuş gibi konuşarak, artık pekala size korkunç bir tuzak kuruyor olabilir.

Doç. Hao Li ve Pinscreen ekibi Davos’ta gerçek zamanlı yüz takası rüzgarı estirdi.

Deepfake konusunda uluslararası akademik çalışmalarıyla ün yapan Güney Kalifornia Üniversitesi’nden Doçent Hao Li, MIT Technology Review tarafından “dünyanın en iyi deepfake sanatçısı” olarak anılır. Hao Li, kurucusu ve CEO’su olduğu Pinscreen ekibiyle geçtiğimiz günlerde yine etkileyici bir gösteriye imza attı. Hao Li ve Pinscreen ekibi, 2020 Ocak ayında İsviçre’nin Davos kentinde gerçekleştirilen Dünya Ekonomik Forumu’nda (WEF), gerçek zamanlı etkileşimli yüz değişimini gösterdiler. Özel ekranlar üzerinden, katılımcıların kendilerini canlı ve gerçek zamanlı bir “Derin Ayna”da Michelle Obama, Lionel Messi, Leonardo DiCaprio, Will Smith gibi ünlü yüzlerle görmelerini sağladılar.  Pinscreen’in araştırması “yeni derin öğrenmeyi” ve “veri odaklı geometri işleme algoritmalarının geliştirilmesini” içeriyordu. Bir sanal aynada katılımcıların yüzlerini, ünlü yüzlerle gerçek zamanlı olarak takas edebilmelerini sağlayan teknoloji, aslında deepfake’in bir adım ilerisi. Klasik deepfake teknolojilerinin, bir veri gereksinimleri var. Oysa Hao Li ve Pinscreen ekibinin beta zone’daki yeni teknolojileri anında çalışıyor ve başka bir kişinin yüzünü, herhangi bir eğitim almadan, anında kullanıcıya yerleştirebiliyor. Üstelik bu yüz değişimi gerçek zamanlı gerçekleştiriliyor.

Dünya Ekonomik Forumu’nda sergilenen Derin Ayna’da, ünlü bir yüz edinilebiliyor.

Sanal deepfake kamerası pek yakında…

Bu yeni teknolojinin Zoom’da karşıma çıkmasına, daha zaman var mı diyorsunuz? O zaman gündelik, masum ve eğlencelik gibi gözüken, Aphrodite.ai’ye bir göz atın. Uygulama, bilgisayarınızın web kamerasını kullanarak, gerçek zamanlı deepfake oluşturmanıza olanak tanıyor. Beta versiyonuyla şu anda yalnızca Chrome ve Firefox’un son sürümünü kullanan masa üstü sistemlerde çalışıyor. Ancak geliştirme süreci devam ediyor. Aphrodite.ai ekibi, dönüştürülmüş videoyu, Skype ve diğer video konferans uygulamalarında sanal kamera olarak kullanma olanağı sağlayan, bağımsız bir başka uygulama üzerinde çalıştıklarını da duyuruyor.

aphrodite.ai, gerçek zamanlı yüz takasını bilgisayarın web kamerasından yapıyor…

Katılımcıları zoomlamadan, Zoomlamayın…

O yüzden siz siz olun, sosyal mesafe kaygısıyla Zoom ve diğer video konferans uygulamalarına yakınlaşırken, çevrimiçi güvenlikten uzaklaşmayın.  Facebook’un Deepfake Detection Challenge (DFDC) organizasyonu, Nisan sonunda etkin bir deepfake tespit modeli ortaya çıkarır mı, anlamak için kısa bir süre kaldı. Ama tıpkı Koronavirüs Pandemisi’ne karşı olduğu gibi hem kendimizi, hem de umudumuzu her an korumak zorundayız. Bu yüzden mümkünse, modaya uymak için, Zoom gibi uçtan uca şifreleme sistemi kullanılamayan uygulamaları tercih etmeyin. Zoom’daki görüşmelerinizde de güvenliğinizi biraz olsun artırabilmek için, her toplantıda ayrı bir geçici kimlik kullanın ve kimlerin toplantıya katılmaya çalıştığını görmek için uygulamanın Bekleme Odası’nı aktif hale getirin. Ayrıca, başkalarının “Ana Bilgisayardan Önce Oturuma Katılma” ve diğer riskli işlevlerini, Ayarlar’dan devre dışı bırakın. Son olarak, davetli katılımcılar gelip toplantı başladığında, oturumu dışarıdan geleceklere kilitleyin.

COVID-19 yüzünden ortalık toz duman. Hangi postun altından hangi kurt çıkabilir, belli değil. Bakarsınız hiç beklemediğiniz anda, hayır diyemeyeceğiniz biri görüntülü arar, o an sizin de yüzünüz tutmaz… Korkulu rüya görmektense uyanık gezin, sonra pişman olmayın…

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: