Microsoft ve Bankalar, Pandemide Deepfake’e Karşı Gevşemiyor

ABD Başkanlık Seçimi’ne iki aydan az bir zaman kala, Microsoft iki farklı deepfake tespit sistemini kullanıma sunduğunu duyurdu. Pandemide fiziksel temasın kısıtlanması, deepfake içerikli kimliğe bürünme siber dolandırıcılık riskini artırınca, global finans kuruluşları yeni dijital kimlik doğrulama teknolojisi yatırımlarına hız verdi.

Deepfake mücadelesi, iki ayrı cephede tüm hızıyla sürüyor. Bir yanda, yeni deepfake teknolojileri üretenler, diğer yanda deepfake tespit modeli geliştirmeye çalışanlar. Bir taraf, yapay gerçeklik üretmenin, diğer taraf sahteyi gerçekten ayırt etmenin çabası içinde. İki grup, sanki deepfake üretimi için başlangıçta en yaygın biçimde kullanılan Üretken Rakip Ağlar’ın (GAN) işlevini üstlenmiş gibi. Teknoloji yatırımcıları, her iki tarafı da finanse edip, adeta birbiriyle yarıştırıyor. Zemana örneğinde olduğu gibi, yapay zeka (ai) altyapısı güçlü az sayıdaki teknoloji şirketi ise, iki alanda birden ar-ge gerçekleştiriyor.

Üretim (generation) ve güvenlik (security) arasındaki bu kedi fare oyununda, pandemi süreci algıyı biraz değiştirmeye başlıyordu. Kovid-19 yüzünden fiziksel temas olanağı azaldıkça, deepfake pek çok alanda sürdürülebilirliği sağlamanın çözümü olarak denenir hale geldi. Tam korkularımızı yeniyor ve gevşemeye başlıyorduk ki, teknoloji ve finans devleri, güvenlikten yana yeniden ağırlıklarını koydular.

Deepfake’i kontrol altına alma çabası

Microsoft, 1 Eylül’de duyurduğu Microsoft Video Authenticator ile ABD Başkanlık Seçimi’ne iki aydan az bir zaman kala, deepfake tespitinde öne çıktı. Çünkü deepfake’in en korkulan yanı, barışı ve demokrasiyi, küresel boyutta zaafa uğratarak kaosa yol açabilecek bir dezenformasyon silahına dönüşebilir olması. Microsoft, “Güvenilir Haber” hedefine yönelik, uluslararası medya kuruluşları iş birliğiyle ayrıca Project Origin girişimine öncülük ediyor. Microsoft eşzamanlı duyurduğu yeni dijital filigran teknolojisiyle de bu alanda ikinci önemli adımı atmış oldu.

Deepfake gündeminde, Eylül ayında güvenliği yeniden ön plana çıkaran ikinci gelişme ise, bankalar ve finans kuruluşlarının deepfake’e karşı önlem için uygulamaya koyduğu yeni teknolojiler. Bu alanda HSBC, Adobe’la ve dijital kimlik doğrulama teknolojileri üreticisi Mitek ile iş birliği gerçekleştirdi. ING, Rabobank ve Aegon ise, yeni güvenlik merkezini 3 Eylül’de hizmete açan, finans teknolojisi şirketi iProov’u seçti. Çünkü deepfake’in yol açtığı bir diğer kabus, kimliğe bürünmeyi kolaylaştırarak özellikle global şirketleri hedef alan siber dolandırıcılığa olanak sağlaması. Pandemi, çevrimiçi yaşama sürükleniş nedeniyle, dezenformasyon gibi, siber dolandırıcılık riskini de büyük ölçüde artırıyor.

Microsoft, deepfake tespitinde de liderliği soyunuyor

Microsoft da, bu yılın ortalarında İngiltere ve ABD’deki onlarca içerik editörüyle iş ilişkisini sonlandırıp, bundan sonra o içerikleri ai algoritmalarıyla bir tür deepfake metinler biçiminde oluşturmayı tercih etmişti. Aynı Microsoft, bundan yaklaşık 3 ay sonra ise, geliştirdiği deepfake dedektörü Microsoft Video Authenticator’ı kullanıcılarına ve uluslararası kamuoyuna duyurdu.

Zemana olarak deepware.ai web sitemizde aylar önce ücretsiz kullanıma sunduğumuz Deepware Scanner gibi, Microsoft’un yeni Video Authenticator’ı da bir tür deepfake medya tarayıcı niteliği taşıyor. Ancak Microsoft, geliştirdiği deepfake tespit aracını Zemana gibi en başından herkesin kullanımına sunmuyor. Microsoft’un tespit aracı da, manipüle edilmiş olma olasılığına dair bir yüzde oran veya güvenirlik puanı belirlemek için, fotoğrafı veya videoyu analiz ediyor. Video taramasında, deepfake olasılığı yüzdesini, video oynatılırken her karede gerçek zamanlı olarak belirleyebiliyor. Yeni deepfake tespit aracı, Microsoft’un Güvenlik’ten Sorumlu Başkan Yardımcısı Tom Burt ve Bilim Yöneticisi Eric Horvitz’in imzasını taşıyan bir blog yazısıyla duyuruldu. Duyuruda, tespit aracının insan gözü tarafından algılanamayabilecek ince solma veya gri tonlama öğelerinin harmanlama sınırını tespit ederek çalıştığı ifade edildi.

Microsoft’tan yapılan açıklamaya göre, bu teknoloji orijinal olarak Microsoft Research tarafından Microsoft’un Sorumlu AI ekibi ve Microsoft’un Mühendislik ve Araştırmada Etik ve Etkileri (AETHER) Komitesi ile koordinasyon içinde geliştiridi. Microsoft Video Authenticator, Face Forensic ++ ‘ dan herkese açık bir veri kümesi kullanılarak oluşturuldu ve DeepFake Detection Challenge (DFDC) Veri Kümesi üzerinde de test edildi.

Microsoft, %100 tespit iddiası taşımıyor

Microsoft, sentetik medya üretme yöntemlerinin daha da karmaşık hale gelecek şekilde büyümeye devam edeceğini öngörüyor. DFDC’nin bir kez daha gözler önüne serdiği gibi, mevcut ai temelli deepfake algılama yöntemlerinin hiçbiri %100’lük bir başarı sağlayamıyor. Microsoft, algılama yöntemlerini atlatabilen deepfake teknolojilerine çözüm bulmak gerektiğini vurguluyor. Uzun vadede, haber, makale ve diğer medya içeriklerinin gerçekliğini güvence altına alabilmek için daha güçlü yöntemler aramak gerektiğine işaret ediyor. Bu çerçevede, Microsoft da deepfake teknolojilerine karşı, bugün itibariyle %100 tespit iddiası ortaya koyamıyor.

Güvenilir haber için, dijital filigran

Microsoft, ayrıca BBC, The New York Times, CBC ve Canada-Radio gibi medya kuruluşları ile birlikte gerçekleştirdiği “Güvenilir Haber” doğrulama platformu girişimi kapsamında, yeni dijital filigran teknolojisinin de duyurusunu yaptı. Microsoft ‘un duyurduğu bu yeni teknolojide ise, iki bileşen yer alıyor. Bunlardan ilkini, Microsoft bulut platformu Azure’da yer alan ve üretilen medya içeriğine dijital işaret ya da sertifika eklemesini sağlayan araç oluşturuyor. Bu işaret ve sertifikalar medyanın çevrimiçi dolaşım macerasında, içekle ilgili orijinal tanımlamaları barındırıyor. İkinci araç ise, bir tarayıcı uzantısı olarak veya başka biçimlerde, medya üreticisi tarafından eklenen işaret ve sertifikaları kontrol ederek, orijinal içerik belirliyor. Böylece, içeriğin gerçek olduğunu ve değiştirilmediğini yüksek derecede doğrulukla bildirirken, medyayı üreten hakkında da bilgi aktarıyor.

Deepfake tehdidine karşı demokrasi koalisyonu

Microsoft bunların dışında, ai’nin gücünü ve korumasını dünyadaki herkese sağlama misyonuyla, San Francisco merkezli kar amacı gütmeyen bir kuruluş olan AI Vakfı ile ortaklık yürütüyor. Bu ortaklık sayesinde, AI Vakfı’nın “Gerçeklik Savunucusu” (Reality Defender) 2020 (RD2020) girişimi, Video Authenticator’ı haber kaynakları ve siyasi kampanyalar dahil olmak üzere demokratik süreçte yer alan tüm kuruluşların kullanımına sunacak. Teknolojiden, başlangıçta yalnızca RD2020 aracılığıyla yararlandırılacak olan kuruluşlara deepfake teknolojileri ve etik konularda rehberlik desteği de sağlanacak.

Finans sektöründe temas azaldıkça risk artıyor

Bankalar başta olmak üzere, finans kuruluşları ve finansal teknoloji şirketleri, dolandırıcılar tarafından değiştirilmiş video ve ses içeriğinin kullanımıyla mücadele etmek için ortaklıklar kuruyor. Financial Times’in (FT) 6 Eylül tarihli haberine göre, araştırmalar deepfake içerikli siber saldırıların finans sektörü müşterileri arasındaki en büyük endişe olduğunu gösteriyor. Geçen ay yayınlanan University College London raporuna göre, sahte ses ve video içeriği, neden olabileceği zarar, sağlayabileceği kar potansiyeli, kullanım ve üretim kolaylığı kriterleri açısından, ai’nin suç amaçlı 20 kullanım yöntemi arasında artık ilk sırada yer alıyor. Ayrıca, Kovid-19 pandemisi, insanları kimliğe bürünme dolandırıcılıklarına karşı daha korumasız hale getiriyor. Karantina nedeniyle, yüz yüze temas olanakları kısıtlandığı için, çalışanlar ödeme onayı ile ilgili daha çok deepfake saldırısına uğruyor.

FT’ın haberine göre, Eylül başında İngiltere merkezli çokuluslu yatırım bankası ve finansal hizmetler holdingi HSBC de, Mitek teknoloji firması tarafından geliştirilen ve Adobe ortaklığı ile sunulan biyometrik tanımlama sisteminin kullanıcıları arasına katıldı. HSBC, canlı görüntüler ve elektronik imza kullanarak yeni müşterilerin kimliklerini kontrol edebilmesine olanak tanıyan sisteme katılarak, ABD perakende bankacılık operasyonuna da entegrasyon sağladı. Mitek’in biyometrik sistemini kullananlar arasında, Chase, ABN Amro, Caixa Bank, Mastercard ve Anna Money de yer alıyor. 

3 Eylül 2020’de İngiliz finans teknolojisi şirketi iProov tarafından yeni bir güvenlik merkezi açıldı.  Singapur’da bulunan merkez, müşterilerin kimliğine bürünmek için kullanılan deepfake videoları tespit etmeyi ve engellemeyi hedefliyor. Rabobank, ING ve Aegon, manipüle edilmiş kayıtlarla değil gerçek insanlarla uğraştıklarından emin olmak için bu teknolojiyi kullanan kuruluşlar arasında yer alıyor. Banka müşterileri de tehlikelerin farkındalar. İProov için ABD ve İngiltere’de 2 bin tüketiciyle gerçekleştirilen ankette, katılımcıların % 85’i, deepfake’lerin çevrimiçi gördüklerine güvenmeyi zorlaştıracağını ve yaklaşık ¾’ü de kimlik doğrulamasını daha önemli hale getireceğini söylüyor. iProov’un kurucusu ve CEO’su Andrew Bud da, “Bu teknolojinin ne kadar hızlı geliştiğinin farkında olmadıkları için çok az sayıda kuruluşun böyle bir eylemle karşılaşması muhtemel. En son deepfake’ler o kadar iyi ki çoğu insanı ve sistemi ikna edecekler” diyor.

Teknolojiyi canavarlaştıran kim?

Genellemeler üzerinden edinilen önyargılar, çağlar boyu insanlık için en trajik tehlike oldu. Gelişimin önündeki, aşılması en zor engel haline geldi. Sapla samanı ayırt edememek, hayatı siyah ile beyaz arasına sıkıştırdı. Körü körüne kabullenme ya da bütünüyle reddetme kolaycılığı, fırsatları hunharca israf etmekten başka işe yaramadı.İnsanoğlunun bilimle olan inatlaşması belki yüzyıllar kaybettirdi.

Kuşkusuz bilimin yol açtığı keşif ya da icatları, her devirde şeytani amaçlara hizmet edecek şekilde kullanmaya kalkışanlar oldu. Peki suç teknolojide miydi, yoksa onu suça alet edenlerde mi? Ya da buna zemin hazırlayanlarda mı? Fayda maliyet hesabını, tarafsız ve önyargısız yapabilmek önemli. Bilim ve teknoloji, kontrollü bir güç olarak insanlığın hizmetine sunulduğunda, kendi canavarını yaratma kısır döngüsü de aşılmış olur. Bu durum, ai ve onun en tartışmalı ürünü olan deepfake teknolojisi için de geçerli.

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: