Deepfake Troller, Fenomen Olursa

Fenomen, genel anlamda, “duygusal bağ kurulacak düzeyde ilgi ve beğeni toplayan, şey ya da kişi” olarak tanımlanıyor. Çevrimiçi dünyada ve özellikle sosyal medyada fenomen olmak, kuşkusuz takipçi sayısı ile ölçülen bir değer. Troller ise, en masum ifadesiyle, çevrimiçi dünyanın düzen bozucuları, kafa karıştırıcıları, manipülasyon uzmanları olarak karşımıza çıkıyor. Fenomen, tek kaynaktan güçlü bir manyetik alan yayarken, troller çekim alanını güçlendirmek için, hedefe makineli tüfekle ateş ediyor. Yani fenomen olmak için tek hesap yetiyor. Kaosa odaklanan troller ise, çoğunlukla birden çok sahte hesaba ihtiyaç duyuyor.
Yüzbinleri peşinden sürükleyen fenemonlerin neredeyse hiçbiri melek sayılmaz. Bu denli dikkat çekici olmanın elbette bir etik ve ahlaki maliyeti var. Ama trollerin varlık nedenleri, yalan, iftira ve taciz. Troller istisnasız şeytani niyet taşıyor. Bu yüzden trollerin deepfake ile inandırıcılık ve cazibe kazanarak fenomen haline gelmeleri, çevrimiçi dünya için daha da büyük bir tehlike oluşturuyor.
CNN Business, trol hesapların inandırıcılıklarını artırmak için, yapay zeka (ai) destekli deepfake kimlikler edinerek, ete kemiğe bürünmeye çalışmaları konusunda uyarıda bulunuyor. Trol hesapların, deepfake teknolojilerinden yararlanarak, sürdürülebilirliklerini ve etki alanlarını genişletmek için, stratejilerini değiştirdiklerine dikkat çekiyor.


Trol hesaplar eskiden gerçek fotoğrafları çalardı


Çevrimiçi troller, bugüne kadar alışılageldik yöntemleriyle, bazen aynı anda yüzlerce sahte hesap çalıştırırlardı. “Anonim” pelerini altına gizledikleri bu sahte hesaplarla, sosyal medyayı, nefret ve taciz mesajlarıyla dolduruyorlardı. Gerçek hesaplara benzemeye çalıştıklarında ise, genellikle diğer kullanıcıların hesaplarından çalınan resimleri, profil resimi olarak kullanıyorlardı. Örneğin, Amerikalı muhafazakâr bir kadın kimliği sergileyen Jenna Abrams, hesap 2017’de Twitter tarafından kaldırılmadan önce, 70.000’den fazla takipçiye ulaşmıştı. Bu hesap, aslında Rus hükümetine bağlı bir trol grubu tarafından, başkasına ait sahte bir profil resmiyle yönetilmişti. Fotoğraf, 26 yaşında Rus bir kadına aitti. CNN’in kendisiyle iletişim kurduğu kadın, fotoğrafının bu biçimde kullanıldığından haberi olmadığını söylemişti. Oysa büyük sosyal medya platformlarından çoğunun, başkalarının resimlerini bu şekilde kullanmaya karşı kuralları vardı. Kimliği kullanılanlar şikayette bulunabiliyordu. Troller de kolay fark edilip yakalanmamak için, deepfake yöntemlerine sarıldılar.
CNN Business’e göre, troller artık ai yardımıyla ve deepfake teknolojileriyle üretilen, insan görünümlü avatarların, gerçekte var olmayan, tasarım ürünü yüzlerini kullanmaya başladılar. Böylece hem, fotoğraftan videoya terfi edip, daha inandırıcı bir kimlik sergilemiş oluyorlar. Hem de fotoğraflarını çalarak, kimliğine büründükleri gerçek hesap sahipleri tarafından ihbar edilmekten kurtuluyorlar.


Deepfake trollerden aktivistlere taciz


Trump’ın seçildiği 2016 yılındaki ABD’deki başkanlık seçimlerinden sonra, şirketlerin ayrımcılığın yayılmasına izin veren medya kuruluşlarına reklam vermemeleri konusunda kampanya başlatmak üzere, Twitter’da Uyuyan Devler (Sleeping Giants) sosyal medya aktivist grubu kuruldu. Bu grubun kurucularından olarak bilinen aktivist Nandini Jammi, genellikle kimliği meçhul sosyal medya hesapları tarafından çevrimiçinde taciz edilmeye alışıktı. Ama bu kez tehdit tweeti, kimliksiz bir hesaptan değil, profilinde gülümseyen sarı saçlı bir kadının resmi yer alan, Jessica isimli bir hesaptan geliyordu. Jessica, Jammi’ye gönderdiği tweette, “Bilginizi neden Yetişkin Arkadaş Bulucu’dan temizlemediniz?” diye soruyordu. Aslında, onun hakkında eski bir çevrimiçi arkadaşlık sitesi profilinden, utanç verici bilgilere sahip olduğunu ima ediyordu. Jammi ise, CNN Business’a çevrimiçi tanışma hesabını asla aktif olarak kullanmadığını söyledi.
Jessica adlı trol hesabı, diğer Twitter kullanıcılarından ayıran önemli ayrıntı, hesabın profil resminde samimi biçimde gülümseyen kadının, gerçekte hiç var olmamasıydı. CNN Business’ın danıştığı pekçok uzman inceledikleri bu görüntünün, ai yardımıyla üretilen bir deepfake görüntü olduğunu ifade ettiler. Berkeley Kaliforniya Üniversitesi’nden Profesör Hany Farid, Denver’daki Colorado Üniversitesi Ulusal Medya Adli Tıp Merkezi Direktör Yardımcısı Jeff Smith ve Albany’deki New York Eyalet Üniversitesi’nden Bilişim Profesörü Siwei Lyu, Jessica’nın profil görüntüsünde, Rakip Üretken Ağlar (GAN) olarak bilinen deepfake teknolojisi ve ai kullanılarak üretildiğine dair bulgular elde ettiklerini kaydettiler. Sonradan anlaşıldı ki, Jessica, aynı kişi veya grup tarafından işletilen ve yaklaşık 50 hesaptan oluşan, koordineli bir trol ağın parçasıydı. Twitter da bu durumu CNN Business’a doğruladı. Bu hesaplar aktivistleri taciz etmek için kullanılmıştı. Uzmanlar, ağdaki farklı kişilere aitmiş gibi gözüken diğer hesapların profilinde kullanılan resimlerin de, Jessica gibi gerçekte var olmayan ai destekli robot karekterlere ait olduğunu CNN Business’a aktardılar.


Deepfake trollerin önceliği siyasi kampanyalar…


Nandini Jammi, deepfake trol tacizine uğrayan tek aktivist değildi. Jammi gibi Sleeping Giants kampanyalarına katılan bağımsız aktivist E.J. Gibney de Twitter’daki deepfake trollerden nasibini aldı. Gibney kendisini ve onun diğer aktivistlerini taciz eden “Jessica” nin da dahil olduğu bir hesap ağını, özenle belgelemeye başladı. Trol hesaplardan biri, Gibney’nin evinin yanındaki binanın adresini kullanıcı adı olarak kullanıyordu. Gibney, aktif hale geldiklerinde hesapları Twitter’a bildirdi. Geçen Temmuz ayında Twitter, o sırada benzeri onlarca hesabı kaldırdığını açıkladı. Twitter, CNN Business tarafından iletişim kurulduktan sonra, Gibney’e komşu adresli hesap da dahil olmak üzere, aynı kişi veya grup tarafından işletilen yaklaşık 50 hesabı kapattığını açıkladı.
Deepfake teknolojileriyle üretilmiş yapay görsel profile sahip trol hesaplar üzerinden bir başka koordineli manipülasyon kampanyasını da, Facebook geçen yılın son ayında belirleyerek durdurdu. Facebook, gerçekte var olmayan insanların deepfake sentetik yüzlerinin sahte hesaplarda kullanıldığını, böylece diğer kullanıcıların kandırılmaya çalışıldığını ve sistemle oynayarak bu hesapların öne çıkarılmasına yönelik girişimde bulunulduğunu duyurdu. Uzmanlar, bunun gibi deepfake sentetik görüntülerin, bir sosyal medya kampanyasının parçası olacak ölçekte kullanıldığını ilk kez gördüklerini söylediler. Facebook üzerindeki bu koordineli trol saldırısının, Trump ve Çin Hükümeti’ne kadar uzanan bir siyasi boyutu olabileceği belirtildi. Ortaya çıkan bu örneklerin, Kasım’daki ABD Başkanlık Seçimi öncesi endişeleri haklı çıkardığı yorumlandı.
Uber’in eski bir yazılım mühendisi Phil Wang da, hazırladığı “Bu kişi mevcut değil” adlı web sitesiyle çevrimiçi kullanıcıları uyarıyor. Siteyi her ziyaret eden, ai yardımıyla deepfake yöntemleri kullanılarak üretilen ve gerçek gibi görünen yeni bir insan yüzüyle karşılaşıyor. Wang hedefini “insanlara teknolojinin neler yapabileceğini göstermek ve onları gelecekte bu yolla karşılaşılacak bir saldırıya karşı aşılamak” olarak açıklıyor. Rus ve İran hükümetleriyle bağlantılı olanlar da dahil koordineli dezenformasyon kampanyalarıyla mücadele eden Facebook ekibinin lideri Nathaniel Gleicher’e göre, deepfake teknolojisi geliştirenlerin ve veri seti üretenlerin, bu gibi araçların kötü aktörler tarafından nasıl kullanılabileceğini de düşünmeleri gerekiyor.


Trol hesaplar, deepfake cazibesiyle fenomen olursa…


Çevrimiçi dünyanın geldiği noktada, bazen birkaç yüz tıklanma uğruna, sosyal medya narsistleri ve cüretkar cahilleri, koordine trol hesaplara taş çıkartırcasına, bilinçsizce subjektif ve agresif içerikler yaymaktan kaçınmıyorlar. Sosyal medya içerikleri bu kadar kirlenmişken ve çevrimiçi kullanıcılar, seçicilikten bu kadar uzaklaşmış ya da tutucu savunuculara dönüşmüşken, organize trol saldırılarını nasıl ayırt edip başa çıkacağız? Al Pacino’nun, başrol kadın oyuncusu çekimi terk ettiği için zor duruma düşen bir Hollywood yapımcısını canlandırdığı 2002 yapımı Simone adlı filmde, film ekibi dahil bütün bir Hollywood dünyası, gerçekte var olmayan bir aktriste inandırılmıştı. Trol hesaplar da, kuşkulu anonim kullanıcı adlarından, deepfake sentetik görüntülerle, çok daha inandırıcı ve cazibeli profillere evrildiğinde, onların gerçekliğini sorgulamak kimin aklına gelecek? Sayıları hızla artan takipçilerine, Youtube, Twitter, Facebook, Instagram ve diğer ağlar üzerinden, üstelik diledikleri lisandan, samimi gülümsemeleri ve etkileyici konuşmalarıyla, manipüle edilmiş mesajlar veren videolarıyla dezenformasyon yaydıklarında, yasalar suçlu diye kimin yakasına yapışacak? Ne söyleyip yapsalar, deepfake troller gerçekte var olmayacak. Oysa kurbanlar ve yıkım gerçek olacak…

Bir Cevap Yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d blogcu bunu beğendi: