5 Mart 2023'ten itibaren birçok sosyal medya ve uygulama kullanıcısı, bir 'DeepFake Face Swapping' uygulaması olan Facemega reklamlarıyla karşılaştıklarında şok oldular. bu Deepfake reklamı görünüşe göre ünlü aktrisleri gösteriyor , kameraya baştan çıkarıcı bir şekilde gülümseyen ve cinsel açıdan müstehcen bir konuma geçen Emma Watson gibi. Saniyeler süren reklamda müstehcen hiçbir şey gösterilmese de, müstehcen klip kolaylıkla bir pornografik videonun açılışı olabilirdi.
Videodaki kadın elbette Watson değil. Bu aynı zamanda aktrisin, rızası olmadan cinsel materyal için benzerliğini kullanan derin sahte içeriğin kurbanı olduğu ilk sefer değil. Deepfake'e aşina olmayanlar için, bir kişinin yüzünü veya vücudunu inandırıcı bir şekilde değiştirmek için yapay zeka (AI) teknolojisini kullanan bir video/görüntü manipülasyonu biçimidir. Popüler bir örnek deepfake, genç Luke Skywalker'ın (Mark Hamill) minyatür mandaloryalı Disney'in ağırlıklı olarak biraz CGI ile derin sahtekarlıklar yoluyla yarattığı.
Bununla birlikte, deepfake sadece film endüstrisinde kullanılmaz, aynı zamanda internette kötü amaçlı amaçlarla da yaygın olarak kullanılmaktadır. Teknik 1990'lardan beri bir şekilde var olsa da, derin sahte terimi aslında ilk olarak 2017'de bir Redditor tarafından icat edildi teknolojiyi pornografik videolar oluşturmak için kullanan. Deepfake'in yetişkinlere yönelik materyaller için kullanımı giderek daha endişe verici hale geldi, çünkü neredeyse herkesin yüzü grafik içeriğin üzerine bindirilebilir ve rızası olmadan internette dolaşabilir.
Uygulama mağazaları, taciz için kullanılabilecek derin sahte araçlar sunar
Deepfake'lerin kötü amaçlı kullanımına ilişkin artan endişelerin ortasında, birçok kişi uygulama mağazalarının neden bu araçlara kolay erişim sunduğunu sorguluyor. Daha da kötüsü, bazı uygulamalar reklamları yayınlıyor. cesaretlendirmek araçlarının kötü niyetli kullanımı. Twitter kullanıcısı ve bağımsız gazeteci @laurenbarton03, Watson'ın suretinin kullanıldığı cinsel amaçlı bir deepfake reklamla karşılaştığında o kadar şok oldu ki, bunun ekran görüntüsünü aldı. Kullanıcı, reklam çıktığında Background Eraser ~ Stickers adlı bir çıkartma uygulamasını kullandığını açıkladı.
dün bu reklamı gördüm ve vay canına pic.twitter.com/smGiR3MfMb
Lauren (@laurenbarton03) 6 Mart 2023
Ancak, bu sadece bir kerelik şans eseri bir olay değildi. Belirli uygulamalarda ortaya çıkmasına ek olarak, NBC Haberleri bu reklamlardan 230 tanesinin Facebook, Instagram ve Messenger dahil olmak üzere sosyal medya platformlarına yayıldı. Watson ve Scarlett Johansson, deepfake uygulamasının reklamlarının kurbanıydı, ancak reklamların çoğunda Watson'ın benzerliği kullanıldı. Meta, reklamları herkese açık bir şekilde ele almadı, ancak 7 Mart'ta platformdan kaldırıldı. Ek olarak, Megaface uygulaması artık App Store'da mevcut değil. Ancak uygulama, kaldırılmadan önce bunun 9+ kullanıcılar için olduğunun reklamını yaptı.
Reklamlar kısa sürede sosyal medya kullanıcılarının tepkisine yol açtı. NBC Haberleri muhabir Kat Tenbarge, uygulamanın kadınların cinsel tacize uğramasını, aşağılanmasını ve ayrımcılığa uğramasını kolaylaştırdığına dikkat çekti.
Bu, kadınlara cinsel tacizde bulunmanın yeni bir yolu. Bedensel özerkliğinizi elinizden alıyor ve sizi, daha sonra size karşı aşağılamak ve ayrımcılık yapmak için kullanılabilecek, rıza dışı cinsel malzemeye zorluyor. Psikolojik etkilerinden bahsetmiyorum bile. https://t.co/3dvc6fafnC
— Kat Tenbarge (@kattenbarge) 6 Mart 2023
Bu kadınlar mağdur olsalar ve rızaları dışında cinsel içerikte kullanılsalar da bu nedenle ayrımcılığa uğrama ihtimalleri devam etmektedir. Bu kurbanlar işlerini kaybedebilir, kötü niyetli bir partnerin gazabıyla karşı karşıya kalabilir veya her türlü siber zorbalık, taciz ve takibe maruz kalabilir. Deepfake teknolojisi, birinin hayatını birkaç dakika içinde kolayca mahvedebilir. Peki, uygulamalar neden hala bu araçları kullanıma sunuyor? Bazı durumlarda, bu derin sahte ve yüz değiştirme uygulamaları ücretsizdir. Megaface için maliyet ayda sadece 8 dolardı ve hizmet şartları kullanıcıların ' herhangi bir kişinin kimliğine bürünmek” veya içerik göndermek 'müstehcen' olan bu kuralların, özellikle uygulamanın reklamları bu kurallara uymadığında ne kadar iyi uygulandığı belirsizdir.
Emma Watson ve Scarlett Johansson daha önce derin sahte hedefler olmuştu.
Ne yazık ki, hem Watson hem de Johansson geçmişte derin sahte videoların kurbanı oldular. Johansson, Megaface'in reklamlarına yanıt vermezken, 2019'da derin sahte pornolara açıldı. Deepfake porno 'yararsız' karşı mücadele. Telif hakkı yasalarının ve kişinin kendi imajına ilişkin hakların ülkeden ülkeye nasıl değiştiğinden bahsetti. Sonuç olarak, biri ABD'de bir siteyi veya resmi kaldırmayı başarsa bile, internetin uzandığı dünyanın geri kalanı için bu sonucu garanti etmez. İnternetin 'kanunsuzluğu' nedeniyle, ortalama bir insandan daha fazla kaynağa sahip olanlar bile derin sahte pornolarla mücadele etmeyi beyhude buluyor.
Dört yıl sonra, deepfake internetin kanunsuzluğunun tadını çıkarmaya devam ederken, Johansson'ın sözleri geçerliliğini koruyor. Bu yılın başlarında, yayıncı QTCinderella, Twitch yayıncısı Atrioc'un kendisinin ve diğer kadın yayıncıların grafik görüntülerini ifşa etmesinden sonra derin sahte porno kurbanı oldu. Başlangıçta yasal işlem sözü verdi, ancak haftalar sonra hukuk sisteminin videoların yaratıcılarına dava açmasını neredeyse imkansız hale getirdiğini ortaya çıkardı. Bunun nedeni, hemen hemen her eyalette, bir kişinin cinsel içeriğinin izinsiz olarak paylaşılmasını yasa dışı kılan yasalar olsa da, bunların neredeyse hiçbirinin olmamasıdır. eyaletlerin yasaları derin sahte görüntülere uzanıyor .
Yıllar geçtikçe, durum sadece daha da sinir bozucu hale gelir. Bunun bir sorun olmaya başlamasından yıllar sonra, hukuk sistemi hala derin sahte porno kurbanları için çok az koruma vaat ediyor veya hiç koruma vaat etmiyor. Ek olarak, Megaface reklamları ve uygulaması, bu teknolojinin nüfus için yalnızca daha kolay erişilebilir hale geldiğini gösteriyor. Uygulamalar artık araçları yalnızca teknolojik deneyime sahip olanlar tarafından değil, neredeyse herkes tarafından kullanılabilecek bir biçimde minimum maliyetle sağlıyor. Meta, Google ve Apple, yapay zeka tarafından oluşturulan yetişkinlere yönelik içerik ve deepfake porno oluşturma reklamı yapan uygulamalara karşı önlem almaya çalışsa da, bu çabaları kurallarının tüm ihlallerini tespit etmek için hâlâ yeterli değil. Ek olarak, Megaface gibi failleri yakalamaları için gereken sürede, yüzlerce reklam internette geniş çapta dağıtılmış olabilir ve kurbanlar için yaşamı değiştiren sonuçlar doğurabilir.
(öne çıkan görsel: STXfilms / Megaface)
