Kendisi sahte, tehlikesi gerçek

Makine öğrenimi algoritmasıyla insanların seslerini ve görüntülerini yapay şekilde canlandırabilen deepfake teknolojisi, henüz insanlığa dişe dokunur bir fayda sunmadan yeterli sayıda insanı travmatize etmeyi başardı. Sentetik olarak üretilen sahte görüntü ve ses kayıtlarına maruz kalan ünlüler, fenomenler ve politikacıların yanı sıra sıradan insanlar da deepfake mağdurları arasına girmeye başladı. En fenası ise deepfake pornosu. Kendisinden izin almadan müstehcen görüntüleri yaratılan insanların ruh sağlığı bir anda endişe verici hale gelebiliyor. Politika ve iş ortamında insanlara söylemedikleri şeylerin söyletildiği deepfake videoları propaganda malzemesi olarak da kullanılmaya başladı.

Öte yanda deepfake, gerçeklik algısını eritmeye başlayan bir konuma geçiyor. ABD’de hukuk sisteminin son açmazı ‘deepfake savunmaları’. Avukatlar delil niteliğindeki video kayıtlarının deepfake olduğunu iddia ediyor... Son olarak İspanyol Netflix’inde yayımlanan bir deepfake realite şovuysa hepsinin üzerine tüy dikmeyi başardı. Gelin gelişmelere yakından bakalım...Avukatları Elon Musk’ı, hakkında açılan davalardan deepfake savunmasıyla kurtarmaya çalışıyor.

Davalar risk altında

Geçen ay Elon Musk’ın avukatları, ünlü işinsanının geçmişte Tesla’ların otopilot özelliği hakkında büyük sözler verdiği videolarının deepfake olabileceği yönünde savunma yaptı. 2016’da yayımlanan videolardaki yatırımcıları tavlayan ve kamuoyunu heyecanlandıran sözler yerini bulmayınca elbette dava açıldı ve savunma gereği doğdu. Videoların deepfake olma ihtimalini savunan avukatlara kimin akıl verdiğini tahmin etmesi zor değil... Külyutmaz hâkimse argümanları kabul etmeyerek Musk’ı doğrudan ifadeye çağırdı. Böylesine tanınmış, popüler bir ismin bile mahkemede deepfake üzerinden şansını denemesi, yaygınlaşan bir akımın emaresi.

Donald Trump partizanlarının Beyaz Saray’ı bastığı 6 Ocak olaylarında yakalanan iki kişinin, görüntülerin deepfake olduğunu iddia etmesi kayda geçen vakalardan bir diğeri. ABD’de ve zamanla tüm dünyada hukuk sistemini ciddi bir revizyona sokması beklenen deepfake savunmalarının artacağı düşünülüyor. NPR.com haber sitesine konuşan Berkeley Üniversitesi profesörü Hany Farid de ülkesinde ‘polis şiddeti, insan hakları ihlalleri, politikacıların uygunsuz şeyler söylemeleri’ gibi durumların deepfake denilerek üzerinin örtülmesinden kaygılandığını belirtiyor. The New York Times’a görüş veren Rutgers Üniversitesi bilişim bilimleri yardımcı profesörü Britt Paris ise teknolojinin genel kullanıma inmeye başladığına işaret ediyor: “Geçmişe göre farklı olan artık herkesin bunları yapabilmesi. Karmaşık bir bilgisayar teknolojisi ve programlama deneyimi kullanan insanların elinde değil yalnızca, ücretsiz bir uygulamayla da yapabiliyorsunuz.”

En fenası pornosu

ABD’de yaygınlaşan deepfake pornoları, sahte görüntülerle yapılan üretimlerin etik anlamda en sorunlu halini işaret ediyor. İzinsiz çekilen görüntülerden sonra insan ruhunu en yaralayıcı içerikler arasına giriyor. Deepfake pornolarını üretmek ve yaymak kadar izleyicisi olmak da büyük bir etik yanlışa dönüşüyor. Konuyu gündeme getiren, geçen ocak ayında ifşa olan Twitch yayıncısı Brandon Ewing vakası olmuştu. Atrioc kullanıcı ismiyle ekran paylaşımı yaptığı sırada açık unuttuğu tab’lerden birinde deepfake sitesi görülünce büyük eleştiri almış ve gözyaşlarıyla özür videosu yayımlamak durumunda kalmıştı. Siteyi tanıyan takipçiler, paralı üye olarak Ewing’in
iş arkadaşları ve tanıdıklarının sahte pornolarını görüntüleyebileceğini ortaya çıkardılar. Sitenin mağduru olan QTCinderella (gerçek adı Blaire) isimli bir Twitter fenomeniyse hem Ewing’e hem de sahte fotoğraflarını kendisine yollayanlara isyan ederek deepfake pornosuna düşmenin ne kadar acı verici olduğunu göstermek adına bir canlı yayın açtı. Videoları gördükten sonra ‘beden algı bozukluğu’ sendromu yaşamaya başladığını söyleyen QTCinderella “Bu sadece istismar edilmek değil, çok daha fazlası” dedi.Artık sıradan insanlar da sentetik olarak üretilen sahte görüntü ve ses kayıtlarına maruz kalıyor.

Bile isteye aldatılma

İspanyol Netflix’inde yayımlanan ‘Falso Amore’ yani ‘Sahte Aşk’ şovundaysa sözde gerçek hayattan beş sevgili ‘Biri Bizi Gözetliyor’ (BBG) benzeri bir ortamda birbirlerinden ayrı olarak evlere yerleştiriliyor. Evlerin içinde seksi bekârlar dolanıyor ve bir süre sonra olaylar gelişiyor ya da öyleymiş gibi görünüyor. Bölüm sonunda çiftlerden birine eşlerinin başkalarıyla müstehcen görüntülerinin yer aldığı videolar izletiliyor. Videoların çoğunlukla deepfake olduğu sonradan söyleniyor. Ne kadarının gerçek ya da sahte olduğunu tahmin etmeleri isteniyor. İzlediği görüntüler karşısında allak bullak olan katılımcılar arasından en doğru tahmini yapan çift 100 bin euro kazanıyor!

Distopik bir hayatı tasvir eden bu tür vukuatın ortak noktası dünyamızdaki sahteliği açığa vurması. Yalnızca medeniyet daha sahte bir yere dönüşmüyor. Dünyamız sahteliğin açığa çıktığı, görünür ve anlaşılır olduğu bir boyuta evriliyor. Adeta bir ‘ifşaat dönemi’ içindeyiz. İllüzyonun içine sığınanları belki daha kaygı dolu zamanlar bekliyor. Gerçeği gören tarafta olmaksa vicdanın sesini dinlemekle mümkün oluyor ve her zaman daha fazla huzur veriyor...