‘Derin şüphe’ devri

Yaşamı bir filozof gibi sorgulayarak anlamlandırmaya çalışmanın yolu durmaksızın şüphe duymaktan geçiyor. Şüphecilik, her şeyi irdeleyerek görünenin ardını keşfetmenin kadim felsefi yöntemlerinden biri. René Descartes “Düşünüyorum öyleyse varım (Cogito ergo sum)” cümlesiyle açılışını yaptığı yeniçağ felsefesini, her şeyden şüphe duyduğu bir hakikat arayışıyla temellendirmişti. Düşünen varlık bir insan olduğu için işler nispeten yolundaydı. Ta ki insan, yüz binlerce yıldır kendine has olan zekâyı makineye yüklemeye karar verinceye kadar...
Şimdi yapay zekâmız var ve hakkındaki en büyük sorun, ondan bir türlü emin olamıyoruz. Gerçeği ve sahte olanı giderek daha fazla karıştırmamıza sebep olan yapay zekâ, büyük bir belirsizliği, diğer yandaki onca nimetiyle birlikte hayatımıza getirdi. Yapay zekânın elbette bunu yaptığından haberi yok, çünkü şüphe ve belirsizlik, tam manasıyla ancak insanın anlamlandırabileceği bir kavram.

‘Derin Şüphe’ kavramıyla Wired dergisindeki bir makale sayesinde tanışıyorum (‘Derin Şüphe Çağına Hoşgeldiniz’, Benj Edwards). Geçen yıl gündeme gelen iddialardan biri, süper güçlerin deepfake (Mevcut bir görüntü veya videodaki bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsüyle değiştirildiği bir medya türü) videolarıyla internet propagandaları hazırlayarak karşı ülkelerin sosyal stabilitesini bozma hazırlığında olduğuydu. The Intercept haber sitesi, Pentagon’un federal sözleşme belgelerini değerlendirerek bu yönde yapılanmalar olduğu iddiasını ortaya atmıştı.

Aradan geçen 1,5 yıllık sürede deepfake propagandaları tüm dünyada yaygın bir araç haline geldi. 2022’de Ukrayna’nın işgali sırasında başkan Vladimir Zelensky’nin askerlerine sözde silah bırakma çağrısı yaptığı videoysa fake propagandaların ilk güçlü örneklerinden biriydi. Çatışmaların giderek kızıştığı ve ‘düşük yoğunluklu’ 3. Dünya Savaşı’na maalesef girdiğimiz bu yıldan itibaren deepfake’in bir savaş taktiği olarak kullanımlarına şahit olacağız.

TROLLER İŞİ KAPTIRIYOR

Deepfake videolar ve yanıltıcı fotoğraflar, dezenformasyonun norm olmaya başladığı bilgi çağında etkisini ister istemez arttıracak. ABD seçimlerinde arşa çıkan fake içeriklerin gündemi meşgul edeceği çok önceleri öngörülüyordu. Sonuçsa tahminlerin de ötesinde şekillendi ve başkan adaylarını hedef alan içerikler kendi aralarında adeta bir ‘deepfake cephesi’ oluşturdular.
Toplum algısını manipüle etmeyi hedefleyen negatif güçlerin ve örgütlerin şimdilerde fake sosyal medya profilleriyle trol kitleleri oluşturmayı planladığı düşünülüyor. İlk çıktığı dönemde haberine yer verdiğimiz İngiliz yapay zekâ şirketi Synthesia, bugün 1 milyar dolardan fazla değere sahip bir kuruluş, yani bir ‘unicorn’ haline geldi. Yazılı metinden hazır videolar üreten Synthesia, konuşmacılar, sunucular ve öğretmenlerle içerik sunmak isteyenler için sanal karakterler yaratıyor.
Synthesia’nın karakterleri, gerçek insanların modellenmesiyle tasarlanmış. The Guardian’ın haberine göre Synthesia’nın ilk dönem yüzlerinden 20’li yaşlarda iki genç, şimdilerde akıllara zarar bir durumla karşı karşıya. Sanal konuşmacıların gerçek yüzlerinden Mark Torres, kendi benzerinin 2023’te Burkina Faso’nun diktatörlük propagandasında kullanıldığını öğrenmenin şokunu yaşıyor. “Kimsenin beni böyle görmesini istemiyorum. İnsanlar darbeye karıştım zannedecek” diyen Torres, videoyu ilk kez bu ay ortasında The Guardian muhabirleriyle birlikte izlemiş.

Aynı propagandadaki diğer mağdur Connor Yeates ise sanal karakter için yüzünü kullandırdığı sırada Londra’ya henüz taşınmış, arkadaşının kanepesinde yatan yeni bir mezunmuş.

Kast ajansından gelen günlük 4 bin pound’luk teklifi arkasını hiç düşünmeden kabul etmiş. 2023’teki olaydan sonra Synthesia ilgili hesapları ban’lıyor, moderatörlerini ve kontrollerini arttırıyor ancak videolar YouTube’un derinliklerinde kalmaya devam ediyor.

YALANCI MEDİKAL

ABD’de geniş bir hasta veri tabanına sahip ve 15 bin civarında doktorun kullandığı MyChart programı, soru soran hastaları doktor ve hemşireler yerine yanıtlaması için yapay zekâyı devreye aldıktan sonra ciddi bir tehlikenin farkına varılmış.

The New York Times’ın haberine göre, yapay zekâ hazırladığı bir hasta raporunda hastanın hepatit B aşısı olduğunu söylüyor ancak aşı kayıtlarına erişimi dahi yok. Buna benzer başka halüsinasyon vakaları tespit edilen MyChart’ın yapay zekâsı, OpenAI altyapısını kullanıyor. ChatGPT arayüzünde bileceğiniz üzere ‘yanlış yapabilir’ ibaresi belirtiliyor. Ancak dışarıdan kullanılan sisteme tıbbi rapor yazdırıldığı için yapay zekâ olduğunun anlaşılmadığı belirtiliyor.

AMAZON SORMADAN ALIŞVERİŞ YAPAN BOT GELİŞTİRİYOR

Kitap tavsiyeleriyle yapay zekâyı yıllar önce hayatımıza ilk getirenlerden Amazon, şimdi bir adım öteye geçip ürünleri kendiliğinden sepete ekleyen hatta satın alabilen bir sohbet botu üzerinde çalışıyor. Rufus AI ismiyle çalışan ve prototip aşamasında olan sistem, örneğin müşterinin takip ettiği bir kitap serisinin yenisi çıktığında “Senin için kitabı satın aldık, bugün kargoya verip yarın kapına gönderebiliriz. İster misin” benzeri önermelerde bulunabilecek. Halen test edilen sistem daha geniş yelpazede ürünler için mantıklı ve işlevsel bir kurguya ulaştığında tüketicilere sunulacak.