‘Çevrimiçi sohbet robotları’ tehlike saçıyor! Kadınları ve çocukları hedef alıyorlar… ‘Bunu yapanın en yakın arkadaşım olduğunu öğrenince dehşete kapıldım’
Güncelleme Tarihi:
Dijital teknolojilerin yükselişi, yapay zeka ve deepfake gibi araçların kötüye kullanımıyla birlikte ciddi etik sorunlar ortaya çıkarıyor. Artık herkes, rızası dışında bu tür içeriklerle hedef alınabiliyor ve kadınlarla çocuklar, bu teknolojinin en savunmasız hedefleri arasında yer alıyor. Günümüzde tehlike gittikçe büyüyor çünkü çevrimiçi sohbet robotları, insanların çıplak fotoğraflarını üretebiliyor! Yapılan araştırmalar ise ayda yaklaşık 4 milyon kullanıcının deepfake uygulamalarından yararlandığını ortaya koyuyor. Peki, hangi uygulamalar en çok tehlike barındırıyor ve bu tehlikeleri önlemek için neler yapılmalı? Prof. Dr. Ali Murat Kırık ile mercek altına aldık.
Dijital teknolojilerin hızla gelişmesi, özellikle yapay zeka ve derin öğrenme alanında önemli yeniliklere yol açtı. Bu gelişmeler, iletişimden eğlenceye kadar birçok sektörde dönüşüme neden olurken, aynı zamanda etik ve toplumsal sorunları da beraberinde getiriyor.
Örneğin son yıllarda ses ve görüntü manipülasyonu gibi yöntemlerin kötüye kullanımı ciddi bir tehdit haline geldi. Artık herkes, rızası dışında bu tür içeriklerle hedef alınabiliyor ve özellikle deepfake teknolojisi bu noktada ön plana çıkıyor. Kadınlar ve çocuklar, bu teknolojinin en savunmasız hedefleri arasında yer alıyor.
İNTERNETTE ÇIPLAK FOTOĞRAFLARINI GÖRDÜ, BUNU YAPANIN EN YAKIN ARKADAŞI OLDUĞUNU ÖĞRENİNCE DEHŞETE KAPILDI
Avustralya’da yaşayan Hannah Grundy ise deepfake mağduru olan kadınlardan sadece biri… Kendisine ait pornografik görüntülerin bir internet sitesinde paylaşıldığını öğrenince şok oldu. İlk başta bunu bir dolandırıcılık olarak değerlendiren Grundy, daha sonra içeriklerin kendi kimliğiyle ilgili olduğunu görünce büyük bir şaşkınlık yaşadı.
Avustralyalı bir özel dedektifin bulduğu sitenin arka planında, saldırganın yakın bir arkadaşı olduğu ortaya çıktı. Grundy'nin partneri Kris Ventura, sitenin detaylarını incelediğinde, başka kadınlara ait fotoğrafların yanı sıra, Grundy'nin özel sosyal medya hesaplarından alınan görüntülerin de yer aldığını fark etti.
İkili, uzun yıllardır yakın arkadaşları olan Andrew Hayler'in saldırgan olduğunu öğrendi. Hayler, Grundy ve Ventura'nın hayatında önemli bir yer tutan isimdi ve yıllardır birlikte vakit geçiriyorlardı. Hannah Grundy, Daily Mail'e yaptığı açıklamada "Bunu yapanın en yakın arkadaşım olduğunu öğrenince adeta dehşete kapıldım" ifadelerini kullandı.
Polis, Hayler'ı tutuklayarak, evinde başka kadınlara ait fotoğrafların bulunduğu USB'ler ele geçirdi. Yargıç Jane Culver, Hayler'i dokuz yıl hapse mahkûm ederken, bu olayın teknolojinin kötüye kullanılmasının tehlikelerini gözler önüne serdiğini vurguladı. Grundy ise, bu deneyimin hayatında kalıcı yaralar açtığını ifade etti.
Ancak tehlike daha da büyüyor! Çünkü çevrimiçi sohbet robotları, artık insanların çıplak fotoğraflarını üretebiliyor. Bu durum, deepfake’lerin ‘çok korkunç bir senaryo’ yaratacağı endişesi taşıyan uzmanları rahatsız ediyor.
Deepfake kullanım alanları gün geçtikçe çeşitlenen ve gelişen bir teknoloji. Yapay zeka ile gerçeğe yakın görüntü ya da seslerin üretilmesini sağlıyor.
AYDA YAKLAŞIK 4 MİLYON KULLANICI DEEPFAKE YETENEKLERİNDEN YARARLANIYOR!
Bilim, kültür ve toplumsal değişim üzerine yazılar yayımlayan bir dergi olan Wired’ın Telegram üzerinde yaptığı araştırmaya göre, sadece birkaç tıklamayla insanların açık fotoğraflarını veya videolarını oluşturan birçok yapay zeka destekli sohbet robotu tespit edildi.
Derginin paylaştığı verilere göre ayda yaklaşık 4 milyon kullanıcı, bu tür robotların deepfake yeteneklerinden yararlanıyor. Deepfake uzmanı Henry Ajder, dört yıl önce Telegram’daki açık sohbet robotlarının yeraltı dünyasını keşfeden ilk kişilerden biri olarak, bu tür içerikleri aktif olarak kullanan ve oluşturan kişilerin sayısında önemli bir artış yaşandığını belirtti.
Ajder yaptığı açıklamada, “Bu araçlar, genç kızlar ve kadınlar için hayatları mahveden çok korkunç senaryolar yaratabiliyor” ifadelerini kullandı. Wired’ın konuyla ilgili iletişime geçtiği Telegram, yorum yapmayı reddetti, ancak botlar ve ilişkili kanallar aniden ortadan kayboldu; yaratıcılarsa ertesi gün “başka bir bot yapma” sözü verdiler.
ÜNLÜ İSİMLER DE HEDEF ALINIYOR
Ünlüler de pornografik deepfake’lerden etkilenenler arasında yer alıyor. Birkaç ay önce sosyal medya platformu X, Taylor Swift’in yapay zeka tarafından üretilen sahte pornografi görüntülerinin viral hale gelmesinin ardından ünlü şarkıcının adının aranmasını geçici olarak engellemişti. Swift'in yayımlanan görüntüsü, hesap askıya alınmadan önce 47 milyon kez tıklandı. X’in güvenlik ekibi müdahale etmeden önce bu görüntülü içerik on binlerce kez de paylaşıldı.
Dünyanın en ünlü pop yıldızlarından biri olan Taylor Swift'in pornografik deepfake görüntüleri ABD'de yapay zeka tartışmalarını alevlendirdi
ÜLKEMİZDE DE BU SORUN GİDEREK ARTIYOR!
Benzer problemlerin ülkemizde de olduğunu söyleyen Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı ve Bilişim Teknolojileri Uzmanı Prof. Dr. Ali Murat Kırık, “Ülkemizde de bu sorun giderek artıyor ve kadınların dijital dünyadaki güvenliğini tehlikeye atan bir araç haline geliyor. Dünya genelinde ise deepfake kullanımı büyük bir hızla yayılıyor ve özellikle sosyal medya platformlarında karşılaşılan bir sorun haline gelmiş durumda” ifadelerini kullandı.
Bu teknolojinin yayılmasının sadece bireylerin mahremiyetini değil, aynı zamanda toplumsal güvenliği de tehdit ettiğine dikkat çeken Kırık, “Özellikle çocukları ve kadınları hedef alan bu tür içeriklere karşı uluslararası düzeyde farkındalık artmış olsa da yeterli önlemler alınmış değil. Bu soruna karşı daha kapsamlı yasal düzenlemelere ve teknolojik çözümlere ihtiyaç var” şeklinde konuştu.
Birkaç yıl önce görsel tehdit istihbarat firması Sensity de 100 binden fazla kadın Telegram kullanıcısının deepfake çıplak görüntülerini oluşturan botlar tespit etti. Botların en çok kullanıldığı ülke ise Rusya oldu.
TELEGRAM, GİZLİLİK VE ANONİMLİK ÖZELLİKLERİYLE İÇERİKLERİN YAYILMASINA ELVERİŞLİ
Telegram’ın zayıf içerik moderasyonu nedeniyle sıkça eleştirildiğinin altını çizen Prof. Dr. Ali Murat Kırık, “Bu platform, kullanıcılarına gizlilik ve anonimlik vaat etse de kötü niyetli kişilerin bu avantajları suistimal ederek rıza dışı içerikler paylaşmasına olanak tanıyor. Özellikle deepfake botları gibi zararlı araçlar hızla yayılabiliyor ve mağdurların bu içeriklerle baş etmesi oldukça zor hale geliyor. Denetim mekanizmalarının yetersiz kalması, bu sorunun büyümesine katkı sağlıyor” dedi. Kırık, şöyle devam etti:
“Bu konuda acil olarak yapılması gereken şey, hem ulusal hem de uluslararası düzeyde daha katı düzenlemeler ve denetim mekanizmalarının oluşturulması. Telegram ve benzeri platformların içerik moderasyonuna dair daha sıkı önlemler alması, kullanıcıların güvenliğini koruma açısından önemli bir adım olacaktır. Ayrıca, yapay zeka tabanlı moderasyon sistemlerinin geliştirilmesi ve kullanıcıların şikayetlerinin daha hızlı bir şekilde işleme alınması gibi önlemler de hayata geçirilmeli. Hükümetlerin ve ilgili kuruluşların iş birliği içinde çalışarak, bu tür platformların zararlı içeriklere karşı daha etkin bir mücadele yürütmesi gerekiyor.”
DEEPFAKE’TEN KORUNMAK MÜMKÜN MÜ? NELERE DİKKAT EDİLMELİ?
“Öncelikle, sosyal medya platformlarında paylaşılan kişisel bilgilerin ve görsellerin gizlilik ayarlarına dikkat edilmesi gerekiyor” diyen Prof. Dr. Ali Murat Kırık, “Fotoğraf ve video gibi kişisel içeriklerin mümkün olduğunca sınırlı paylaşılması, bu içeriklerin kötü niyetli kişiler tarafından kullanılmasını zorlaştırabilir. Ayrıca, internet üzerinde paylaşılan görsellerin düşük çözünürlüklü olması, deepfake oluşturulmasını daha da zorlaştırabilir” dedi.
Bireylerin bir diğer önemli adımı ise şüpheli içeriklere karşı farkındalık geliştirmek olduğunu vurgulayan Kırık, “Eğer çevrenizde sizin ya da tanıdıklarınızın görüntülerinin uygunsuz şekilde kullanıldığına dair bir içerik görürseniz, bu durumu hemen ilgili platforma rapor etmelisiniz. Ayrıca, güçlü şifreler kullanmak, hesap güvenliğini artırmak ve çift faktörlü kimlik doğrulama gibi yöntemleri tercih etmek, çevrim içi hesapların ele geçirilme riskini azaltacaktır. Unutmamak gerekir ki, deepfake teknolojisine karşı bireysel farkındalık ve güvenlik önlemleri, bu tür saldırılardan korunmanın ilk adımıdır” ifadelerini kullandı.
DEEPFAKE, CİNSEL İÇERİKLER DIŞINDA BAŞKA HANGİ RİSKLERİ TAŞIYOR?
Prof. Dr. Ali Murat Kırık, "Deepfake teknolojisi, cinsel içeriklerin ötesinde birçok farklı risk taşıyor ve bu riskler yalnızca bireysel değil, toplumsal güvenliği de tehdit ediyor” dedi ve şu önemli bilgilerin altını çizdi:
-- Öncelikle, deepfake’ler siyasi manipülasyon amacıyla kullanılabiliyor. Özellikle kamuya mal olmuş kişiler, sahte video ve ses kayıtlarıyla hedef alınarak itibarları zedelenebiliyor ya da yanlış bilgi yayılması sağlanabiliyor. Bu durum, toplumsal huzursuzluklara yol açabilir ve hatta seçim süreçleri gibi kritik anlarda manipülasyonlar yaratabilir. Dolayısıyla, yalnızca bireyler değil, tüm toplumlar deepfake’lerin yol açabileceği bu tür tehlikelere karşı savunmasız durumda.
-- Bunun yanı sıra, iş dünyasında da deepfake teknolojisi ciddi sorunlara yol açabilir. Örneğin, üst düzey yöneticilerin ya da çalışanların ses ve görüntüleri manipüle edilerek sahte talimatlar ya da e-postalar oluşturulabilir, bu da büyük maddi kayıplara neden olabilir. Kimlik hırsızlığı ve dolandırıcılık vakalarının artması, bireylerin hem finansal hem de profesyonel itibarlarını tehlikeye atabilir. Bu gibi teknolojiler, güvenilirliğin ve dijital dünyadaki doğrulamanın her zamankinden daha önemli hale geldiği bir dönemde, bireylerin ve kuruluşların dikkatli olmasını gerektiriyor.
Fotoğraflar: Alamy