Netflix belgeseli Sosyal İkilem’in (Social Dilemma) düşündürdükleri

Dün, bu belgeseli izleme fırsatı buldum. Social Dilemma, benim de iş hayatında yakın çalıştığım, Silikon Vadisi’nin önde gelen şirketlerinden Google, Facebook, Instagram (Facebook tarafından satın alındı), Twitter ve Youtube (Google tarafından satın alındı) eski çalışanlarının söylemlerini içeren (ki bu kişilerin bir bölümü, Facebook’un erken aşama yatırımcısı, Facebook’un gelir kazandırma yöneticisi, Facebook Like’ın ve Youtube öneri platformunun geliştiricileri), bu kişilerin eski çalışmalarını kınayan ve teknolojinin topluma negatif ve manipulatif etkisini eleştiren aktivistlerin düşünceleri doğrultusunda hazırlanmış gerçekten önemli mesajlar barındıran bir belgesel. Milyarlarca insanın kullandığı servisleri, özellikleri geliştiren bu “teknoloji dehaları” bile, nasıl tasarlandığını, geliştirildiğini bile bile ortaya çıkan servislere kendilerinin de bağımlı hale geldiklerini, dolayısıyla çocuklarına belli bir yaşa gelene kadar bu uygulamaları kullandırmadıklarını ve kullanıcılara da algoritmalar tarafından yönlendirilmemek için, gönderilen ileti ve bildirimleri kapatmalarını şiddetle tavsiye ediyorlar… Belgesel, sosyal medyanın "insanlığın en büyük varoluşsal tehdidini" oluşturduğunu öne sürüyor. Belgeselde, yanlış bilginin yayılımı, bilgi kirliliği, manipülasyon ve bağımlılık, sosyal medyanın kötücül özellikleri arasında öne çıkanlar…

Social Dilemma’da vurgulanan mesajlara değinmeden önce gelin birkaç adım öncesine gidelim. Belgeselde değinilen konulara yönelik üniversitelerdeki derslerimin giriş bölümünde hep bahsettiğim birkaç örneği, sizlerle de paylaşmak isterim. 2015 yılında Stanford Üniversitesi, üniversite bünyesinde yapay zeka çalışmaları gerçekleştiren araştırmacı Dr. Michal Kosinski’nin elde ettiği sonuçları bir basın bülteni ile şu şekilde paylaşmıştı: “Algoritmalar, artık kişilik özelliklerinizi arkadaşlarınızdan daha iyi algılıyor”… Kosinski’nin araştırmasına göre, yapay zeka bırakın yakın arkadaşlarınızı, eşinizden bile daha iyi şekilde sizin hakkınızda daha doğru çıkarımlar yapabiliyor. Bunun nedeni, bilgisayar algoritmalarının sosyal medyada bıraktığınız yorumlar, beğeniler, ilgilendiğiniz içerikleri de tarayarak, detaylı bir analiz çıkarabilmesi. Her geçen gün gelişen yapay zeka ve makine öğrenmesi ile birlikte kişilik analizinde, bilgisayarların insanlara göre önemli avantajları bulunuyor. Gelişmiş bilgisayarlar, doğru algoritmalar ile büyük miktarda geçmiş veriyi inceleyerek, kişinin dışarı yansıtmadığı psikolojisini de anlamlandıracak şekilde çok daha doğru analizler çıkarıyor. Sonuç olarak, yalnızca 10 beğeniyi analiz ederek iş arkadaşından daha doğru bir şekilde kullanıcının kişiliğini tahmin edebilirken, 70 beğeni ile  sıradan bir arkadaştan veya oda arkadaşından; 150 beğeni ile bir aile üyesinden; ve 300 beğeni ile eşinden daha iyi sonuçlar çıkarabilmekte. Tabii burada analizin sadece beğeniler doğrultusunda yapılmadığını, kişilerin geçmiş paylaşımları, demografik bilgileri, bağlantılı olduğu arkadaşları, paylaşımları, takipleri, abonelikleri de hesaba katılarak, oldukça detaylı bir dijital iz üzerinden anlam çıkarıldığını belirtmekte yarar var.

Stanford Üniversitesi’nin bu araştırmayı resmi olarak açıklamasından yaklaşık bir yıl sonra, 2016’da Donald Trump’ın Amerika Başkanı olduğu seçimin ardından, Cambridge Analitik skandalı ile sosyal medya üzerinden kullanıcıların yönlendirilmesi tekrar gündeme geldi. İşin gerçeği, Cambridge Analitik, Facebook'tan edindiği kullanıcı verilerini, makine öğrenimi ile on milyonlarca kullanıcı profilini analiz etmek ve kullanıcıların psikolojik profillerini anlamak için kullanmıştı. Örnekle anlatmak gerekirse, Cambridge Analitik’in, psikolojik profil analizine dayanarak, bir kullanıcının muhtemelen hangi adaya oy vereceği anlaşılıyordu. Desteklediğiniz adaya, oy vereceğini bildiğiniz kişilere para harcamak gereksiz. Bu nedenle, Cambridge Analitik de öncelikle kararsızları hedef aldı ve bu insanlara yönelik rakip karşıtı içeriği teşvik etti. Bu şekilde, ya rakibe oy verme potansiyeli olanları oy vermemeye teşvik etti ya da destekledikleri adaya oyları kaydırmış oldu.

Son olarak, biraz da eğlence amaçlı pek çok kişinin Facebook ya da Instagram’a 10 yıl önceki resimleri ile bugünkü resimlerini koyduğu, “10 years challange”a gidelim. Burada da, kendi ellerimizle, gerçekten 10 yıl önceki resimlerimizi platform ile paylaşarak bu platformların yüz tanımaya yönelik algoritmalarını daha doğru eğitmelerini desteklemiş olduk. “10 years challenge”’ın ardından oldukça fazla, yaşlandığınızda nasıl görüneceğinizi gösteren algoritmalar ve uygulamalar çıkması hiç şaşırtıcı değil aslında…

Üç örnek açısından da işleyiş aynı. Gelişen yapay zeka algoritmaları, büyük veri setleri ile eğitilmekte, bu doğrultuda kullanıcının önceki tercihleri doğrultusunda öngörü analizleri oluşturulmakta ve kullanıcı sistemin çıkarları doğrultusunda yönlendirilmekte. Belgeselin de ana fikri bu aslında…  Ayrıca, belgeselde, Dünya’nın yapay zeka tarafından yönetilmeye başlandığı, Terminator, Neuralink gibi girişimleri beklemeye gerek olmadığı da önemli bir tespit.

Belgeselde öne çıkan karakterlerden olan Google’ın eski çalışanlarından, Harris “teknoloji şirketleri ürünlerinde sadece müşteri deneyimine dayalı tasarıma değil etik tasarıma da yatırım yapmalılar” diyor. Harris’in şu vurgusu da oldukça kritik: “Tarihte daha önce hiçbir zaman 50 tasarımcı iki milyar insanı etkileyecek kararlar almamıştı.” Harris’in ilk etik tasarım düşüncesini bir sunum ile tüm Google çalışanlarına göndermesi sonucu, doğal olarak benzer düşüncelere sahip çalışanlar arasında bir çalkantı oluşuyor, hatta sunum Google’ın kurucularından, bir dönem CEO’luğunu da yapmış olan Larry Page’e birkaç kanaldan sunuluyor. Birkaç gün gündem olan konu, günler içerisinde, iş yoğunluğu nedeniyle unutulup gidiyor, herkes kendi işine dönüyor. Bu nedenle, Harris sosyal medyaya yönelik etik kaygıları sonucu, işten ayrılıp bir STK kuruyor. Harris’in yaşadığı süreç, bu tarz büyük teknoloji devlerinin bile neden sıklıkla küçük şirket satın aldıklarının da önemli bir göstergesi. Konu ve gündem ne kadar önemli olursa olsun, “start-up” olarak kurulup, gerçek başarı hikayelerine dönüşen bu OTT’ler bile (over-the-top) bir noktada kurumsallaşıp, dinamizmini kaybediyor. Facebook’un, kendi uygulamalarını çevik bir şekilde rekabete göre şekillendiremediği için, birtakım servislerine rakip olmasına rağmen, satın aldığı Instagram ve WhatsApp, buna en güzel örnekler…

Facebook’un erken aşama yatırımcılarından Roger McNamee ise, Silikon Vadisi şirketlerinin ilk 50 yılda donanım ve yazılım üretirken, son 10 yıldır ise Silikon Vadisi’nin en büyük şirketlerinin kullanıcılarını sattığını belirtiyor ve bu noktada, şu önemli çıkarım tüm teknoloji mucitleri tarafından farklı şekilde dile getiriliyor: “Ürüne para ödemiyorsanız, ürün sizsinizdir.” Bu yüzden Facebook, Twitter, Instagram, Youtube, Tiktok, Google gibi şirketlerin iş modeli sizi ekranda daha fazla tutmaya dayalı. Esas ürün, davranış ve algılarınızdaki o kademeli, hafif ve algılanamaz değişimi gerçekleştirmek.

Harvard İşletme Bölümü’nden bir öğretim görevlisine göre "bu firmalar reklam verenlere kesinlik satıyorlar, bu nedenle öngörü analizlerinin doğru çalışması gerekiyor. Bu da büyük veri gerektiriyor. Sizi, ekran başında daha fazla tutup, tüm aksiyonlarınızı inceleme çabası da bundan kaynaklanıyor. Teknoloji şirketlerinin üç ana hedefi şu şekilde belirtiliyor: Kullanımınızı arttırmak, büyüme hedefi için arkadaşlarınızı platforma dahil etmenizi sağlamak ve reklamlarla para kazanmak.

Kullanıcıları daha doğru anlamak ve önerilerinin kullanıcılar üzerindeki etkisini ölçümlemek için de sıklıkla A/B testlerinden yararlanmaktalar. Bu konu da, yine derslerimde değindiğim bir bölüm. Özellikle, büyük veriden anlam çıkarma noktasında, Google logosundaki mavi rengin ortaya çıkması hikayesine yer veririm. Google, logosunda kullandığı mavi rengi seçmek için 40’tan fazla mavi renk tonunu farklı kullanıcılara paylaştırarak, kullanıcı davranışlarını analiz ediyor. Şu an kullanılan ve resmi Google mavisi olarak adlandırılan renkte, kullanıcıların daha fazla arama yaptıkları ve platformda kaldıkları gözlemleniyor ve renk bu şekilde kayıt ettiriliyor.

Bununla birlikte, Edward Tufte’nin şu alıntısı da sosyal medya bağımlılığına yönelik içerdiği metafor açısından oldukça önemli: “Müşterilerine kullanıcı diyen sadece iki sektör var: Yasa dışı uyuşturucu ve yazılım…”

Sosyal medyanın özellikle genç jenerasyonlara yönelik en büyük olumsuz etkisi, “hayatı mükemmeliyet algısı üzerine kurma dürtüsü. Kısa süreli etkileşimlerle, beğenilerle ödüllendiriliyoruz. Sonra bunu değerle, gerçekle bağdaştırıyoruz. Ama aslında sadece kısa süren, sahte ve kırılgan bir popülarite sağlamış oluyor.” Gerçek hayat böyle olmadığı için de bu durum sizi eskisine kıyasla daha boş ve hissiz yapıyor. Koca bir nesil daha kaygılı, daha kırılgan, daha depresif yetişiyor. Bir katılımcının şu paylaşımı bence oldukça kritik: “Eleştiriler gelişmenizi sağlar, eleştirenler esas iyimserlerdir.” Ben de bunu sıklıkla gözlemlemekteyim: Yeni nesile bir eleştiri getirdiğimde, söylediğime söyleyeceğime pişman oluyorum; eleştirilere tahammül edemeyen, üstüne üstük bunların değerini kavrayamayan bir nesil yetişiyor ki, ileride bunun sonuçlarını yaşayarak ve ne yazık ki geri giderek öğrenecekler.

Öte yandan, yanlış bilgi yayılımı da belgesel de oldukça çarpıcı bir biçimde ele alınmış durumda. MIT’nin bir araştırmasına göre Twitter’da yalan haberler, gerçeklerden 6 kat hızlı yayılıyor. “Yanlış bilgiye eğilimli bir sistem kurulmuş durumda”. “Gerçekler sıkıcı ve insanların ilgisini çekmiyor, bu nedenle, kar amaçlı dezenformasyona dayalı iş modelleri her geçen gün yaygınlaşıyor”… Ancak, unutulmaması gereken bir gerçek “neyin gerçek olduğunda anlaşamazsak, hiçbir problemi çözemeyiz…” Sosyal medyada, internetteki bilginin gerçekliğine yönelik daha detaylı araştırmalar gerçekleştirmeliyiz, kolaya kaçmamalıyız ve sorgulayıcı olmalıyız.

Silikon Vadisi’nin asıl çıkış hedefi, “insani teknoloji fikri, dünyayı nasıl güzelleştirebilirim hedefi”… Steve Jobs’un şu paylaşımını Silikon Vadisi’nin vizyonunu anlatmak adına sıklıkla paylaşırım: “Silikon Vadisi’ni mühendisler inşa etti. Sonradan, bu mühendisler, pazarlamayı, iş süreçlerini ve diğer pek çok yönetim süreçlerini öğrendiler, fakat tüm bunların dışında iş yapışlarında her zaman gerçek bir inancı temel aldılar. Onlar, kendileri gibi yaratıcı, zeki diğer insanlarla birlikte çalışarak, insanlığın sorunlarını çözebileceklerine inanıyorlardı. Ben de hep buna inandım.”…

Sonuçta, teknolojinin her geçen gün daha da hayatımıza girdiği, Korona süreci ile birlikte her kesimin teknolojiye daha da yakınlaştığı, hayatımızın bir parçası haline geldiği bu süreçte, teknolojilerin sosyal ve toplumsal etkilerini gerçekten ciddi bir biçimde ele almakta yarar var. Burada herkese sorumluluk düşmekte, geçen hafta değerli Ozan İnan’ın da belirttiği üzere “teknoloji melek de olabilir, şeytan da”. Bu seçimi doğru yapmak sizlerin elinde…