Yapay zekâ bizi kölesi yapmaz çünkü işine yaramayız

Dünyayı sarsan bir önceki kitabınız ‘Sapiens’te, ‘Doğu Afrika’dan çıkan ‘önemsiz bir maymun’un binlerce yıllık hikâyesini anlattığınızı söylemiştiniz. Yeni kitabınızda bambaşka bir kahraman var: Homo Deus. Kim bu Homo Deus?

- Homo Deus biraz fantezi biraz gerçek. O bizim, ilahi güçlere sahip olabilme fantezimiz. Sadece fiziki dünyayı şekillendirme değil, yaşamın kendisine yön verebilme fantezimiz… Hayvanlara, kendimize, vücudumuza, beynimize söz geçirebilme fantezimiz…

Peki gerçek olan ne Homo Deus’ta?

- Gelişen kabiliyetlerimiz… Binlerce yıl boyunca dışımızdaki dünyayı kontrol etmeye çalıştık. 21’inci yüzyıl içimize döndüğümüz dönem olacak. Hayatı yeniden tasarlayacak biyolojik bilgiye ve teknik donanıma sahip olacağız. Bu anlamda ilahlaşacağız. Artık bilimkurgunun konusu değil bunlar. Ama ortada bir sorun var. Bu gücümüzün ne tür sonuçlar üreteceği konusunda en ufak bir fikrimiz yok.

Önümüzü görmüyor muyuz yani?

- Şu an sadece naif ideallerimiz var; bir çeşit cennet yaratacağımızı, orada mutlu mesut yaşayıp gideceğimizi düşlüyoruz… Mümkün olsa bile bu çok çok küçük bir gruba hitap edecek. İnsanlığın tamamına değil.

Yani elitlere ütopya, kalanına distopya mı var gelecekte?

- Evet, çok küçük bir elit grup için ütopya… Geriye kalan insanların tümü, hayvanlar ve ekosistem ise sıkıntıya düşecek.

Bu sıkıntıların ne olduğuna gireceğiz ama önce sitayişle bahsettiğiniz bir başarıyı sorayım size; insanlığın üç büyük belayı, savaşları, kıtlıkları ve salgınları başarıyla defettiğini yazıyorsunuz. Bugünkü dünyaya baktığımda pek inanasım gelmiyor doğrusu.

- Bu bir perspektif meselesi, nereden baktığınıza bağlı. Sonuçta ben de Ortadoğu’da, İsrail’de yaşıyorum ve önemli oranlarda şiddetin ve savaşların dünyaya hâlâ hüküm sürdüğünün farkındayım. Suriye’de insanlar açlıktan ölüyor; Batı Afrika’da Ebola salgını, Sahraaltı’nda AIDS var.

Tam da bunu söylüyordum ben de.

- Evet, tamamen bitiremedik bu problemleri. Ama kontrol edilebilir bir hale soktuk. Başarı orada. İnsanlık artık bir mucize beklemeden kendi kendine yetebilir. İşte bakın, tarihimizde ilk defa çok yemekten ölen insanların oranı az yemekten ölenlerin oranını geçti. Şeker hastalığı, terörizmden daha çok can alıyor. İnsanlar artık veba, kolera salgınlarından ziyade yaşlanarak ölüyor. İntihar ederek hayatını kaybedenlerin sayısı, savaşlarda ve şiddete maruz kalarak ölenlerden fazla. Kıtlık belli bölgelerde yine var ama doğal sebepler yüzünden değil.

Nedir peki doğal olmayan sebepler?

- Siyasi kıtlık var artık… Tanım belli: Yeterli suyunuz ve buğdayınız yoksa, başka yerden de getiremiyorsanız, bu ‘doğal’ kıtlıktır. Ama bugün Anadolu’da bir kıtlık yaşansa, gerekli yiyecekleri Avustralya’dan bile getirebiliriz. Çünkü hem yeterli yiyecek üretiliyor hem de nakliye ucuzladı. Ama Suriye’de, Kuzey Kore’de, Sudan’da insanların açlıktan veya kötü beslenmeden ölmesi, siyasetçilerin böyle istemesi yüzünden. Kuzey Kore’deki 1990’larda yaşanan kuraklık ve kıtlık sırasında Güney Kore’den ve Çin’den pirinç getirmenin önünde hiçbir engel yoktu; getirilmedi. Yüz binlerce insan bu yüzden öldü.

Peki, bu üç belayı önemli ölçüde yendiğimizi düşünelim; gelecekte düşmanlarımız var mı?

- Kısa vadede mi, uzun vadede mi?

İkisini de duymak isterim.

- Şu an yaşadığımız sıkıntılar, Soğuk Savaş sonrasında, hem barışın sigortası olan hem de ekonomik ve teknolojik gelişmeleri sağlayan düzenin yavaş yavaş çözülmesi yüzünden. ABD’de Trump’ın çıkışı, İngiltere’de Avrupa Birliği karşıtlarının kazanması, Rusya’nın yükselişi… Kısa vadede, geçen on yıllarda kazanılanlar kaybedilecek. Şiddet artacak. Uzun vadede iklim değişikliği ve teknolojik karmaşayla uğraşacağız.

Bu cevapla yeniden Homo Deus’un sularına girdik sanırım.

- Evet. Yapay zekânın yükselişi uzun vadede dev bir eşitsizlik yaratacak. Milyonlarca hatta milyarlarca insanın işsiz kalmasına neden olacak. Yeni teknolojileri kontrol eden elit bir grubu öne çıkararak insanlığın geri kalanını güçsüz kılacak. Bu birinci tehlike. İkincisi, biz biyoteknoloji ve biyomühendislik yardımıyla bedenlerimizi ve beyinlerimizi değiştirirken ortaya çıkacak. Dışımızdaki dünyayı değiştirirken ekosistemi mahvettik. Kendimizi değiştirirken de zihinsel sistemimize büyük zarar verebiliriz. Çünkü elimizdeki teknolojinin ne gibi sonuçlar üretebileceğini bilmiyoruz.

Kötü sonuçlanmak zorunda değil ama…

- Sosyal medya ve bilgisayarlarla yaşadıklarımızı düşünün. Şu anda bunların yeni neslin zihinsel yapısını nasıl etkileyeceğini kimse bilmiyor. Facebook’a doğan çocuklar nasıl iletişim kuracak, sosyal becerileri nasıl gelişecek? Bugün milyarlarca insanın katıldığı dev bir deney yaşanıyor. İzliyoruz.

Bir önceki kitabınızda, ‘Homo Sapiens’in işbirliğini öğrenerek, rakiplerini elediğini yazmıştınız. Belki bu deney de bir başka tür işbirliğidir?

- Olabilir. Bu deney kötü sonuçlanmak zorunda değil. Ama şunu da unutmamalı. 10 bin yıl önceki Tarım Devrimi de iyi bir fikir gibi görünüyordu. Stokta daha fazla yemek, şehirler kurma fırsatı, ticaret imkânları…

Ama bir tür kölelik getirdi, değil mi?

- Evet, ortalama bir köylü; bir avcı toplayıcıya göre daha çok çalıştı; önüne daha az tür yemek geldi ve gitti elindeki tüm gücü seçkin gruplara devretti. Kolektif bir perspektiften bakarsak, Tarım Devrimi insanlığı güçlendirdi. Ama bireyi de köleleştirdi. Günümüz dünyasında bile 20 bin yıl önceki avcı toplayıcılardan daha zor durumda yaşayanlar var. Dikkatli olmazsak, yeni devrimler, yeni teknolojiler de bize aynısını yapabilir.

SÜPER-İNSAN OLACAĞIZ TAMAM AMA NASIL SÜPER?

“Siyasi otoritenin de giderek artan bir şekilde insanlardan algoritmalara kaydığını göreceğiz” diyorsunuz kitapta. Bunun sebebi nedir?

- Çünkü çok fazla bilgi var ortada. Çok fazla olay aynı anda gerçekleşiyor ve değişim hızının da artmasıyla insanlar neyi nasıl yorumlayacaklarını bilemiyor.

Ama bir yandan da ciddi anlamda veri toplanıyor; hatta insanlar kendilerine ait verileri sisteme sunmaya gönüllü oluyor. Yetmiyor mu?

- Bu artık bilgi toplama meselesi değil; bilgiyi yorumlama meselesi. ABD’nin Ortadoğu’daki son 20 yıllık macerasını düşünün. Elinde her türlü teknoloji var. Irak’tan yapılan bir telefon konuşmasını bile takip edip harekete geçebiliyorlar. Dünyada hiçbir imparatorluğun bu denli bilgi toplama gücü olmamıştı. Ortadoğu’ya ilişkin her veri ellerinde. Ama sonuçlar da ortada. Rakibin elindeki kartları bilmeye rağmen pokerde kaybetmek gibi. Yani bilmek yetmiyor. Analiz edemiyorsan önemi yok.

Eh, o zaman diğer siyasi aktörlerin de pek farkı yoktur.

- İnsan beyninin kapasitesinin ötesine geçtik. Bugün dünyada beş on sene sonrasını bile görebilecek kimse yok. Bu yüzden siyasi kararlar vermek çok zor. Dünyadaki siyasetçilerin uzun dönem planları da yok; anlamlı bir gelecek vizyonları da..

Bir yandan da yeni nesil teknolojiler konusunda çok iddialıyız, geleceğe hükmedeceğimizi söylüyoruz. Çelişki değil mi bu?

- Giderek daha da iyi algoritmalar geliştiriyoruz. Yapay zekâ toplanan verileri bizden daha iyi analiz ediyor. Bu alandaki en büyük vaat de bu zaten. Algoritmalara her şeyi öğretmiyorsunuz artık. Ona sadece verileri sunuyorsunuz; algoritma kendi kendine öğreniyor. Verilerin içinde sizin fark etmediğiniz izleklerin o farkına varabiliyor. Örneğin geçen yıl AlphaGo isimli program, Go oyununun dünya şampiyonuyla yaptığı karşılaşmayı kazandı. Herkes bunun Deep Blue isimli bilgisayarın zamanının satranç şampiyonu Garry Kasparov’u mağlup etmesine benzetti. Ama benzemiyor.

Neden benzemiyor?

- Çok temel bir fark var çünkü. Deep Blue serisine satranç oynamayı, onu tasarlayanlar öğretmişti. AlphaGo’ya kimse Go öğretmedi. Programcılarının bile anlayamadığı bir tarzda kendi kendine öğrendi.

Peki hiç yaklaşma şansımız yok mu bu algoritmalara?

- İnsan biyolojisi, algoritmaların işlem gücüyle birleştirilebilirse, insan bedenini ve beynini yeniden tasarlama ya da bir beyni doğrudan bilgisayara bağlama imkânı doğacak. Bu güç, bizim şu an sahip olmadığımız yeteneklere sahip süper-insanlar ya da organik ve inorganik parçalardan oluşan siborglar yaratmakta kullanılabilir.

Nasıl insanlar olacak bu süper-insanlar?

- Bu süper-insanların ne tür insanlar olacağı hakkında bir fikrimiz yok. Hatta tarihte ilk defa 10-15 yıl sonra ne olacağını bilmiyoruz.

Siz biliyor gibisiniz ama. Kristal küreniz mi var?

- Ben de bilmiyorum. Ben geçmişe ve mevcut gelişmelere bakıp yorumluyorum.

BİZ KİTAP OKUYORUZ AMA ARTIK KİTAP DA BİZİ OKUYOR

Peki insanın, günün birinde kendi yarattığı bu algoritmaların ya da yapay zekânın kölesi olma ihtimali var mı? Tarım devriminin kölelik getirmesi gibi bir durum kastetmiyorum; insan ikinci sınıf bir yaratık haline gelebilir mi?

- Hayır, köle olacağımızı zannetmiyorum.

Eh, bu da bir rahatlama en azından!

- Köle olmayız çünkü bizden daha zeki olan yapay zekânın işine çok yarayacağımızı sanmam. Bugün bile örneğini gördüğümüz esas mesele, otoritenin ellerimizden kayıp gitmesi ve algoritmalara geçmesi. Algoritmaların bizim adımıza karar verecek olması.

Bir örnek verebilir misiniz?

- Şöyle soralım: Eskiden okuyacağımız kitabı nasıl seçiyorduk? Bir kitapçıya gidiyor, raflar arasında dolaşıyor, birkaç seçenek belirliyor, sonra içimizdeki sesi dinliyorduk. Ama şimdi çoğumuz için Amazon var. Daha siteyi açar açmaz, “Geçmişte şunları okudun, bunları okuyan şunları da okudu” diye tavsiyeler çıkıyor. Bu sadece başlangıç. Kindle gibi okuma cihazları kullanıcılar hakkında sürekli veri topluyor. Hangi bölümleri daha hızlı okudun; hangi sayfada mola verdin; hangi sayfada o kitabı bir daha açmamak üzere kapattın… Hepsini biliyor. Biz kitap okurken, kitap da bizi okuyor artık. Üstelik daha da ileri götürülebilir bu.

Nasıl?

- İleride hangi cümlede kalp atışınızın hızlandığını, neyin sizi kızdırıp neyin mutlu ettiğinin verisine de sahip olacak bu cihazlar. Siz belki bunları unutacaksınız ama onlar unutmayacak. Bu tür bilgiler üzerinden de seçimlerinize yön verecekler

HI-TECH ŞİRKETLERİ ARTIK FİLOZOF İSTİHDAM EDECEK

Sadece tarih, yapay zekâ, küresel ısınma vs. değil; neredeyse bütün büyük soruların muhatabısınız. ‘Hayatın anlamı nedir’e dek size soruluyor artık. Hoşunuza gidiyor mu bu?

- Gidiyor. Bu tür konulara çalışabiliyor olmak bir ayrıcalık. Alışılmadık bir iş alanı sonuçta. Bir de yeni bir durum var ortada: Felsefi sorular tarihte ilk defa bu kadar pratik hale geldi.

Neden pratik?

- Bu sorular binlerce yıl boyunca entelektüel oyunlar gibiydi ama şu an mühendisler bile onlara cevap vermek zorunda. Örneğin şoförsüz arabalar… Bu arabaları imal ederken, tasarımına etik kodlar da eklemek zorundasınız.

Neden?

- O meşhur örnek yüzünden. Diyelim ki trafikteki bir şoförsüz aracın karşısına birdenbire beş yaya çıktı; araç, arka koltukta uyuyan sahibini kurtarmak için onlara çarpıp durmayı mı tercih eder, yoksa yoldan çıkarak sahibini tehlikeye atmayı mı?

İnsanlar açısından ilk şık geçerli sanırım…

- Evet, yalan veya gerçek, öyle diyor insanlar. Sonuçta bu kararlar eskiden insani tercihlere ve hislere dayanıyordu. Ama şimdi bir otomobil imalatçısı, bu kararları bir de aracın algoritmasına eklemek zorunda. Yani bu artık felsefi bir soru değil; bir mühendislik sorusu. Kimsenin de bir cevabı yok.

Yani mühendislik artık daha felsefi bir alan.

- Evet. Felsefeyle doğrudan ilgili. Hi-tech şirketleri ileride filozof istihdam edecek. Başka test alanları da var tabii. Örneğin sanal gerçeklik. Gerçeğin kendisinden neredeyse ayrılamaz düzeyde bir sanal gerçeklik yarattık diyelim. Yaşantısının tamamını orada geçirmek isteyenler hangi kurallara tabii olacaklar? Yirmi yıl sonra filozoflar bu sorulara da cevap vermek zorunda kalacak.

Şu anda cevap veren var mı?

- Nick Bostrom var, Oxford’dan. ‘Superintelligence’ isimli bir kitap yazdı. Hem potansiyeli hem tehlikeleri tartışıyor ve bunu felsefi bir perspektiften yapıyor. Yeni dünyada etik nedir, özgür irade nedir, cevap arıyor. Bu sorular çok önemli çünkü artık bilimkurgu alanına ait değiller; bilimin parçası haline geldiler.

Tıpkı ölümsüzlük arayışı gibi… Bunu da kitabınızda tartışıyorsunuz. Homo Deus’un bir meselesi de bu.

- Evet, giderek çok daha fazla şirket, yatırımcı ve bilim insanı bu konuda çalışıyor. İnsanlar, tabii paraları varsa, gençleştirme tedavisi alıp hayatlarını uzatacak, sonra o zaman diliminde bulunan yeni tedavilere başvuracak, bu böyle sürüp gidecek.

Bu konuların en bilinen ismi Aubrey de Grey’in yaklaşımı da bu zaten.

- Evet. Ama artık başkaları da var. Google’ın alt birimi Calico’nun amacı yaşlanmayı durdurmak. Bunun için tıpkı Aubrey de Grey gibi ölümsüzlüğe inanan ünlü araştırmacı Ray Kurzweil’i önemli bir göreve atadı. Ama kanaatimce, esas önemli olan bu meselenin sonuçları. İnsan yaşamını uzatırsak, bu bize neye mal olacak? Kimler ölümsüz olacak?

O meşhur yüzde 1 herhalde?

- Evet. Zenginler.

Fikir sahipleri girmez mi bu elit sınıfa? Belki siz de ölümsüz olursunuz?

- Ancak fikirlerini paraya çevirebilirlerse girerler.

SİLİKON VADİSİ CENNET Mİ VADEDİYOR?

Gelecekte dinler Silikon Vadisi’nden çıkacak diyorsunuz.

- Evet, yeni dinler Ortadoğu’dan çıkmayacak. Silikon Vadisi tekno-dinler, inanışlar üretecek.

Nasıl dinler bunlar?

- Bir ilaha dayanmayan dinler… Ama eskilere de benzeyecekler. Onlar da mutluluk, barış, cennet hatta ölümsüzlük vadedecek. Ama bu dünyada. Öldükten sonra değil. Silikon Vadisi’ndeki vizyonerlerin konuşmalarını dinlerseniz, anlattıklarında bu dini söylemlerden izler yakalarsınız.

TRUMP KÜRESEL ISINMAYA KARŞI DA MI DUVAR ÖRECEK?

Şu anda dünyada iki ayrı siyasi akım çarpışıyor gibi görünüyor. Daha liberal, özgürlükçü, demokrat bir akımla; daha milliyetçi, yabancı düşmanı, kendi içine dönük, baskıcı bir siyasi akım… ‘Güçlü olanın hayatta kalması’ ilkesi gereğince, birinin diğerini bitireceğini söyleyebilir miyiz?

- Bence temel ayrım liberallerle anti-liberaller arasında değil. Küresel bir vizyonu olanlarla, yabancı düşmanlığı güden aşırı milliyetçiler arasında. Bugün milliyetçi kanat yükseliyor. Brexit, Trump ve diğerleri… Ama bu milliyetçi gündem uzun vadede tükenmeye mahkûm.

Neden?

- Çünkü milliyetçilik insanlığın bu yüzyılda karşılaşacağı üç tehlikeyi, nükleer savaşı, iklim değişikliğini, yapay zekâ ve biyo-mühendislik gibi yıkıcı teknolojileri bertaraf etmek için yeterli değil.

Ama sonuçta on yıllardır geçer akçe…

- Önce şunu saptamalı: Milletler ve milliyetçilik doğal veya ebedi kavramlar değil. Yüzbinlerce yıl boyunca Homo Sapiens ve insansı ataları, sınırlı sayıda mensubu olan küçük topluluklar halinde yaşadılar. Bugün bile, kaç Facebook arkadaşımız olursa olsun, 150 bireyden fazlasını gerçekten tanımamız zor. Yani insanlar küçük gruplara bağlılık gösterir. Böylesi milyonlarca üyeli kalabalık cemaatlere bağlılık nispeten yeni yeni ortaya çıktı. Sebebi de büyük ticari ağlar ve yönetim yapılarıyla küçük grupların baş edememesiydi. Ama 21’inci yüzyılda milletler, kabile toplumlarının kaderini paylaşacak.

Nasıl?

- Yetersiz kalarak ve gözden düşerek. Dünyanın en önemli sorunlarıyla baş etmede doğru adres değiller çünkü. Hangi millet küresel ısınmayı tek başına durdurabilir? Donald Trump, ABD’de sıcaklığın yükselmesini yasaklayabilir mi ya da buna karşı bir duvar örebilir mi?

Ne olacak peki?

- Bir milletin biricikliğinin altını çizip onu korumaya çalışan bir tür bağlılığa her zaman yer var ama insanoğlu ayakta kalmak ve gelişmek istiyorsa, bu yerel bağlarını başka sorumluluklarla birleştirmeli. Küresel bir toplum kurmak zorunda.

ŞU AN POLONYA TARİHİ ÜZERİNE OKUYORUM

İlk kitabınız ‘Sapiens - Hayvanlardan Tanrılara’, tüm dünyayı salladı. Ben bugüne dek bu kadar güçlü bir şekilde tekrar tekrar gündeme gelen bir kitap görmemiştim. Obama önerdi, Zuckerberg önerdi, Gates önerdi… Fısıltı gazetesi gibi herkes birbirine önerdi. Neydi sırrı?

- Çağın en yakıcı sorularına cevap veriyor olmasıydı sanırım. Bir de kolay okunuyor olması.

Homo Deus da bu tür sorular soruyor mu?

- Bir lise öğrencisi olsanız elinizdeki bilgilerle ne yapacağınızı düşünürsünüz. Gelecekte nasıl yeteneklere ihtiyacınız olacağını sorarsınız. Dünyadaki yerinizi ararsınız. 30-40 yaşına geldikleri zaman, bugünkü gençlerin çoğu belli ki taca çıkacak. Şimdi neye odaklanmaları gerektiğini düşünüyorlar. Homo Deus işte hem siyasetçilere hem de sokaktaki insana gelecekten anlık manzaralar sunuyor; üzerine düşünebilecekleri imkânlardan bahsediyor.

Kendi halinde bir tarihçiyken bestseller yazarı oldunuz. Hayatınız nasıl değişti?

- Yollarda geçmeye başladı. Bir de sürekli konuşarak.

Memnun musunuz?

- İyi tarafları da var; kötü tarafları da. Gerçekten önemli konularda konuşuyor olmak hoşuma gidiyor; sonuçta entelektüel bir eğlence değil bu; iklim değişikliğinden, hayvan haklarından, yapay zekâdan doğan tehlikelerden bahsedip duruyorum. Yani, sonuçta memnunum ama zamanım artık çok az ve birçok insana “Hayır” demek hoşuma gitmiyor.

Neden “hayır” diyorsunuz?

- Zaman yetmiyor çünkü; kitaplar okumak, arkadaşlarımla beraber olmak, köpeğimi ormanda gezdirmek istiyorum. O yüzden benden istenen şeylere yüzde 95 “Hayır” diyorum.

Herkes sizi okuyor, siz kimi okuyorsunuz?

- Ben şu ara Polonya tarihi üzerine okuyorum.

Neden?

- Çünkü 16-17’nci yüzyıllarda Polonya, zamanının en ileri demokratik sistemini kurmuştu. Parlamentosu, kral seçimleri… Sonra birden her şey dağılıp gitti. İlgimi çekiyor.

Bu yeni bir kitabın işareti mi?

- Hayır, şu an bir projem yok. Eğlence için okuyorum. Elimin altındaki bir başka kitap da Tim Wu’nun ‘Attention Merchants (İlgi Tüccarları)’ isimli eseri. İnsanların dikkatine oynayan kurumların tarihleri ve teknolojileri üzerine bir iş. İnternete, radyoya, televizyona, gazetelere bakıyor Wu. Ben de çok beğendim. Böyle geniş bir perspektifle okuyorum yani.

Hep böyle mi çalışırsınız?

- Evet, örneğin sürekli yapay zekâ üzerine okusam yapay zekâ uzmanı olurum. İstemem. Çünkü o zaman perspektifim kaybolur. Toplumsal, ekonomik, siyasi perspektifleri de bilmek gerekir. Aslında belki buradan bir kitap çıkar.