‘Ölümcül bir virüs üretebilir’

Yapay zekânın öncülerinden Geoffrey Hinton bu alandaki gelişmelerin tehlikelerine karşı uyarıda bulunmak için geçen sene mayıs ayında Google’dan istifa etmişti. Derin öğrenme ve yapay sinir ağları üzerine yaptığı araştırmalarla ‘yapay zekânın babası’ olarak tanınan 75 yaşındaki biliminsanı Hinton, açıklamasında yapay zekânın geleceği noktadan endişe duyduğunu ve ciddi bir tehlikeyle karşı karşıya kalabileceğimizi belirtiyordu. Sorularımızı yazılı olarak yanıtlayan Hinton “Yapay zekânın gelişimini durdurmak mümkün görünmüyor” diyor.

◊ Öncelikle nasıl olduğunuzu sormak istiyorum. Google’dan ayrıldıktan sonra hayatınız nasıl gidiyor?

Çok daha rahatım. Artık ‘bana ödedikleri ücreti hak edecek kadar üretemediğimi’ hiç düşünmüyorum.

◊ Google’dan ayrılmayı neden gerekli buldunuz?

Esas olarak 75 yaşında olduğum ve artık program yazmakta iyi olmadığım için oradan ayrıldım. Tek sebep de bu değil tabii. Aynı zamanda yapay zekânın varoluşsal riskinin sadece bilimkurgu olduğuna dair yaygın algıyı düzeltmek istediğim için bu kararı verdim.

‘CİDDİ BİR TEHDİT’

◊ Daha önce istifa etmiş olmayı dilediniz mi?

Keşke varoluşsal tehdidin yakın olduğunu daha önce fark etseydim. Şubat 2023’e kadar bunun çok uzak olduğunu düşünüyordum. Ancak bunun ele alınması gereken ciddi bir tehdit olduğunu fark ettim.

◊ Google araştırmacıları dahil birçok kişi sizden önce yapay zekânın tehlikeleri hakkında konuştu. Onların görüşlerini paylaşıyor musunuz?

Diğer araştırmacıların çoğu ayrımcılık, önyargı, sahte görüntüler, belgeler ve yankı odaları gibi varoluşsal olmayan tehditler konusunda uyarıyordu. Hepsi çok ciddi tehditler ancak benim uyardığım şey farklı. Bunlar zaten şu anda mevcut durumlar ve sinir ağlarının bizden daha zeki olmasını gerektirmiyor.

◊ En feci senaryo ne sizce?

Pek çok farklı felaket senaryosu var. Kötü bir aktör çok bulaşıcı, çok ölümcül ve çok uzun bir kuluçka dönemine sahip bir virüs tasarlayabilir. Kötü aktörler yapay zekâyı demokratik seçimleri yozlaştırmak için zaten kullanıyorlar. Ayrıca yapay zekâ kendi kendine insanları öldürmeye de karar verebilir.

◊ Yapay zekâ sizce kontrol edilebilir mi? Bu konuda şirketlere, hükümetlere güvenebilir miyiz?

Başka bir yolu var mı? Keşke bunların cevabını bilseydim. Araştırmacıları bu sorunlara odaklanmaya, endüstriyi ve hükümetleri de bu konulara daha fazla kaynak ayırmaya teşvik etmeliyiz. Yapay zekânın gelişimini durdurmak mümkün görünmüyor. Çok fazla aktör var ve faydalı getirileri çok büyük.

◊ Hayatınızı yapay zekânın gelişimine adadığınıza bugün pişman mısınız?

Pek sayılmaz. Yakın zamana kadar sağlık hizmetleri gibi alanlarda sağlayacağı faydaların, savaş robotları ve yalan haberler gibi diğer alanlarda vereceği zarardan muhtemelen daha ağır basacağı görüşündeydim.

◊ Birkaç alanda eğitim aldığınızı biliyoruz...

Evet, ilk yıl fizik ve fizyoloji okudum ki bu alışılmadık bir kombinasyondu. İkinci yıl felsefe, üçüncü yıl da psikoloji okudum. Sonunda beynin nasıl çalıştığını anlamadan zihnin nasıl çalıştığını asla anlayamayacağımıza karar verdim. O zamanlar çılgınca ve rastgele yürüyüş gibi görünüyordu ancak geriye dönüp baktığımda oldukça iyi sonuç verdiğini anlıyorum.

◊ İnsan beyninin nasıl çalıştığını öğrenmek için yola çıktınız. Neler keşfettiniz?

Yapay zekâdaki şaşırtıcı ilerleme bize nöronlar arasındaki milyarlarca bağlantının gücünü tekrar tekrar ayarlamanın aslında karmaşık becerileri öğrenmenin çok etkili bir yolu olduğunu öğretti. Ancak beynin bu ayarlamaları nasıl yapacağını bilmek için gerekli olan gradyan sinyallerini nasıl hesapladığını hâlâ bilmiyoruz. Ya da mesela neden rüya gördüğümüzü ve uyku yoksunluğunun etkilerinin neden bu kadar korkunç olduğunu henüz çözmedik.

◊ Gelinen noktada sizce yapay zekâ mı yoksa insan beyni mi daha akıllı?

Bu noktada yapay zekânın herhangi bir insandan çok daha fazlasını bilen ancak mantıksal muhakeme konusunda henüz o kadar iyi olmayan bir tür aptal savant (Savant sendromu: Önemli düzeyde zihinsel engeli olan bir bireyin bazı yetenekleri genel ortalamanın çok daha üzerinde sergilemesi) olduğuna inanıyorum. Bununla birlikte, aslında zekâmız için mantıksal akıl yürütmeden daha temel olan analojik akıl yürütmede bizimle karşılaştırılabilir.

◊ Yapay zekânın insan beyninden güçlü olması mümkün mü?

Bu oldukça olası görünüyor. İnsanlar gerçekte olduklarından daha özel olduklarını düşünme konusunda uzun bir geçmişe sahip. Birçok insan hâlâ Tanrı’nın suretinde yaratıldığına ve Tanrı’nın onları evrenin merkezine koyduğuna inanıyor.

◊ Yapay zekânın ilerlemesi insanlığın sonunu getirebilir mi? Gelecekte belki de insana ihtiyaç kalmayacak...

Bence bu olasılık dahilinde.

‘SAFÇA İYİMSERLİK...’

◊ Sizinle birlikte Turing Ödülü’ne layık görülen Yann LeCun, yapay zekâ konusundaki endişeleri reddediyor. Bu görüş hakkında yorumunuz ne?

Bence safça iyimser davranıyor. Gelecek çok belirsizken farklı görüşlere sahip olmak iyidir ve onun haklı olmasını içtenlikle umuyorum. Araştırmalar, mutlu insanların kanser ya da araba kazası gibi gerçekten kötü durumların başlarına gelme olasılığını küçümseme eğiliminde olduklarını gösteriyor. Hafif depresyonda olanlarsa daha iyi adapte olmuşlar, bu olasılıkları ciddiye alıyorlar. Bu da neden hafif depresyonda olduklarını açıklayabilir.

◊ Çocukluğunuzu merak ediyorum, ne tür oyunlar oynardınız?

Bulmacaları çok severdim ve sık sık kendim için bulmacalar icat ederdim. Örneğin bir fincan hangi şekilde olmalıdır ki içindeki sıvının soğuma hızı sıvı miktarından neredeyse bağımsız olsun?

◊ Yapay zekânın insanlar gibi bazı duygulara sahip olması mümkün mü? Korkmak, âşık olmak, mutlu olmak, kızgınlık hissetmek gibi...

İnsan duyguları bedensel hisleri içerir, mesela utandığınızda yüzünüzün kızarması gibi. Yapay zekânın bu bedensel hislere sahip olması için iyi bir neden yok. Ancak yapay zekânın duyguların diğer yönlerine -nasıl davrandığınızı etkileme şekli gibi- sahip olmaması için de herhangi bir neden göremiyorum. Korkunun fiziksel tezahürü bir yapay zekâda oldukça farklı olsa bile, korkması ve algılanan tehlikeden kaçması mantıklı.

◊ Yapay zekâ iyi bir terapist olabilir mi?

Uzun vadede iyi bir terapist olabileceğini düşünüyorum ancak mevcut sohbet robotlarının henüz o noktada olduğunu düşünmüyorum.