Dikkat ‘terminatör’ çıkabilir!

'TERMİNTÖR’ filminde gördüğümüz robot savaşları ve yapay zekâ tehdidi artık Hollywood filmlerinin senaryosu olmaktan çıktı. Yapay zekâ kullanımı sürücüsüz araçlardan savunma sanayiye kadar her sektörde gitgide yaygınlaşırken, aynı anda dünyada bir grup bilim insanı da ‘yapay zekâ’nın yanlış kullanılması halinde insanlığın geleceğini nasıl tehdit ettiğini konuşuyor. Aralarında geçen kasım ayında Türkiye’yi ziyaret eden SpaceX ve Tesla Motors gibi dev teknoloji şirketlerinin sahibi Elon Musk’ın da bulunduğu 26 ülkeden 116 yapay zekâ uzmanı, yaklaşık 6 ay önce Birleşmiş Milletler’e mektup yazarak, savaşların, yapay zekânın kontrolüne geçmesi halinde, sonuçlarının insanlık açısından görülmedik ölçüde yıkıcı olabileceği uyarısında bulundu.

BİN KAT DAHA ZEKİ

Elon Musk ‘yapay zekâ’nın Kuzey Kore’den çok daha büyük bir tehdit olduğunu ve bunun Üçüncü Dünya Savaşı’nın en muhtemel tetikleyicisi olabileceğini söylemişti. Forbes dergisinin “en büyük düşünce makinesi” olarak tanımladığı, Google’ın mühendislik bölümünün başında bulunan Amerikalı gelecek bilimci Ray Kurzweil’e göre ‘Singularity’ (Teknolojik tekillik) adının verildiği ve yapay zekânın insan zekâsından çok daha zeki olacağı yıllar, şu anda hayatta olan genç ve orta yaşlı neslin görebileceği kadar yakın. Bugüne kadar geleceğe yönelik yaptığı tahminlerden yüzde 86’sı gerçekleşmiş olan Kurzweil’e göre yapay zekâ, 2029 yılında insanla aynı zekâya sahip olacak, 2045 yılındaysa insan zekâsından bin kat daha zeki hale gelecek. Geçen hafta hayatını kaybeden dünyaca ünlü teorik fizikçi Stephen Hawking de bundan üç yıl önce “yapay zekânın geliştirilmesi insan ırkının sonunu getirebilir” uyarısında bulunmuştu.

KİTLE İMHA SİLAHLARI HALİNE GELEBİLİRLER

AVUSTRALYA New South Wales Üniversitesi Yapay Zekâ Profesörü Toby Walsh, BM’ye gönderilen uyarı mektubunu organize eden ve imzayı toplayan bilim insanı. “Neden BM’ye böyle bir mektup yazma ihtiyacı duydunuz?” diyorum, şöyle yanıtlıyor: “Biz iki yıl önce BM’ye yine bir mektup yazmış ve katil robotlarla ilgili ülkeleri uyarmıştık. Ancak bu uyarımız dikkate alınmadı, şu anda tamamen otonom, yani kendi kendini idare eden robot silahlar Amerikan ve Rus orduları tarafından üretiliyor. Ayrıca bugüne kadar bu konuda hep bilim insanları olarak bizler uyarıda bulunuyorduk ama aslında yapay zekâ ve robot endüstrisinde olan uzman ve iş insanlarının da bu konuda çok endişeli olduklarını göstermek istedik. Teknolojinin iyi amaçlarla kullanılması gerekiyor. ”

Walsh, yapay zekânın gelişiminin tehditlerini şöyle anlatıyor: “Beni en çok endişelendiren şey, ‘Aptal yapay zekâ’ dediğimiz robotlar. Bu robotlar bir hedefe ateş açtığında sivil-asker ayrımı yapmadan saldırıyorlar. Dolayısıyla birçok masul sivilin ölümüne sebep olabilirler. Bu robotların dünyaya yayılması demek, dünyadaki savaş anlayışının da değişmesi demek. Bunlar kitle imha silahları haline gelebilir. Ayrıca bu robotların geliştirilmesi ve yayılması halinde diktatörlerin ya da teröristlerin eline geçmesi tehlikesi de var, ki bu çok kolay.”

Peki yapay zekânın gelişmesi insan ırkı için tehdit oluşturur mu? Walsh, “Yapay zekânın nasıl kullanılacağını biz seçeceğiz” diyor ve şöyle devam ediyor: “Eğer doğru bir şekilde kullanırsak , insanlık için çok faydalı şeyler olabilir, çok çalışmak ve sürekli üretmek zorunda kalmayız, işleri robotlar yapar. Ama eşit bir olasılık daha var: Eğer yapay zekâyı yanlış bir şekilde kullanırsak o zaman robotların hükmünün sürdüğü, insanoğlunun büyük bölümünün de işsiz, fakir ve aç kaldığı toplumlar ortaya çıkabilir. Bu tercihi biz yapacağız.” Walsh’e ısrarla yapay zekânın yanlış kullanılması durumunda ne olacağını soruyorum. Tüyler ürpertici bir yanıt veriyor: “O zaman bir sabah uyanırız ve etrafımızı Terminatör benzeri ve kendinizi savunmaya hiç bir şekilde gücünüzün yetmeyeceği katil robotlarla etrafımızın sarılı olduğunu görürüz. Hepimiz fakir ve işsiz bulabiliriz kendimizi. Önlem alınmazsa çok distopik bir gelecek bizi bekliyor olabilir...”

DÜŞÜK MALİYETLİ KİTLESEL YOK EDİCİLER

CALIFORNIA Berkeley Üniversitesi’nde Bilgisayar Bilimleri Profesörü ve yapay zekâ araştırmacılarından, ‘Bayesian Logic’ adlı veri analizi şirketinin kurucusu olan Stuart Russell, yapay zekâ kullanılarak yapılan bir ‘katil robot’u şöyle tanımlıyor: “Bir katil robot, bir insan tarafından yönetilmeksizin insanları hedef olarak belirleyip öldürme yeteneğine sahip olan robottur. ABD, Çin, Rusya, İsrail, vb. bazı ülkelerin bu alanda araştırma ve geliştirme programları mevcut.  Eğer BM harekete geçip uluslararası bir anlaşma imzalanmasına öncülük etmezse geriye dönüşü olmayan bir silahlanma savaşıyla karşı karşıya kalabiliriz.”

UÇAN MİKRO ROBOTLAR

STUART Russell’a göre asıl tehlike, robot şeklindeki bu otonom silahların gitgide daha düşük maliyetle ve kitlesel olarak üretilen cihazlar haline gelmesinde yatıyor: “Örneğin uçan mikro-robotlar binaların içinde bile insanları bulup öldürebilecek. Bu robotların üretim maliyeti düşer ve üretimi artarsa, çok az insan gücüyle milyonlarca robot ortaya çıkabilir. Bu durumda güç dengesi devletlerden teröristlere, suç örgütlerine ve diğer devlet dışı aktörlere doğru kayar. Ülkeler savunma güçlerinin büyük bir ayağı olarak bir kere otonom silahlar geliştirmeye başladığı anda şirketler de bunu altyapısına yatırım yapacaktır, o zaman bu otonom silahları yasaklamak siyasi ve diplomatik olarak son derece zor olur.”

Russell, “gelecekte yapay zekâ insan zekâsını geçecek mi?” sorusunu yanıtlamanın hala çok zor olduğunu söylüyor: “Bu insanların kendi seçimine bağlı. Eğer biz insanoğlu olarak bu amacın peşinde koşmazsak olmaz. Ancak birçok yapay zekâ bilimcisi bu yüzyılda yapay zekânın insan zekâsını geçeceğini düşünüyor.” Peki bunun sonuçları ne olur? Russell’ın bu konudaki uyarısı oldukça sert ve düşündürücü: “Eğer yapay zekânın amaçları insan ırkının amaçlarından başka tarafa saparsa, bizden çok daha zeki olacağı için amacı her neyse ona ulaşacaktır.”

YARIN: BÜTÜN BİR GEZEGENİN GELECEĞİ SÖZ KONUSU