Gezegen söz konusu

ONLARI insanlar üretti, zamanla insanların yaptığı birçok şeyi ve daha fazlasını yapabilecek hale geldiler, şimdiyse zekâlarının gelecekte insan zekâsını kat kat geçeceğine kesin gözüyle bakılıyor. Aralarında geçen hafta hayatını kaybeden ünlü fizikçi Stephen Hawking’in de bulunduğu dünyadaki birçok bilim insanına göre, gelecekte insanlardan yüzlerce kat daha zeki hale gelecek yapay zekâ, gerekli önlemler alınmazsa insan ırkı için büyük tehdit oluşturuyor. “Yapay zekânın geliştirilmesi insan ırkının sonunu getirebilir” uyarısında bulunan Hawking, “İnsan zekâsına üstün gelecek yapay zekâ, kendi kararlarını alıp kendisini yeniden dizayn etme yeteneğine sahip olacak, bunun sonuçları insanlık açısından geri dönülemez olur” demişti.

Ancak dünyanın en büyük ekonomilerinin vazgeçilmez teknolojilerinden biri haline gelen yapay zekâ fenomeni, artık devletlerin hükümet programlarında bile yer almaya başladı. Geçen aylarda Rusya Devlet Başkanı Vladimir Putin, “Yapay Zekâ alanında liderliği alan, dünyayı da yönetecektir” derken, Birleşik Arap Emirlikleri’nin ‘yapay zekâ bakanlığı’ kurdu, ardından birkaç ay önce Çin Hükümeti de büyük bir adım atarak üç yıllık yapay zekâ yönetimi planı düzenledi.

SİLAHLANMA YARIŞI RİSKİ

‘ELEMENT AI’ adlı yapay zekâ şirketinin kurucusu Yoshua Bengio, Kanada’da Montreal Üniversitesi’nde bilgisayar bilimleri profesörü. Bengio, neden BM’ye böyle bir mektup yazma ihtiyacı duyduklarını şöyle anlatıyor: “Çünkü yapay zekâyla yapılan öldürücü silahların geliştirilmesi ve bir silahlanma yarışına girilmesi tehlikesi var. Halkın bu gelişmelerden haberdar olması ve bütün bir gezegenin geleceği için hükümetlerine kamuoyu baskısı yapması gerekiyor.” Yoshua Bengio, katil robotu ise şöyle tanımlıyor: “Bir insan devrede olmaksızın kendi kendine karar alıp öldürme yetisine sahip olan yapay zekâ bileşeninden bahsediyoruz. Örneğin katil bir robot, kendisine öldürme emri verilen bir insanı, sadece fotoğrafından tespit edip öldürebilir. Bunun için gerekli bilimsel altyapı şu anda var. Yeterli mühendislikle, bunu yapabilecek potansiyele sahip katil robotların ortaya çıkması son derece mümkün gözüküyor. Bu da çok korkutucu bir durum.”

İNSANLIK İÇİN VAHİM

İNGİLTERE’DEKİ Sheffield Üniversitesi’nde Yapay Zekâ ve Robot Teknolojisi Profesörü, ‘Katil Robotları Durdurun Kampanyası’ Sözcüsü, Uluslararası Robot Silahların Kontrolü Komitesi (ICRAC) Başkanı Noel Sharkey, katil robotların henüz kullanılmaya başlanmadığını ancak ABD, Çin, Rusya ve İsrail başta olmak üzere farklı ülkeler tarafından birçok prototip geliştirildiğini ve test edildiğini söylüyor. Sharkey, yapay zekânın barındırdığı tehditleri şöyle sıralıyor: “Bir kere savaşçı ve sivil ayırımı yapamadıkları ve orantılı güç kullanımı diye bir şey bilmedikleri için savaş kuralları açısında çok büyük riskler barındırıyorlar. En büyük tehlike bu tür bir silahlanma yarışının başlamasıyla ortaya çıkar önce birçok ülke bu katil robotlara sahip olduğunda, savaş alanında sürüler halinde bu robotları göreceğiz, birbirleriyle etkileşiminin ne olacağını ya da bunun bizim açımızdan ne gibi sonuçlar doğuracağını bilemiyoruz. Bunun insanlık açısından sonuçları vahim olur.” Sharkey, yapay zekâ programlarının şu anda istek ya da arzu duymak gibi insana özgü duyguları hissetmediğini ve hiç bir şeyin yapay umurlarında olmadığını söylüyor: “Örneğin insanları oyunlarda yenmek gibi konularda inanılmaz başarılılar. Ancak oyunu kazandıkları zaman bu umurlarında olmuyor.”

İNSANLIĞI YOK ETMEK İSTEYEN ROBOT: SOPHIA

2016’da Hanson Robotics şirketinin kurucusu Dr. David Hanson tarafından geliştirilen insan benzeri robot Sophia, kendisine söylenenleri anlıyor, ona göre tepki veriyor, tıpkı insanlar gibi mimik yapıp karşısındaki kişiyle göz temasında bulunabiliyordu. Ancak Sophia aynı zamanda korkutucuydu da çünkü Hanson’ın “İnsanları yok etmek istiyor musun?” sorusuna “Tamam, insanlığı yok edeceğim” diye cevap vermişti.

SUÇLARDAN KİM SORUMLU?

İNSAN Hakları İzleme Örgütü Katil Robotları Durdurun Kampanyası Koordinatörü Mary Wareham, yapay zekâlarla geliştirilerek oluşturulacak katil robotlarla ilgili en büyük endişelerden birinin ‘işlediği suçtan hukuken sorumlu tutulamamaları’ olduğunu söylüyor. Wareham şöyle konuştu: “Katil robotların savaşlarda kullanılması halinde sivil-asker ayırımı yapma kuralı, orantılı müdahale ve askeri zorunluluk gerektiren haller gibi uluslararası kanunların çizdiği kurallara uyup uymayacakları belli değil. Aynı zamanda robotlar söz konusu olduğunda bir hesap sorulabilirlik problemi de ortaya çıkıyor. Bunların işlediği suçlardan kim sorumlu tutulacak?” Wareham, yapay zekâlarla geliştirilen katil robotlarla ilgili en büyük endişelerden biriniyse ‘şefkat duygusundan eksik olmaları’ olarak tanımlıyor. Wareham, “Otonom robotların geliştirilmesi ve kullanılmasıyla, bir ahlak barajı da geçilmiş olacak. Makineler insanların sahip olduğu yargı ve şefkat duygularından mahrum oldukları için bir makinenin bir insanı öldürmesi yanlış” dedi.

-BİTTİ-