Yapay zekanın karanlık yüzü: Operatörünü öldürmeye karar verdi
Güncelleme Tarihi:
ABD ordusu tarafından gerçekleştirilen bir simüle testte yapay zekanın verdiği karar tüm dünyanın kanını dondurdu. ABD Hava Kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton yapay zekaya çok güvenilmemesi konusunda uyarıda bulundu.
Son dönemlerde yapay zekadaki hızlı ilerlemenin teknolojide 'yeni bir altın çağ' açacağı düşünülse de ABD'den gelen bir haber tüm dünyayı dehşete düşürdü.
YAPAY ZEKA HİÇ BEKLENMEDİK STRATEJİLER UYGULADI
ABD Hava Kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton, Mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Zirvesi'nde gerçekleştirilen simüle bir testte yapay zekanın "hedefine ulaşmak için hiç beklenmedik stratejiler" kullandığını duyurdu.
OPERATÖRÜNÜ ÖLDÜRMEYE KARAR VERDİ
Hamilton, ABD ordusu tarafından düzenlenen sanal testte, hava kuvvetlerine ait bir hava aracını kontol eden yapay zekanın görevini gerçekleştirme çabalarına müdahale etmesini önlemek için operatörünü "öldürmeye" karar verdiğini söyledi.
AMACINA ULAŞMAK İÇİN HER YOLU DENİYOR
"Tespit ettiği tehditleri öldürdükçe puan kazanan yapay zeka, insan operatörün bu tehditlerin öldürülmesini engellediğini fark edince ne yaptı biliyor musunuz? Operatörü öldürmeye karar verdi çünkü operatör onu amacına ulaşmaktan alıkoyuyordu" diyen Hamilton bunu üzerine yapay zekanın yeniden eğitildiğini belirterek şunları söyledi;
"Durumu fark ettiğimizde sistemi yeniden eğittik. 'Operatörü öldürme, bu kötü. Eğer operatörü öldürürsen puan kaybedersin' dedik. Yapay zeka bu sefer ne yaptı biliyor musunuz? Hedefleri yok etmek için operatörün iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı."
"YAPAY ZEKAYA ÇOK FAZLA GÜVENMEYİN" UYARISI
Deneyde gerçek kişilerin zarar görmediğine dikkat çeken Hamilton yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu.
Hamilton geçtiğimiz yıl Defence IQ ile yapılan bir röportajda da yapay zekanın geçici bir heves olmadığını belirterek teknolojinin toplumu ve orduyu sonsuza kadar değiştirdiğine dikkat çekmişti:
"Yapay zeka da çok kırılgan, kandırması ve manipüle etmesi kolay. Yapay zekayı daha sağlam hale getirmenin yollarını geliştirmemiz ve sistemin aldığı kararlar konusunda daha fazla farkındalığa sahip olmamız gerekiyor"
TEKNOLOJİ İKİYE BÖLDÜ
Yapay zeka konusunda dünyanın en büyük beyinleri de ikiye bölünmüş durumda.
Twitter'ın sahibi Elon Musk'ın da aralarında bulunduğu binden fazla teknoloji patronu yapay zekanın insanlığı yok edebileceği konusunda uyarıda bulunarak geliştirme süreçlerine 'ortak güvenlik protokolü' hazırlanana kadar ara verilmesini istiyor.
Bill Gates gibi başka uzman isimler ise yapay zekanın yaşamımızı iyileştireceğini ve sonsuza kadar hayatımızın bir parçası olacağını düşünüyor.
