Dünyanın ilk sohbet robotunu geliştirmişti, neden yapay zekâ karşıtı oldu? 'Orada pusuda yatan kesin bir tehlike var'

Massachussetts Teknoloji Enstitüsü (MIT) profesörlerinden Joseph Weizenbaum, dünyanın ilk sohbet robotunu geliştiren kişi olarak tarihe geçti. Weizenbaum, bu yazılıma psikoterapist rolü vermişti. Bir kullanıcı, bir bilgisayarla bağlı elektrikli daktiloyla çeşitli ifadeler yazıyor "psikoterapist" de ona cevap veriyordu.

Kullanıcı: Bütün erkekler aynı.
Sohbet robotu: NE AÇIDAN?
Kullanıcı: Şu ya da bu sebepten canımızı sıkıyorlar.
Sohbet robotu: SPESİFİK BİR ÖRNEK GELİYOR MU AKLINA?
Kullanıcı: Mesela erkek arkadaşım beni buraya zorla getirdi.
Sohbet robotu: ERKEK ARKADAŞIN SENİ BURAYA GETİRDİ.
Kullanıcı: Dediğine göre ben çoğu zaman depresyondaymışım.
Sohbet robotu: DEPRESYONDA OLDUĞUNU DUYDUĞUMA ÜZÜLDÜM.

Bu diyalog Weizenbaum'un bir bilim dergisinde yayımlanan ve sohbet robotunun nasıl çalıştığını anlattığı makalesinde yer aldı. Makaleye göre, yazılım oldukça basitti. Kullanıcının girdisine bakıyor, belli kurallar çerçevesinde makul bir yanıt üretiyordu.

Weizenbaum, George Bernard Shaw'un Pygmalion isimli oyunundaki Eliza Doolittle karakterinden hareketle, sohbet robotuna Eliza adını vermişti. Oyunda fakir çiçekçi kız Eliza, dil becerisini kullanarak karşısındakileri bir düşes olduğuna inandırmayı başarıyordu. Aynı şekilde Eliza isimli yazılım da klavyenin başında oturan kişiyi anlayabildiği izlenimini yaratacak şekilde tasarlanmıştı.

Weizenbaum makalede, "Bazı denekleri Eliza'nın insan olmadığına ikna etmek çok zor oldu" ifadelerini kullanıyor, ertesi yıl yayımlanan ikinci makalede ise çok daha kesin ifadelere yer veriyordu: Bir gün, sekreteri Eliza'yla vakit geçirmek istemiş, birkaç dakika sonra da Weizenbaum'dan odayı terk etmesini talep etmişti. Weizenbaum, "Bu anekdotun, programın karşısındaki kişiyi anladığı illüzyonunun başarısını yansıttığına inanıyorum" diye yazmıştı.

Üstelik Eliza sadece bilim çevrelerinin tanıdığı bir icat da değildi. O zamanlar epey ses getirmişti. The Boston Globe gazetesi MIT'ye bir muhabir göndermiş, daha sonra da yazılımla insan arasındaki sohbeti satır satır yayımlamıştı.

Eliza bugün halen bilgisayar tarihinin en önemli gelişmelerinden biri olarak biliniyor. Geçtiğimiz yıl ChatGPT'nin kullanıcılarla buluşması Eliza'ya olan ilgiyi daha da artırdı. Pek çok gazete ve dergide Eliza hakkında yazılar çıktı.

FREUD'UN HASTALARINDA GÖRDÜĞÜ ŞEY YAŞANIYOR

Aradan neredeyse 60 yıl geçmiş olmasına rağmen Eliza'nın halen popüler olmasının sebebi teknik özellikleri değil. Zira o zamanın standartlarında bile Eliza pek gelişmiş bir yazılım sayılmazdı. Eliza'nın önemi, insan zihninin bilgisayarlarla olan ilişkilerimizi derinden etkileyen bir mekanizmasına ışık tutmasında yatıyordu.

Sigmund Freud kariyerinin başlarında hastalarının sık sık kendisine âşık olduğunu fark etmişti. Bunun sebebi Freud'un çok yakışıklı ya da etkileyici olması değildi. Freud'a göre yaşanan şeyin adı transferanstı. Transferans insanın geçmişindeki bir kişiye dair hislerini güncelde hayatında olan birine yansıtmasına deniyor. Psikanaliz süreçlerinde transferans kuvvetlense de aslında hepimizin hayatında bu durum yaşanıyor. İnsanlarla etkileşime geçtiğimizde, geçmişimizdeki hayaletleri de yanımızda getiriyoruz. Özellikle çocukluğumuzun kalıntıları, birbirimizi nasıl gördüğümüz konusunda çok belirleyici.

Bu kavram insanların Eliza ile olan ilişkilerini açıklamakta da çok etkili. Zira Weizenbaum'un makalesinde altını çizdiği ilişkilenme biçimi, aslında transferansın dijitalleşmiş versiyonundan başka bir şey değildi. Kullanıcılar anlayışlılık, empati gibi insanî özellikleri yazılıma atfediyordu. Weizenbaum, bu terimi hiç kullanmamış olsa da bahsettiği insanlaştırma mekanizması, ilerleyen yıllarda "Eliza etkisi" diye anılır oldu.

Gözden KaçmasınHollywood'da 63 yılın ardından tarih tekerrür ediyor... 1960 grevinde neler yaşanmıştı?Haberi Görüntüle

CHATGPT EN GÜÇLÜ ÖRNEĞİ

Bilgisayarların kapasiteleri arttıkça Eliza etkisi de güçlendi. Buna en iyi örnek insanların ChatGPT ile olan ilişkileri. Bu sohbet robotu bir "büyük dil modeli" üzerine kurulu. (Büyük dil modelleri bir sekansta sıradaki karakterleri, kelimeleri ya da cümleleri tahmin edecek şekilde eğitilmiş matematiksel sistemler olarak tarif ediliyor.)

ChatGPT'yi benzerlerinden ayıran şey temelindeki büyük dil modelinin karmaşıklığının yanı sıra cevaplarında kullandığı tonun ürkütücü denecek kadar insana benzemesi. Meta'da görev yapan bir veri bilimci olan Colin Fraser'ın ifadeleriyle, "Uygulama sizi kandırmak, gerçekte orada olmayan biriyle konuştuğunuzu düşündürmek için tasarlanmış".

Ancak Weizenbaum'u anmak için tek sebep Eliza etkisi değil.

YAPAY ZEKÂNIN EN BÜYÜK KARŞITI HALİNE GELDİ

Weizenbaum, 1970'lerden itibaren alanındaki çatlak seslerden birine dönüştü. Kaleme aldığı kitaplar ve makalelerle, meslektaşlarının dünya görüşlerini kınayan Weizenbaum, söz konusu çalışmaların yarattığı tehlikelerle ilgili dünyayı uyarmaya başladı. Zira yapay zekânın "dünyamızdaki deliliğin endeksi" olduğunu düşünüyordu.

Bugün yapay zekânın bir tehdit unsuru olduğu görüşü sadece bu alanda çalışan bir azınlığa mahsus değil. Hangi risklerin endişe verici olduğu konusunda ise farklı görüşler söz konusu. Ancak her ikisi de geçmişte Google'da çalışmış bilgisayar bilimciler olan Timnit Gebru ve Geoffrey Hinton gibi birçok tanınmış isim, teknolojinin zehirli olabileceği görüşünü paylaşıyor.

Bir başka deyişle teknolojiye dair karamsarlığı nedeniyle hayatının son 30 yılını meslektaşlarından kopuk geçiren Weizenbaum, 2023'te yaşasa o kadar yalnız olmazdı. Zira görüşlerinin önemli bir kısmının isabetliliği günümüzde anlaşıldı.

BİLGİSAYARLARIN İNSANLARI KÜÇÜLTTÜĞÜNÜ DÜŞÜNÜYORDU

Weizenbaum'un en temel itirazlarından biri övgülere boğulan bilgisayar devriminin aslında bir karşı devrim olduğu yönündeydi. Weizenbaum bilgisayarların baskıcı güç yapılarını tersine çevirmediğini, aksine güçlendirdiğini söylüyordu. Bilgisayarlar insanlığı büyütmüyor, aksine insanların bilgisayarlardan üstünlüklerini küçük görmelerine neden oluyordu. Weizenbaum'a göre, pek çok kararı bilgisayarlara bırakarak eşitsizliğin arttığı, akılcılığın azaldığı bir dünya yaratıyorduk ve bu dünyada insan aklının zenginliği ortadan kalkıyor ve kodun anlamsız rutinlerine dönüşüyordu.

Weizenbaum'un bu görüşleri, kendi geçmişiyle çok alakalıydı. 1923 yılında Berlin'de varlıklı ve asimile olmuş bir Yahudi ailesinin çocuğu olarak dünyaya gelen Weizenbaum, babasının "Senin gibi bir aptaldan hiçbir şey olmaz" hakaretleriyle büyüdü. 1933'te Hitler'in şansölye seçilmesi Weizenbaum'un hayatını değiştirdi. Sadece Yahudi erkek çocukların gittiği bir okula nakil olmak zorunda kaldı ve burada Doğu Avrupa kökenli Yahudi çocuklarla tanışma, arkadaşları sayesinde getto kültürüyle tanışma şansı buldu. Bir keresinde bu arkadaşlarından birini evine davet ettiğinde de babasının tepkisiyle karşılaştı.

Gözden KaçmasınTwitter'ın logosu resmen değişti! Peki neden 'X' seçildi? Her şey 1999'da Palo Alto'da bir kafede başladıHaberi Görüntüle

Aile, 1936'da Almanya'yı aniden terk ederek ABD'nin Detroit şehrine göç etti. 13 yaşındaki Weizenbaum, burada sudan çıkmış balığa döndü. Çok yalnız olduğu için derslerine gömüldü. En sevdiği ders İngilizce gerektirmediği için cebirdi. Matematiği tamamen soyut ve çok kolay bir oyun olarak görüyordu. Okulda metal işleme dersinde torna tezgâhını kullanmayı öğrenince zekânın sadece kafada değil, "elde, bilekte, kolda" da olan bir şey olduğunu anladı.

Liseden sonra hem çalışıp hem okuyan öğrencilerle dolu, kayıt ücreti düşük bir okul olan Wayne Üniversitesi'ne girdi. Berlin'de gelişmeye başlayan sosyal bilinci burada daha da güçlendi. Almanya'daki Yahudilerle Detroit'teki siyahilerin yaşadıkları arasında benzerlikler kuruyordu. O dönemde şehirdeki işçi hareketleri de güç kazanıyordu.

İKİNCİ DÜNYA SAVAŞI'NDAN SONRA OKULA GERİ DÖNDÜ

Weizenbaum, matematik okumak istiyordu ama toplum için bir şeyler yapma arzusunun matematikle uyuşmadığını düşünüyordu.

1941'de askere çağırıldı, İkinci Dünya Savaşı'nda meteorolog olarak görev yaptı. Detroit'e döndükten sonra evlendi, üniversiteyi bitirdi, baba oldu ve boşandı. Bu dönemde derin bir depresyon yaşayan Weizenbaum, yaptığı hiçbir şeyde başarı elde edemediğini, değersiz bir insan olduğunu düşünüyordu. Bu dönemde psikanalizle ve bilgisayarlarla tanıştı.

Savaş sırasında büyük bilgisayarlar inşa etmek için uygun ortam oluşmuş, bu bilgisayarların da yardımıyla Nazilerin kodları kırılmış, topları ateşleyecek en uygun açılar hesaplanmıştı. Savaş sonrasında ordu yeniden yapılanmış, Soğuk Savaş'ın ilk dönemde ABD hükümetinin parası yeni teknolojiler geliştirmeye harcanır olmuştu. 1940'ların sonlarında modern bilgisayarın temelleri atılmıştı.

Ancak bilgisayar halen kolay bulunan bir şey değildi. Weizenbaum'un üniversitedeki profesörlerinden biri kendi bilgisayarını oluşturmak için kolları sıvamış, aralarında Weizenbaum'un da bulunduğu bir grup öğrenciden yardım istemişti. Bir bilgisayar inşa etmek Weizenbaum'a aradığı mutluluğu ve amaç duygusunu sağladı. Hayat dolu ve hevesli bir insana dönüşen Weizenbaum, ortaokulda cebir dersinde tanıyıp sevdiği o soyut kavramlarla yeniden buluşmuştu.

Bilgisayarlar tıpkı cebirde olduğu gibi gerçekliği modelleyip basitleştiriyordu. Ancak bunu o kadar aslına uygun yapıyordu ki insanın önündeki şeyin bir temsil olduğunu unutuvermesi mümkündü. Yazılım da insana bir hükümranlık hissi veriyordu. Weizenbaum bunu bir tiyatro yönetmenin sahnesiyle kıyaslıyordu.

1963'TE MIT'DEN İŞ TEKLİFİ ALDI

1960'ların başında Weizenbaum Silikon Vadisi'nde General Electric için programcı olarak çalışmaya başladı. Bu süreçte ABD Donanması için füze fırlatan bir bilgisayar ve Bank of America için çekleri işleyen bir bilgisayar geliştiren Weizenbaum yıllar sonra, "O dönemde, ileride pişmanlık duyacağım belli sosyal yan etkileri olan bir teknolojik girişime destek verdiğimin farkında bile değildim" diyecekti.

1963 yılında Weizenbaum'a MIT'den misafir öğretim üyeliği teklifi geldi. Bu Weizenbaum'un ifadeleriyle "oyuncak trenlerle oynamayı çok seven bir çocuğa oyuncak fabrikasında çalışma fırsatı verilmesi" gibi bir şeydi.

Weizenbaum'un Detroit'te inşa ettiği bilgisayar bir amfinin tamamını dolduran, kullanmak için özel ritüeller isteyen bir devdi. MIT'deki bilgisayar bilimciler ise bir alternatif arıyordu.

1963 yılında Pentagon'un sağladığı 2,2 milyon dolarlık fonla MAC Projesi hayata geçirildi. MAC'in birçok açılımı vardı; onlardan biri de "makine destekli biliş"ti. Amaç bireylerin ihtiyaçlarını karşılayabilecek, erişilebilir bir bilgisayar sistemi yaratmaktı.

"ZAMAN PAYLAŞIMI" BİLGİSAYARLA OLAN İLİŞKİMİZİ DEĞİŞTİRDİ

Bunun için bugün olmazsa olmaz kabul ettiğimiz "zaman paylaşımı" sistemi mükemmelleştirildi. Eski bilgisayarlarda olduğu gibi delikli kartları makineye yükleyip sonucu ertesi gün almak yerine komutu verdiğiniz anda cevap aldığınız bir yapı oluşturuldu. Üstelik bireysel terminaller sayesinde birçok insan tek bir ana bilgisayarı kullanabilecekti. Bu da makinelerin daha bireysel hissettirmesini sağladı.

Zaman paylaşımı sayesinde yeni bir yazılım türü ortaya çıktı. İnsanların program yazma biçimleri değişti. Weizenbaum ileride bunu "insanların bilgisayarla diyalog içinde etkileşim kurması" olarak tarif edecekti. Yazılım geliştirme süreci programcıyla bilgisayar arasında bir diyaloğa dönüşmüştü. Bir parça kod yazıp gelen karşılığa göre bir parça daha yazıyordunuz.

Ama Weizenbaum bunu bir adım daha ileri taşımak ve bilgisayarla İngilizce gibi doğal bir dille diyalog kurmak istiyordu. Eliza tam da bu fikirden doğdu ve elde ettiği başarı sayesinde Weizenbaum, 1967'de MIT'nin kadrosuna kalıcı olarak dahil oldu. Bu sayede John McCarthy ve Marvin Minsky'nin 1958'de hayata geçirdiği MIT Yapay Zekâ Projesi'ni de yakından inceleme fırsatı buldu.

"Yapay zekâ" terimini birkaç yıl evvel bir akademik atölyeye isim arayan McCarthy uydurmuştu. Bu isim sayesinde yapay zekâ araştırmalarının sibernetik gibi benzer alanlardan ayrışması sağlanıyordu.

Minsky ise provokasyonu seven bir insandı. İnsan beyninin, fonksiyonları insan yapısı makineler tarafından yeniden üretilebilecek hatta geride bırakılabilecek bir "etten makine" olduğunu söylüyordu. Bu tür görüşler Weizenbaum'u rahatsız ediyordu.

Weizenbaum, 1967'de kaleme aldığı ikinci makalede hiçbir bilgisayarın bir insanı tamamen anlayamayacağını, hatta hiçbir insanın da başka bir insanı tamamen anlayamayacağını öne sürdü. Yetiştirilme biçimlerimiz ve deneyimlerimizdeki farklılıkların birbirimizi anlama kapasitemizi kısıtladığını savunuyordu. Aynı kelimeyi farklı kişiler farklı şekillerde anlamlandırabildiğinden bazı şeylerin iletişimi imkânsızdı. Psikanalizin etkilerini taşıyan bu bakış açısı Minsky ya da McCarthy'nin görüşlerinden çok farklıydı.

"ORADA PUSUDA YATAN KESİN BİR TEHLİKE VAR"

Ne var ki Eliza sayesinde insanlarda "Bilgisayar beni tanıyor" hissi yaratmanın çok kolay olduğu anlaşılmış oldu. Weizenbaum, 1966'daki makalesinde bu hissiyatın yaratabileceği olumsuz sonuçlardan bahsediyor, insanların bilgisayarları "kredibiliteyi hak eden yargı gücüne sahip" şeyler olarak görebileceğini belirtiyor ve ekliyordu: "Orada pusuda yatan kesin bir tehlike var."

O noktada Weizenbaum tehlikeyi dile getirmekten fazlasını yapmamıştı ancak Vietnam Savaşı sayesinde atması gereken bir sonraki adımın ne olduğunu idrak edecekti.

Mart 1969'da MIT'de savaş karşıtı eylemler düzenleniyordu. Bir aktivistin aktardığına göre, bilim insanları büyük bir kötülüğün parçası olduklarını hissediyorlardı ve 4 Mart'taki büyük protesto bunun itici gücü olmuştu.

Weizenbaum, dönemin siyasi atmosferinden çok etkilendi. Daha sonra bir röportajda açıklayacağı üzere, vatandaşlık hakları hareketi, Vietnam'daki savaş ve MIT'nin silah geliştirmedeki rolünün bir araya gelmesi, Weizenbaum'un eleştirel tutumunu kuvvetlendirdi. Nazi rejimine hizmet eden Alman bilim insanlarını düşünüyor ve "Ben de böyle bir rol oynamak istiyor muyum?" diye kendi kendini sorguluyordu. Ya bu düşünceleri tamamen bir kenara bırakacak ya da bu konuda ciddi bir şeyler yapacaktı.

NAZİ ALMANYA'SINDA YAŞANANLARI AKLINDAN ÇIKARAMIYORDU

İkinci seçenek, bilgisayar bilimiyle savaş arasındaki bağa daha yakından bakmayı gerektiriyordu.

Örneğin ABD Savunma Bakanı Robert McNamara, Vietnam'a atılan napalm bombalarıyla ilgili açıklamasında bilgisayarların rolünü övmüştü. Bakan'a göre, sahadan toplanan veriler Pentagon'daki yazılımlarla analiz edilmiş ve askerlerin konumları ile bombaların hedefleri isabetli bir biçimde belirlenmişti.

1969 itibarıyla Pentagon'dan en fazla ödenek alan Amerikan üniversitesi MIT'ydi. Buradaki laboratuvarlarda geliştirilen birçok proje Vietnam'da kullanıma yönelikti. Weizenbaum'un Eliza'sını geliştirdiği MAC Projesi de ilk günden beri Pentagon tarafından finanse ediliyordu.

Weizenbaum bu karmaşık duruma kafa yorarken meslektaşlarının çoğunun, araştırmalarının hangi amaçlarla kullanıldığını dert etmediklerini fark etti. "Biz yapmasak başkaları yapacak" diyor, sorumluluğun politikacılarda olduğunu söylüyorlardı. Weizenbaum, Nazi Almanya'sındaki bilim insanlarını aklından çıkaramıyordu.

Bütün bunlar Weizenbaum'un bilgisayar araştırmalarını bırakıp tüm zamanını savaş karşıtı eylemlere ayırmasıyla sonuçlandı. Bu süreçte Eliza'yla ilgili cevapsız sorular da canını iyiden iyiye sıkmaya başlamıştı. İnsanların, özellikle de uzmanların, sohbet robotuna bile isteye bu şekilde tepki vermesinin sebeplerini sorguluyordu. Bazı psikiyatristler Eliza'nın otomatik psikoterapinin ilk adımı olduğunu söylemişti. Bazı bilgisayar bilimciler uygulamanın dili anlayan bir yazılım geliştirme sorununa çözüm olduğunu öne sürmüştü. Weizenbaum için ise bu tepkiler "daha derin sorunların" belirtisiydi. Bu sorunların ne olduğunu anlamadan da işini yapmasına imkân yoktu.

HANGİ İŞLER BİLGİSAYARLARA VERİLEBİLİR?

Weizman 1976 yılında baş yapıtı olarak nitelendirilen 'Bilgisayar Gücü ve İnsan Aklı: Yargıdan Hesaplamaya' isimli kitabını yayınladı. Bilgisayarlara dair felsefi yorumlar içeren kitapta Weizenbaum, meslektaşları Minsky ve McCarthy'nin yanı sıra filozof Hannah Arendt ve deneysel oyunlarıyla tanınan yazar Eugene Ionesco'ya da hitap ediyordu.

Kitabın iki temel argümanı bulunuyordu. Birincisi insan ile makine arasında bir fark vardı. İkincisi de yapıp yapamayacaklarından bağımsız, bazı görevlerin bilgisayarlara verilmemesi gerekiyordu. Kİtabın başlığındaki "yargıdan hesaplamaya" ifadesi bu iki argümanı birbirine bağlıyordu.

Weizenbaum'a göre yargı denen şey, edindiğimiz değerlerin belirlediği bir seçimdi ve niceldi. Yani bir kodun parçası olamazdı. Hesaplama ise niteldi. Bilgisayarlar sadece hesaplama yapma becerisine sahipti, bir yargıya varamazdı. Çünkü bilgisayarlar insan değildi ve değer oluşturacak bir temelleri yoktu.

Bilgisayarları sadece hesaplama işlerinde kullandığımız takdirde bir sorun çıkmayabilirdi ama Weizenbaum "yapay entelijansiya" dediği kitlenin ideolojik kampanyası nedeniyle insanların ve bilgisayarların birbirinin yerini alabileceği algısının güçlendiğini belirtiyordu.

Bu durum yıkıcı sonuçlara neden olabilirdi. Yönetici konumundaki kişiler, kararları bilgisayarlara aldırıp sorumluluktan kurtulabilirdi. Vietnam'da generaller ve yöneticiler köylerin bombalanmasının sorumluluğunu yazılıma bırakmış ve yaşananların yarattığı acıdan psikolojik olarak uzaklaşmayı başarmıştı.

YAPAY ZEKÂ HEYECANI YAPAY ZEKÂ KIŞINA DÖNÜŞTÜ

Bilgisayarların devlet kurumlarında hızla yaygınlaştığı ve politize olduğu bir dönemde yayımlanan 'Bilgisayar Gücü ve İnsan Aklı: Yargıdan Hesaplamaya' yapay entelijansiyaya ağır bir darbe oldu ve sert tepkilere yol açtı. Yapay zekâ yanlısı bilim insanları yazdıkları makalelerle Weizenbaum'u eleştiriyor, o da bu eleştirilere yeni makaleler yazarak cevap veriyordu.

1977'nin ilkbaharında konu The New York Times'ın birinci sayfasına taşındı. Lee Dembart imzalı haberde, "Makineler düşünebilir mi? Düşünmeliler mi? Bilgisayar dünyası bu sorulara ilişkin temel bir anlaşmazlığın tam ortasında" ifadeleri yer alıyordu.

Weizenbaum sektörün içinden geldiğinden kitabı da büyük ses getirdi ancak yapay zekânın o dönemdeki tek sorunu bu değildi. 70'lerin ortalarında harcanan paralara karşın istenen sonuçların alınamaması, hükümette bir hayal kırıklığına ve bütçe kesintilerine neden olmuştu. "Yapay zekâ kışı" olarak adlandırılan bu durum Weizenbaum'a verilen tepkileri daha da yoğunlaştırıyordu.

Sonuçta Weizenbaum ülke genelinde tanınan bir insan haline geldi. Artık gazeteciler yapay zekâyla ilgili yoruma ihtiyaç duyduklarında doğrudan onun kapısını çalıyordu. The Boston Globe, bir haberde Weizenbaum'u "MIT laboratuvarlarının yerli karamsarı" olarak nitelendirmişti.

Weizenbaum, 1988'de MIT'den emekli oldu, 1996'da da doğum yeri olan Berlin'e yerleşti. ABD'de azalan ünü Almanya'da arttı. Sık sık konferanslara katılıyor, konuşmalar yapıyordu.

Geleceğe dair ümitsizliği devam eden Weizenbaum, hayatının son dönemlerinde iklim değişikliği nedeniyle kaygılanmaya başladı. Ocak 2008'de Süddeutsche Zeitung'da yayımlanan makalesinde Dünya'yı iklim krizinden kurtaracak olan şeyin bilim ve teknoloji değil, küresel kapitalizme karşı direniş olduğunu savunuyordu.

Bu makaleden 2 ay sonra 5 Mart'ta hayata gözlerini yuman Weizenbaum'un yaşı 85, ölüm nedeni ise mide kanseriydi.

BUGÜN HAYATTA OLSA YAPAY ZEKÂ ÇILGINLIĞINA NE DERDİ?

Weizenbaum'un hayatını kaybettiği dönemde, yapay zekâ fiyaskoyla eş anlamlı hale gelmişti. Konuşmayı yazıya çevirmek ya da bir dili bir başkasına tercüme etmek gibi zekâyla ilişkilendirilen işleri bilgisayarlara yaptırmanın düşünüldüğü kolay olmadığı anlaşılmıştı.

Bugün durum çok farklı. Bu görevlerin hepsini kolayca yapabilen yazılımlara sahibiz. Weizenbaum'un ölümünden sonra yaşanan ikinci yapay zekâ patlamasının temelini bunlar oluşturuyor. Son örnek ise ChatGPT gibi yaratıcı yapay zekâlar.

Teknik anlamda bu yapay zekâ, Weizenbaum'un eleştirdiği teknolojilere pek benzemiyor çünkü günümüzdeki yazılımlar insan beyninden esinlenerek oluşturulmuş veri işleme mimarileri olan nöral ağlar sayesinde çalışıyor. Nöral ağlar 'Bilgisayar Gücü ve İnsan Aklı: Yargıdan Hesaplamaya' kitabı yayımlandığında popülerliğini çoktan yitirmişti ve ancak Weizenbaum'un ölümünden birkaç yıl sonra yeniden denendi.

Ancak Weizenbaum'un yapay zekâ ideolojisi dediği, bilgisayarın her şeyi insandan daha iyi yapabileceği inancı bugün de geçerli, hatta 1970'lerdekine kıyasla çok daha güçlü. Dahası Weizenbaum'un kâbuslarının bir kısmı da gerçek oldu. Örneğin ABD'de yargıçlar hüküm verirken risk ölçüm yazılımlarından faydalanmaya başladı. Sohbet robotlarını terapist olarak kullananların sayısı günden güne artıyor. Bu yıl başlarında Belçika'da bir adam haftalar boyunca Eliza isimli bir avatarla konuştuktan sonra kendini öldürdü. La Libre gazetesinde yayımlanan sohbet geçmişinde, yazılımın iki çocuk babası adamı buna teşvik ettiği görülebiliyordu.

Gözden Kaçmasınİcadı hepimizin hayatının bir parçası ama birçoğumuz onun adını bile bilmiyoruz... Klimanın mucidini tanıyor musunuz?Haberi Görüntüle

SKYNET TEHLİKESİ GERÇEK OLABİLİR Mİ?

Diğer yandan Weizenbaum, yapay zekânın yıkıcı etkilerinin çok geniş bir kitlenin kaygı odağı haline geldiğini görse memnun olurdu muhtemelen. Günümüzde sadece politika yapıcılar değil yapay zekâ geliştiriciler de "sorumluluk sahibi" yapay zekâ için girişimlerde bulunuyor.

Bu konuda iki bakış açısı var. Weizenbaum etkisindeki ilk grup şu an var olan risklere odaklanıyor ve ChatGPT gibi büyük dil modellerinin, internetten beslendiği için ırkçılık, cinsiyetçilik gibi bakış açılarını yansıttığını vurguluyor.

İkinci gruptakiler ise daha spekülatif bir bakış açısına sahip. Yapay zekânın "süper zeki" bir hale gelmesi ve Terminator filmlerindeki Skynet örneğinde olduğu üzere, insanlık için bir varoluşsal tehdide dönüşmesi bu grubun en büyük kaygısı. Bu bakış açısını Elon Musk gibi pek çok teknoloji zengini de destekliyor. Bu alanda çalışan düşünce kuruluşlarına ve akademisyenlere, teknoloji zenginlerinden finansman yağıyor.

Diğer yandan ilk grup ikinci grubu da eleştiriyor ve uzak bir geleceğe odaklanmanın halihazırdaki problemleri görünmez kıldığını ve statükoyu koruduğunu belirtiyor.

Weizenbaum'un bu eleştiriye katılması muhtemeldi ancak ikinci grupla örtüştüğü noktalar da mevcuttu. Zira Weizenbaum'a göre yapay zekâ, "süper zeki" olmasa bile insana yabancı bir varlıktı. İnsanla yapay zekâ arasındaki mesafeyi kapatmanın, ikinci gruptakilerin ümit ettiği üzere "yapay zekâ uyumlanmasını" hayata geçirmenin bir yolu yoktu.

Bununla birlikte Weizenbaum, günün birinde bir bilgisayarda zekâ gelişmesi ihtimalini de hiç yadsımıyordu. Ancak 1991'de Daniel Crevier'a dediği üzere bu zekâ, insana kıyasla yunus zekâsı gibi olacaktı.

Bu da şu demek: Gelecekte yapay zekâ ile birbirimizi tamamen anlayamasak da diğer akıllı hayvanlarla kurduğumuza benzer ilişkiler kurabiliriz. Yunusların yargıç ya da terapist olarak başarılı olması mümkün değil ama arkadaşlıkları çok ilginç ve keyifli. Yapay zekâyla da bu şekilde arkadaş olmak mümkün olabilir.

The Guardian'ın "‘A certain danger lurks there’: how the inventor of the first chatbot turned against AI" başlıklı haberinden derlenmiştir.