Geleceğimiz algoritmalara mı emanet?

Benzer enerjiler ve frekanslar ‘çekim yasası’na göre birbirlerine çekilir. Müzikteki harmonik notaların uyumu, birbiriyle anlaşan insanların beyin dalgalarının eşleşmesi gibi... Çekim yasası, bilinç düzeyinde de karşılık bulur. Olumlu düşünceler daha huzurlu bir yaşamı, negatif düşüncelerse aksilikleri hayata davet eder. Neden-sonuç ilişkisi yine kendi içinde bir çekim dengesi barındırır. Misal, derslerinde başarılı çalışkan öğrencilerin en iyi üniversitelere kabul edilmesini bekleriz. Gelgelelim işi algoritmalara bırakınca, dengenin adil bir şekilde kurulması her zaman mümkün olmayabiliyor. İngiltere’de pandemi dolayısıyla okula gidemeyen öğrencilere mezuniyet notu veren bir algoritma, eğitim sisteminde çekim yasasının beklenmedik bir şekilde işlediğini gösterdi.

Üstün yetenek yetmedi

Birleşik Krallık’ta öğrenciler Cambridge, Oxford gibi dünyaca ünlü üniversitelere kabul edilmek için canla başla hazırlanıyorlar. Kimileri son derece pahalı okullarda, elit bir düzenin içinde eğitim alıyor. Kimileriyse bizdeki gibi devlet okullarında, çalışma azimleri ve yeteneklerinden başka güvence olmaksızın mucizelere imza atıyorlar. Pandemi sürecinde okullarda sınav yapma şansı olmayınca, hükümet tarafından geliştirilen bir algoritma öğrencilere not vermek durumunda kaldı. Günün sonunda elit okullarda okuyan öğrenciler yüksek notlar alırken, devlet okullarında okuyan yüksek performanslı öğrenciler düşük notlarla karşılaştı. Üstün yetenekli öğrencilerin istedikleri üniversitelere burslu girme şansları azaldı.

Gün geçmiyor ki gezegenimizde distopik romanları andıran bir hikâye yaşanmasın... Elitlere avantaj sağlayan algoritma skandalı hafta başından beri İngiltere’nin gündeminde. Neyse ki öğrencilerin okul başarısını öğretmenleri bildiği için sistem kendiliğinden ifşa oldu. Peki ya işleyişini kimsenin bilmediği algoritmalar insanlığın kaderini ne şekilde etkileyecek? Günümüzde insan kaynakları, sağlık ve sigorta sistemleri, bankaların kredi skorları, sosyal yardım dağıtımları ve daha nicesi, algoritmalara bağlı çalışıyor. Sistemler kimin ne kadar yardım alacağını, işinde terfi edip etmeyeceğini geçmişteki verilere göre otomatik belirlemeye başlıyor. Herkese yakın bir örnek: Bankadan kredi almak istediğinizde ret veya onay cevabını veren bir bilgisayar algoritmasıdır. Yastık altında istediğiniz kadar paranız olsun, o güne kadar bankalardan hiç borç almadıysanız kredi skorunuz sıfırdır ve kredi alamazsınız. Çünkü bankanın algoritması müşteriyi değil bankayı korur. Benzeri şekilde insan kaynaklarının performans algoritması öncelikle şirketin menfaatini gözetir. Ancak öğrencilerin geleceğini tayin eden algoritmanın eğitim kurumunun çıkarlarına öncelik vermesi, bir şeylerin hayli ters gittiğini gösteriyor.

‘Bilgisayar doğru bilir!’

İngiltere’deki olay ülke çapında tepki görünce, Başbakan Boris Johnson “Hiç şüphe duymayalım, sonuçlar sağlam, gayet iyi ve işverenler tarafından güvenilebilir” diyerek karardan dönülmeyeceğini ifade etmişti. Öğrenciler sokağa döküldü, her yerde protestolar yapıldı, parlamento önünde sınav kâğıtları yakıldı ve nihayet karar değişti. Sonuç olarak öğretmenlerin tahminleri, algoritma tahminleriyle birlikte değerlendirilmeye alınacak. Hangisi yüksekse o not geçerli sayılacak. Değerlendirmeye sonunda insan faktörünün dahil edilmesi akılcı ve ‘insani’ bir çözüm.

Ancak algoritmaların kader ağlarımızı nasıl ördüğünü her zaman fark etmeyebiliriz. İnsan zihninde ilginç bir ‘bug’ var. Bilgisayarların hesaplama üstünlüğüne aldanarak, sunduğu verilerin daha doğru ve geçerli olacağını varsaymaya meyilliyiz. Hele bir de yapay zekâ işin içindeyse... Örneğin Suudi Arabistan’da bir kadının kadın haklarını savunması erkekler tarafından pek ilginç bulunmuyor olmalı. Ancak insansı robot Sophia aynı işi yaptığında fazlasıyla ilgi çekiyor ve farkındalık uyandırabiliyor. Yine algoritmaların, seçim dönemlerinde siyaseti nasıl etkileyebildiğini son ABD seçimlerinden biliyoruz. Seçmenlere sadece kendi adaylarıyla ilgili haberleri gösteren algoritmalar, balon adı verilen fanus realiteler yaratarak rakiplerin şansını kısıtlamıştı.

Kabahati yükle, kurtul!

Beğenilerimize uygun videolar sunan YouTube algoritması keyifli ve faydalı ancak, art niyetli kimseler aynı algoritmayı kandırarak çocuklarımıza sakıncalı şeyler izletebiliyor. Yeterince insan bir araya geldiğinde, trol grupları oluşturarak sosyal medyanın eksenini kaydırabiliyorsa bu yine algoritmalar sayesinde oluyor. Dahası, zamanla İngiltere örneğindeki gibi topluma karşı sorumlu kimselerde ‘kabahati algoritmaya yükleme’ refleksi gelişiyor olabilir.

Yüksek eğitim kurumlarına elit okullardan öğrenci seçilmesinin sebebini ülkedeki herkes biliyor. Elit işlere halk çocukları değil, zengin çocukları layık görülüyor. Peki ya öğrencilerin notlarını bilgisayarlar değil de kabine üyeleri atamış olsaydı, Başbakan Johnson ilk sonucu böyle kararlılıkla savunabilecek miydi? Geleceğimizi ve bugünümüzü etkileyecek kararları kimlerin aldığına önem veriyorsak, işin yalnızca bilgisayarlara bırakılmadığından emin olmalıyız.

Somalili öğrencinin notunu düşürdü
Maimuna Hassan adlı Somali asıllı bir öğrenci, algoritma şoku yaşayanlar arasında. Washington Post’un haberine göre İngiltere’ye 9 yaşında gelen parlak öğrenci, devlet lisesinde gösterdiği muazzam başarılarla Cambridge Üniversitesi ile Imperial College’dan burs teklifi aldı. Okuldayken bilgisayar bilimi dersinde en yüksek not olan A+ ve fizikten A alan Hassan’ın bu okullara girme şansı, algoritmanın notlarını A ve B’ye düşürmesi sonucu büyük oranda tehlikeye girdi.

Nasıl çalışır?

Bilgisayar programlarının ne şekilde işleyeceğini planlayan şemalara algoritma denir. Yazılım kodlarına benzer bir dille hazırlanan algoritmalar, neden-sonuç ilişkisine bağlı çalışır. Belirli koşulların oluşması halinde bir sonraki adımda ne yapılacağını ifade eder.