Genel

İşe alırken cinsiyet ayırımcısı

Yapay zekanın kurumsal yönetime dahil edilmesi, insanın karar aşamasında sadece kendi perspektifinden bakmasının önüne geçmek, böylece daha nesnel bir kararın ortaya çıkmasını sağlamak bakımından yararlı kabul ediliyor. Peki ya karar mekanizmasına tavsiyelerde bulunan yapay zeka algoritmalarının önyargıları varsa? Daha önce Google‘da yayınlanan haber metinleriyle eğitilen bir algoritmanın haber yazmaya başladığında cinsiyet ayırımcısı haline geldiğini, maskülen bir bakış açısıyla haber yazdığını paylaşmıştım. Benzeri gelişmeler bu kez dünyanın başka bir teknoloji devi olan Amazon‘da yaşandı.
Amazon’un işe alımlarda kullandığı, “bir görev için en uygun personeli seçen” algoritmasının kadınlara düşük puan verdiği ortaya çıktı. Şirketin kullandığı algoritma, adaylara bir ile beş arası puan veriyormuş. 2014’ten bu yana Amazon’un iş başvurularını inceleyen bu algoritma, söz gelimi kendisine verilen 100 özgeçmiş içinden “en iyi beşi” seçmek üzere programlanmış. Ancak şirket yetkilileri, 2015’te algoritmanın yazılım geliştirici ve diğer teknik işler için cinsiyete bakarak karar verdiğini fark etmiş. Yıllardır şirket bünyesinde çalışan erkeklerin geliştirdiği cinsiyet ayrımcısı yazılım, erkek adayları tercih eder duruma gelmiş. Özgeçmişin içinde “kadın” kelimesinin geçtiği, sözgelimi “kadın basketbol takımı”, “kadın dayanışma kulübü” gibi tamlama ve cümlelerle ilgili olumsuz yargıya varan algoritma, bununla da kalmamış sadece iki kız lisesi mezunlarınaysa düşük puan vermiş.

GÜVENİLİR Mİ?

İngiliz haber ajansı Reuters, Amazon yetkililerinin bu yazılım üzerinde çalışan ekibin geçen yıl başlarında lağvedildiğini, sorunun farkedilmesinden itibaren yapılan çalışmalar sonrasında her iki cinsiyet için de tarafsız sonuçlar çıkacağı yönünde umutların kaybedildiğini bildirdi. Amazon’da yaşanan bu insan kaynağı çalışmasını ilk kez gündeme getiren Reuters, ismi açıklanmayan yetkililerin, “bu yapay zekalı aracın sadece tavsiye edici niteliğinde kullanıldığını ve nihai kararı insanın verdiği” yönündeki paylaşımlarını da aktardı. Reuters’ın haberinde yaptığı çıkarım şu, “Amazon, yazılımın temelindeki makine öğrenmesi tekniğinin sınırlı kullanılabileceği kanısına vardı.
CareerBuilder isimli yazılım şirketinin geçen yıl yaptığı anket, ABD’deki insan kaynakları yöneticilerinin yüzde 55’inin önümüzdeki 5 yıl içinde yapay zekanın işlerinin bir parçası olacağını düşündüğünü göstermişti. Ancak Amazon’un yaşadığı deneyiminin, işe alım süreçlerini tamamen otomasyona bağlamak isteyen ve bünyelerinde binlerce kişi çalıştıran Hilton Worlwide Holdings Inc ve Goldman Sachs Group tarafından da değerlendirilmesi gündeme geldi. Anlaşılan o ki, yapay zekayı işe alım sürecinde devreye sokmak isteyen dev kurumların, karar vermeden önce yazılımın ortaya çıkardığı sonuçlar üzerinde ciddi incelemelerde bulunmaları gerekiyor.

Doç.Dr. Deniz Kılınç
Manisa Celal Bayar Üniversitesi, Yazılım Mühendisliği Bölümü Başkanı

“Hayatımızı kolaylaştırmasını beklediğimiz yapay zeka uygulamalarından birisinin bu şekilde ıskartaya alınması, araştırma alanında çalışanlar için üzücü. Ancak, ‘yanlı olmayan yapay zeka sistemlerinin oluşturulması’ üzerine daha fazla araştırma yapılacak olması, bu olayın bilimsel açıdan pozitif tarafını oluşturuyor. Son dönemde ırk, dil, din ve cinsiyet gibi yanlılık yaratabilecek bilgilerden bağımsız karar verebilen yapay zeka sistemleri oluşturabilmek için bu verilerin eğitim sürecine dahil edilmemesi konusu gündemde. Yapay zeka sistemlerinin daha dengeli veri kümeleriyle eğitilmesiyle çözümlerin standartlaştırılması tartışılmaya başlandı. Üretilecek çözümler bizlere ne kadar etkili görünürse görünsün, bu tarz yapay zeka sistemlerinin güvenilirliğini garanti altına almanın tek yolu; insan destekli, yarı otomatik yapay zeka kontrol sistemlerinin oluşturulması ve alınan yanlış kararların yeniden eğitim yoluyla düzeltilmesi olarak görülüyor.
Ayrıca insan kaynakları alanında hala birçok süreçte, yapay zeka uygulamalarının sağlayacağı potansiyel faydalar devam ediyor. Mülakatlarda görüntü ve ses işleme teknikleri kullanarak adayları teknik açıdan analiz edebilen, işe alım sürecinde sohbet robotları kullanarak binlerce adayın sorularını aynı anda ve gerçek zamanlı cevaplayabilen, çalışanların kariyer ve eğitim planlamalarını kişiye özel yapabilen yapay zeka uygulamalarına mutlaka şans vermek gerekiyor.”

Tags
Show More

suleguner

Yapay zeka ve robotik konularında uzman, İstanbul merkezli gazeteciyim. Sadece bu iki alanda yazan tek Türk gazeteci-yazarım. Aralarında Türkiye’nin en çok satan ekonomi dergisi ve bir İngilizce gazetenin de bulunduğu Türk medyasına ait yayınlara yazıyorum. Fitness ile ilgileniyorum ve bir sağlıklı yaşam bloğum var. Aynı zamanda amatör bir DJ’im.

Benzer İçerikler

Close
Close