Genel

İşe alırken cinsiyet ayırımcısı

Yapay zekanın kurumsal yönetime dahil edilmesi, insanın karar aşamasında sadece kendi perspektifinden bakmasının önüne geçmek, böylece daha nesnel bir kararın ortaya çıkmasını sağlamak bakımından yararlı kabul ediliyor. Peki ya karar mekanizmasına tavsiyelerde bulunan yapay zeka algoritmalarının önyargıları varsa? Daha önce Google‘da yayınlanan haber metinleriyle eğitilen bir algoritmanın haber yazmaya başladığında cinsiyet ayırımcısı haline geldiğini, maskülen bir bakış açısıyla haber yazdığını paylaşmıştım. Benzeri gelişmeler bu kez dünyanın başka bir teknoloji devi olan Amazon‘da yaşandı.
Amazon’un işe alımlarda kullandığı, “bir görev için en uygun personeli seçen” algoritmasının kadınlara düşük puan verdiği ortaya çıktı. Şirketin kullandığı algoritma, adaylara bir ile beş arası puan veriyormuş. 2014’ten bu yana Amazon’un iş başvurularını inceleyen bu algoritma, söz gelimi kendisine verilen 100 özgeçmiş içinden “en iyi beşi” seçmek üzere programlanmış. Ancak şirket yetkilileri, 2015’te algoritmanın yazılım geliştirici ve diğer teknik işler için cinsiyete bakarak karar verdiğini fark etmiş. Yıllardır şirket bünyesinde çalışan erkeklerin geliştirdiği cinsiyet ayrımcısı yazılım, erkek adayları tercih eder duruma gelmiş. Özgeçmişin içinde “kadın” kelimesinin geçtiği, sözgelimi “kadın basketbol takımı”, “kadın dayanışma kulübü” gibi tamlama ve cümlelerle ilgili olumsuz yargıya varan algoritma, bununla da kalmamış sadece iki kız lisesi mezunlarınaysa düşük puan vermiş.

GÜVENİLİR Mİ?

İngiliz haber ajansı Reuters, Amazon yetkililerinin bu yazılım üzerinde çalışan ekibin geçen yıl başlarında lağvedildiğini, sorunun farkedilmesinden itibaren yapılan çalışmalar sonrasında her iki cinsiyet için de tarafsız sonuçlar çıkacağı yönünde umutların kaybedildiğini bildirdi. Amazon’da yaşanan bu insan kaynağı çalışmasını ilk kez gündeme getiren Reuters, ismi açıklanmayan yetkililerin, “bu yapay zekalı aracın sadece tavsiye edici niteliğinde kullanıldığını ve nihai kararı insanın verdiği” yönündeki paylaşımlarını da aktardı. Reuters’ın haberinde yaptığı çıkarım şu, “Amazon, yazılımın temelindeki makine öğrenmesi tekniğinin sınırlı kullanılabileceği kanısına vardı.
CareerBuilder isimli yazılım şirketinin geçen yıl yaptığı anket, ABD’deki insan kaynakları yöneticilerinin yüzde 55’inin önümüzdeki 5 yıl içinde yapay zekanın işlerinin bir parçası olacağını düşündüğünü göstermişti. Ancak Amazon’un yaşadığı deneyiminin, işe alım süreçlerini tamamen otomasyona bağlamak isteyen ve bünyelerinde binlerce kişi çalıştıran Hilton Worlwide Holdings Inc ve Goldman Sachs Group tarafından da değerlendirilmesi gündeme geldi. Anlaşılan o ki, yapay zekayı işe alım sürecinde devreye sokmak isteyen dev kurumların, karar vermeden önce yazılımın ortaya çıkardığı sonuçlar üzerinde ciddi incelemelerde bulunmaları gerekiyor.

Doç.Dr. Deniz Kılınç
Manisa Celal Bayar Üniversitesi, Yazılım Mühendisliği Bölümü Başkanı

“Hayatımızı kolaylaştırmasını beklediğimiz yapay zeka uygulamalarından birisinin bu şekilde ıskartaya alınması, araştırma alanında çalışanlar için üzücü. Ancak, ‘yanlı olmayan yapay zeka sistemlerinin oluşturulması’ üzerine daha fazla araştırma yapılacak olması, bu olayın bilimsel açıdan pozitif tarafını oluşturuyor. Son dönemde ırk, dil, din ve cinsiyet gibi yanlılık yaratabilecek bilgilerden bağımsız karar verebilen yapay zeka sistemleri oluşturabilmek için bu verilerin eğitim sürecine dahil edilmemesi konusu gündemde. Yapay zeka sistemlerinin daha dengeli veri kümeleriyle eğitilmesiyle çözümlerin standartlaştırılması tartışılmaya başlandı. Üretilecek çözümler bizlere ne kadar etkili görünürse görünsün, bu tarz yapay zeka sistemlerinin güvenilirliğini garanti altına almanın tek yolu; insan destekli, yarı otomatik yapay zeka kontrol sistemlerinin oluşturulması ve alınan yanlış kararların yeniden eğitim yoluyla düzeltilmesi olarak görülüyor.
Ayrıca insan kaynakları alanında hala birçok süreçte, yapay zeka uygulamalarının sağlayacağı potansiyel faydalar devam ediyor. Mülakatlarda görüntü ve ses işleme teknikleri kullanarak adayları teknik açıdan analiz edebilen, işe alım sürecinde sohbet robotları kullanarak binlerce adayın sorularını aynı anda ve gerçek zamanlı cevaplayabilen, çalışanların kariyer ve eğitim planlamalarını kişiye özel yapabilen yapay zeka uygulamalarına mutlaka şans vermek gerekiyor.”

Tags
Show More

suleguner

Yapay zeka ve robotik konularında uzman, İstanbul merkezli gazeteciyim. Sadece bu iki alanda yazan tek Türk gazeteci-yazarım. Aralarında Türkiye’nin en çok satan ekonomi dergisi ve bir İngilizce gazetenin de bulunduğu Türk medyasına ait yayınlara yazıyorum. Türkiye'nin kamuoyuna açık ilk yapay zeka ve robotik anketini 2018'de gerçekleştirerek, insanların bu iki kavrama nasıl baktığını inceledim. Detaylarını site de bulabileceğiniz "beyaz yakalı ve lisans-yüksek lisans üstü öğrencilerden" oluşan iki grupla yaptığımız anket sonuçlarında öne çıkan iki veriyi aktarmam gerekirse, yapay zeka öğrencileri çalışanlardan daha çok korkuyor. Beyaz yakalılar ise robotlardan gençlere göre daha az korkuyor. Türkiye genelinde yapılan ankete göre yapay zekanın hayatımıza giderek daha çok dahil olması veya robotların iş ve özel hayatımızda yer almaya başlaması genel anlamda bizi endişelendirmiyor. Ankete katılımcıların "İnsan zekası mı, yapay zeka mı?" sorusuna cevabıysa, "insan zekası" şeklinde olmuş. Kamuoyu araştırmalarıma her yıl devam ederek Türk halkının teknolojiyle olan ilişkisinin nabzını ölçmeyi amaçlıyorum. Teknolojiden korkulmaması gerektiğini, insanın yararına ve doğru bir şekilde kullanıldığında hayata önemli katkılarda bulunduğuna inanıyorum. Ayrıca teknolojiyle birlikte değişen hayatı iyi anlamamız gerektiğini, hayatımızdaki değişiklikleri iyi analiz etmemiz gerektiğini düşünüyorum. Bir gazeteci-yazar olarak teknolojinin insan hayatı için çizdiği vizyonu anlatmaya, konuşmalarımda insanları yakında nasıl bir dünyanın beklediğine ilişkin bir resim çizmeye çalışıyorum. Gazetecilik kariyerimde yönümü teknolojiye çevirmeden önce bazı Türk basın yayın kuruluşlarının yanısıra, ANSA İtalyan Haber Ajansı'nın Türkiye muhabirliği görevlerinde bulundum. Kariyerim boyunca pek çok ülkeyi gezerek sosyal ve teknoloji içerikli yazılar yazdım. Bu ülkeler içinde aklıma en çok yer eden Ekvador, Küba, Sudan ve Güney Kore oldu. İngilizcenin dışında İtalyancayı profesyonel iş yaşamımda kullanabiliyorum. Fitness ile ilgileniyorum ve bir sağlıklı yaşam bloğum var. Aynı zamanda amatör bir DJ’im.

Benzer İçerikler

Ayrıca Bakınız

Close
Close
Close