Biliminsanlarının yapay zekanın insan hayatını kolaylaştırıcı yanlarının yanısıra, “ayrımcı” yanlarının da olabileceğini göstermek üzere bazı çalışmalar yapması, yapay zeka teknolojileri geliştirilirken gereken “etik” ihtiyacının bir an önce sağlanmasına çağrı niteliğinde. Yapay zekayı bir psikopata dönüştürebileceğiniz gibi, ırkçı ve cinsiyet ayrımcısı da yapabilirsiniz. MIT Media Lab’daki yapay zeka uzmanlarının söylediği gibi, bu sadece algoritmayı hangi veriyle beslediğinizle ilgili. Norman’a benzer bir örnek başka bir Türk bilimadamı, Boston Üniversitesi Elektrik ve Bilgisayar Mühendisliği yüksek lisans öğrencisi Tolga Bölükbaşı‘nın da yer aldığı bir ekip çalışmasında, algoritmanın nasıl cinsiyet ayrımcısı olabileceği üzerine gerçekleştirilmiş.
Bir yazılım, Google’ın haberler bölümünden alınan haber bültenleriyle makine öğrenmesi yöntemiyle eğitilmiş. Eğitimden geçen yazılım bir süre sonra “erkeğin bilgisayar programcısı, kadınınsa ev işlerini yöneten kişi” olduğu çıkarımını yapmış. Bölükbaşı, “öğrenen yazılımların” kısa dönemli etkilerini ölçmenin zor olduğunu ve taraflı yazılımların kontrol altına alınmaması halinde ileride çok fazla olumsuz etkisinin görüleceğini belirtiyor. Bölükbaşı, en geniş online platform olan Google’ın bile cinsiyet ayrımcılığı yapabildiğine vurgu yapıyor. “Doktor” ve “o“kelimelerinin Türkçe’de hem kadın, hem de erkeğe ait olabileceğini hatırlatan Bölükbaşı, Google Translate’inse “O bir doktor” cümlesini, doktora erkek cinsiyeti yükleyerek İngilizce “He is a doctor” şeklinde çevirdiğine işaret ediyor.
