Yapay zekanın etik standartlara kavuşması gerektiği tüm biliminsanlarının ortak görüşü. Farklı ırklardan vatandaşları bulunan ABD’de, başta makine öğrenmesi yöntemini kullanarak bazı güvenlik, hukuki ve bürokratik işlemlerin yerine getirilmesi, ülkede sıkça bu etik tartışmalarının yaşanmasına neden oluyor.
Geliştirilen algoritmalar, ırkçılığı daha da körüklediği eleştirilerinin merkezinde yer alıyor. Amazon’un en az yüzde 80 doğruluk payı verdiği yüz tanıma uygulaması Rekognition API, geçtiğimiz haftalarda 28 ABD senatörü suçlu olarak teşhis ederek büyük bir skandala imza atmıştı.
Teknolojinin bazı hukuksal kullanım alanlarındaki ırkçılık eleştirilerinin dozu giderek artarken, son olarak 11 Eylül saldırılarının ardından havayolu güvenliğini sağlamak için kurulan ABD Ulaşım Güvenliği İdaresi’nin (TSA) iç hatlarda uçan yolcuları bir program dahilinde izlediği ortaya çıktı. ABD’deki Boston Globe gazetesinin ortaya çıkardığı Quiet Skies (Sakin Gökyüzü) isimli programda, bir algoritma “suç kaydı bulunmayan” insanları izliyor. TSA, bunun ırkçı bir amaçla değil, pratik güvenlik nedenlerinden dolayı yapıldığı savunmasını yapıyor.
‘AMAÇ TERÖRÜ ÖNLEMEK’
TSA olayın ABD medyasında yer bulmasının ardından bu algoritmayla ilgili, “Yasal, özel ve medeni hukuk kanunları ve özgürlükler çerçevesindeki değerlendirmelerin ardından 30 bin metrede oluşabilecek bir terör eyleminin engellenmesi amacı taşıyor” açıklamasını yaptı. Gazeteye göre 2010’dan bu yana uygulanan bu program, “bazen” aralarında ABD’lilerin de bulunduğu yolcuları, “terör veya şüpheli” veri tabanına almıyor. Ancak şimdiye kadar bu izleme sayesinde TSA’nın listesine giren 50’ye yakın kişi, durumdan haberdar edilmemiş.
ABD’deki medya kaynaklarına göre TSA, programın ırk ve din gibi farklılıklardan yola çıkarak veya sıradan ABD’lileri izlemek amacıyla yürürlüğe koyulmadığını belirterek, şimdiye kadar yolculukları sırasında izlenerek tutuklananlar arasında bir iş kadını, bir havayolu çalışanı ve bir güvenlik görevlisinin de bulunduğu notunu paylaşıyor. Peki TSA’nın kullandığı algoritma bir yolcuda nelere dikkat ederek yolcuların potansiyel suçlu olabileceği kanısına varıyor? Boston Globe bu davranışları şöyle açıklamış: kıpır kıpır yerinde duramama, aşırı terleme, soğuk ve donuk bakışlar, geniş açılmış gözler, yüze sıkça dokunma, uçakta uyuma süresi ve akıllı telefon kullanma.
