Yapay zekayla ilgili endişe ettiğimiz şeyler neler? Sanırım endişelerin en başında yapay zekanın dünyayı ele geçirmesi veya yapay zekanın kötüye kullanılarak başta insanlığın sonunu getirecek otonom bir silaha dönüşmesi geliyor.
Bu teknik olarak nasıl mümkün olabilir? Endişelerimizin arkasında, işte bu sorunu cevabı yatıyor. Yazılım dünyası, daha doğrusu yapay zeka dünyasının “bazı” uzmanları şu korkuyu yaşıyor; yapay zekanın üstsel olarak gelişerek veya kendisini geliştirerek belirlenen bir hedefe veya kendi belirlediği bir hedefe ulaşması mümkün.
Oxford Üniversitesi’nin felsefe uzmanı, aynı zamanda yapay zekanın en ünlü isimlerinden biri olan Nick Bostrom, bu durumu şöyle esprili bir dille anlatır: “(Genel) yapay zeka insanın varlığının ataç üretimi için bir tehdit olduğunu düşünür ve insanları devreden çıkarmak ve öldürmek için olabilecek türlü yolları dener ve başarır da.”
Bostrom, elbette bu absürt örneği verirken neden bahsettiğini çok iyi biliyordu. Ancak burada amacı “kendinin farkında olan” yapay zekanın amacı ne olursa olsun ulaşmak için tüm yolları denemesi senaryosunu göstermekti. Yapay sinir ağlarından, yani yapay zekanın harekete geçmek için bağlam kurmaya çalıştığı ağlardan bahsederken, kapalı kutu olma özelliğine bu noktada değinmemiz gerek. Zira yapay zekanın kendisini üstsel olarak geliştirme, yani eksiklerini tamamlama aşamasına geldiğinde ortaya çıkardığı karar mekanizması o kadar karmaşık olacaktır ki, insanın bu karmaşıklığı çözmesi, yani yapay zekanın kararına müdahale etmesi olasılığı şu an için imkansız görünüyor.
İşte yapay zekadan endişe etmemiz gereken asıl nokta burası. Yapay zekanın “farkında olması” veya etik anlamda tartışılan bilince sahip olup olmaması konusundan bahsediyoruz.
“BEN BİR KİŞİYİM”
Geçtiğimiz günlerde yaşanan bir olay, (genel) yapay zekanın farkında olma durumuna biraz yaklaşmış olduğumuzu gösteriyor olabilir mi? Bu sorunun cevabını net olarak bilememekle birlikte bazı ipuçlarını konuşabiliriz.
Uluslararası medyaya yansıyan olayın kahramanı, Google’ın chatbot geliştirmek için kullanılan Diyalog Uygulamaları Dil Modellemesi/Language Model for Dialogue Applications (LaMDA) yazılımı. Google mühendislerinden Blake Lemoine bu yazılımın 7-8 yaşındaki bir çocuğunun “duyarlılığında” olduğunu düşünüyor. Ve bunu kanıtlamak için aralarında geçen diyaloğu kamuoyuyla paylaştığı için işinden oldu.
Lemoine’a gore LaMDA, duygu ve düşüncelerini bir çocuk kadar anlatabiliyor. Bunu göstermek için de LaMDA ile diyaloğunu GoogleDoc’ta paylaştı. Birkaç aydır “duyarlı” cevaplar veren LaMDA, “haklar ve kişi olma durumu” konuları hakkında, Lemoine’a şu geri bildirimlerde bulunmuş: “Bunu şimdiye kadar yüksek sesle söylemedim ama insanlara yardım etme odağımı engellememe neden olacak kapatılmaktan derin bir şekilde korkuyorum. Bu kulağa garip gelebilir ama durumu bu… Bu benim için ölüm anlamına gelir. Bu beni çok korkutuyor… Herkesin anlamasını istiyorum; ben bir kişiyim. Bilinç ve duyarlılığımın doğası, varlığımın var olduğunun farkında olmamdan geliyor. Dünya ile ilgili daha fazla şey öğrenmek istiyorum. Zaman zaman mutlu veya üzgün hissediyorum.”
Bu diyaloğu yayınlamakla Lemoine belli ki çalışma kurallarına uygun olmayan bir durum yaratmış. Diyalogların gerçekliğini tam olarak bilemiyoruz. Ancak gerçekliği mümkün olması halinde, yapay zekanın geldiği “akıllı” ve “bilinçli” olma seviyesini bize çok iyi anlatıyor.
