Google DeepMind CEO’su Demis Hassabis, yapay zeka güvenliği tartışmasını farklı bir noktaya taşıyarak, asıl sorunun “En güçlü yapay zeka sistemlerini kim test ediyor?” olduğunu söylüyor.
Nobel ödüllü bilim insanı Hassabis, ABD öncülüğünde kurulacak bağımsız bir standartlar ve denetim kurumu öneriyor. Bu kurum; en gelişmiş “frontier AI” (en gelişmiş) modellerini belirleyece; siber güvenlik, biyogüvenlik ve otonom davranış gibi yüksek risk alanlarında düzenli testler yapacak, gelecekte bu testlerden geçmeyi, modellerin kullanıma sunulmasının ön koşulu haline getirebilecek.
Neden böyle bir kurum istiyor? Şirketler kendi modellerini kendileri değerlendiriyor.Ya da hükümetlerin modelleri onaylaması gerektiği savunuluyor. Hassabis ise bu iki yaklaşımın da sorunlu olduğunu düşünüyor. Çünkü şirketlerin kendi ürünlerini denetlemesi çıkar çatışması yaratabilir. Hükümetlerin nihai karar verici olması ise yapay zekayı siyasi müdahalelere açık hâle getirebilir. Asıl mesele testlerin varlığı değil, bu testleri kimin yaptığı.
Kurulacak yapının; bağımsız uzmanlardan oluşması, açık ve şeffaf kriterlere sahip olması, siyasi etkiden uzak kalması, yalnızca gerçekten yüksek risk taşıyan frontier modellerine odaklanması gerektiği vurgulanıyor. Güvenliğin inovasyonu engellemek için değil, gücü daha adil dağıtmak için kullanılması gerektiğini savunuyor.
Havayolu şirketlerinin kendi uçaklarını tek başına sertifikalandırmasına izin verilmiyor. En güçlü yapay zeka modellerinin de yalnızca onları geliştiren şirketler tarafından değerlendirilmemesi mümkün olabilir. Bağımsız teknik denetçilerin devreye girmesi gerektebilir.
Yapay zekanın geleceğini ne yalnızca teknoloji şirketleri ne de yalnızca siyasetçiler belirlemeli. En güçlü yapay zeka sistemlerini değerlendirecek, teknik uzmanlardan oluşan bağımsız kurumlara ihtiyaç var. Hassabis’in önerisi, yapay zeka yarışını durdurmak değil; bu yarışın şeffaf, teknik ve bağımsız denetim mekanizmalarıyla ilerlemesini sağlamak.
