Bazı ülkeler ve dev şirketlerden büyük uluslararası uzlaşı: Risklerini öngöremiyorsan yapay zekanın fişi çek!

Dev teknoloji şirketlerinden biz insanoğlunun geleceği ve yapay zeka(mızın) gelişmesi için büyük büyük bir uluslararası karar: yapay zekanın riskleri garanti edilmezse “fişi çekilecek.” 

Amazon, Microsoft, OpenAI ve diğer dev teknoloji şirketleri, 28 Mayıs’ta bazı ülkelerin bakanlarının da katılımıyla düzenlenen Seul Yapay Zeka Güvenliği Zirvesi’nde yapay zeka güvenliği konusunda tarihi bir uluslararası anlaşmaya vararak yapay zeka modellerinin risklerinin sonucunu garanti edemedikleri durumda “yapay zekayı imha” seçeceğini uygulayacakları sözünü verdi.

Anlaşmaya göre; ABD, Çin, Kanada, Birleşik Krallık, Fransa, Güney Kore ve Birleşik Arap Emirlikleri gibi çeşitli ülkelerden şirketler, en gelişmiş yapay zeka modellerinin güvenli gelişimini sağlamak için gönüllü taahhütlerde bulunacak.

Bu dev şirketler, kötü niyetli aktörlerin teknolojiyi kötüye kullanmasını önlemek gibi Frontier Model’lerinin (Sınır Modelleri… Kasım 2022’den sonra gündeme gelen mevcut makine öğrenmesi modellerinden daha kabiliyetli geniş ölçekli makine öğrenmesi modelleri. Geçen yıl dev teknoloji şirketleri Frontier Model Forum isminde bir uzlaşı toplantısı düzenlemişti.) zorluklarını nasıl ölçümleyeceklerine ilişkin güvenlik önlemlerini yayınlamayı da kabul etti.

Frontier Model derken = ChatGPT gibi Üretken Yapay Zeka Modelleri kastediliyor.

Bu çerçeveler, teknoloji firmalarının sınır yapay zeka sistemleriyle ilişkili riskleri tanımlayan ve “tolere edilemez” olarak kabul edilen “kırmızı çizgiler” içerecek. Bu riskler, otomatik siber saldırılar ve biyolojik silah tehdidi gibi durumları kapsamakla birlikte bunlarla sınırlı değil.

Şirketler, kendi ülkelerinin hükümetleriyle görüşüp başka güvenilir kaynaklara (?? 🤷‍♀️) da danıştıktan sonra 2025 yılının başlarında Fransa’da düzenlenmesi planlanan Yapay Zeka Eylem Zirvesi öncesinde tüm bu süreçleri tamamlamayı taahhüt etti.

Şimdi dostlar, bu işin BM çatısı altında olmayacağı belliydi. Zira arada BM’nin misyon olarak katılamayacağı bazı süreçler var.

İki…  Bu listede hangi devlerin isimleri ve hangilerinin yok. Neden??

Üç…  Çin’in yer alması büyük bir küresel uzlaşı fırsatı. Çin BM’de farklı, bu zirvede farklı davrandı (tabi ki:).

Dört… Bu durumda bu ülkeler, modellerinin ismi gibi yapay zekanın sınırlarını çizen “otoriteler mi olcak?”

Beş… Buna ülkeler ve şirketleri arası bir pakt diyelim mi?

Tüm bunlar sorular tabi… Ancak bunun uluslararası güvenlik başta olmak üzere, uluslararası yapay zeka ekosistemi için çok önemli bir gelişme olduğunu söylemek gerek.

Bu uzlaşı ne anlama geliyor? Artık korkmayalım mı? 

Bu uluslararası hukuk bakımından dev şirket ve ülkeleri bağlayıcı kılmayacak.

Ancak deepfake vs gibi yanlış bilgi saçan ve büyük riskleri olan uygulamaların önüne geçilebilecek mi mesela? 

En kısa zamanda??

Bakacağız… 

Son olarak; Turing testini artık unutmamız gerektiği söyleniyordu ama anlaşılan istendiğinde hatırlayabiliyoruz. 😬