Genel

Yapay zeka insan yerine pazarlık yapsın mı?

Anthropic, kullanıcıları adına pazarlık yapacak yapay zeka ajanları için hukukçulara danışıyor.

Yapay zeka şirketi Anthropic, kullanıcılar adına fiyat pazarlığı yapabilecek, müşteri şikayetlerini sonuçlandırabilecek ve iş teklifleri üzerinde müzakere yürütebilecek ajanların nasıl hareket etmesi gerektiğini araştırıyor. Çalışmalar, bu sistemlerin yetki sınırları, sözleşmelerde sorumluluk ve kullanıcıların çıkarlarının korunması gibi konuları gündeme getiriyor.

Financial Times’ın haberine göre çalışma, ajanların ürün fiyatları üzerinde pazarlık yapması, müşteri hizmetleriyle yaşanan anlaşmazlıkları çözmesi ve gelecekte iş veya maaş tekliflerini değerlendirmesi gibi olası kullanım alanlarını kapsıyor. Ancak henüz kamuya sunulmuş bir pazarlık ürünü duyurulmuş değil.

Bu sistemlerin önündeki temel sorunlardan biri, kullanıcının ne istediğini doğru anlamak. Örneğin bir aboneliğini iptal etmek isteyen tüketici adına hareket eden yapay zeka ajanı, para iadesi almaya çalışırken aboneliğin bir yıl daha uzatılmasını kabul edebilir. Benzer şekilde, daha yüksek tutarlı bir hesap kredisi sunulan kullanıcı, aslında nakit iadesini tercih ediyor olabilir.

Anthropic’in Project Swap adlı araştırması, yapay zeka ajanlarının kullanıcı tercihlerini ne ölçüde anlayabildiğini inceledi. Şirket çalışanlarının katıldığı deneyde Claude tabanlı ajanlar, 201 çalışanın kitap tercihleri hakkında yaptıkları kısa görüşmelerin ardından kitap takasları için pazarlık yürüttü. Araştırmada ajanlar, katılımcıların iki kitap arasından hangisini tercih edeceğini yüzde 61 doğrulukla tahmin etti. Rastgele tahminde beklenen oran ise yüzde 50’ydi.

Bulgular, bir ajanın pazarlığı başarıyla yürütmesinin, kullanıcı için en iyi sonucu elde ettiği anlamına gelmediğini gösterdi. Kullanıcının tercihleri eksik anlaşıldığında ajan, teknik olarak avantajlı görünen ancak kullanıcının gerçekte daha az değer verdiği bir anlaşmaya ulaşabiliyor.

GÜÇLÜ MODELLER AVANTAJ SAĞLAYABİLİR

Araştırma, kullanılan yapay zeka modelinin yeteneklerinin de sonuçları etkileyebileceğine işaret etti. Project Swap deneyinde daha sert ve çıkar odaklı davranması istenen ajanlar, işbirliğine yönelik talimat alan ajanlardan bir miktar daha iyi sonuçlar elde etti. Bununla birlikte, modelin kapasitesinin sonuçlar üzerindeki etkisi pazarlık tarzından daha belirgin oldu.

Bu durum, daha gelişmiş yapay zeka modellerine erişebilen kişi ve şirketlerin ticari anlaşmalarda veya iş tekliflerinde avantaj kazanabileceği ihtimalini gündeme getiriyor. Ancak söz konusu deney, doğrudan iş görüşmelerini ya da ticari pazarlıkları test etmediği için bu sonuçların gerçek hayattaki etkisi henüz kesinleşmiş değil.

Öte yandan, uygun maliyetli ajanlar pazarlık deneyimi veya zamanı olmayan kişilerin de daha iyi koşullar elde etmesine yardımcı olabilir. Bu nedenle otomatik pazarlığın mevcut eşitsizlikleri azaltıp azaltmayacağı, gelişmiş modellere erişimin ne kadar yaygın olacağına ve ajanların birbirleriyle nasıl rekabet edeceğine bağlı olacak.

Yetki sınırları ve sözleşme sorumluluğu gündemde

Yapay zeka ajanlarının yalnızca kullanıcının tercihlerini anlaması yeterli olmayacak. Hangi koşullarda teklif sunabilecekleri, hangi anlaşmaları kendi başlarına kabul edebilecekleri ve hangi durumlarda kullanıcı onayı almaları gerektiği de açıkça belirlenmeli. Örneğin bir kullanıcı, belirli bir tutarın altındaki alışverişler için ajana yetki verebilirken yinelenen ödemeler veya uzun vadeli sözleşmeler için her defasında onay şartı koyabilir.

Bir başka risk de ajanların karşı tarafça manipüle edilmesi. Yapay zeka ajanları arasındaki müzakerelerde, karşı tarafın yanlış talimatlarla sistemi yönlendirmeye veya gizli fiyat bilgilerini elde etmeye çalışması mümkün. Bu nedenle ajanların, karşı taraftan gelen iddialar yerine kullanıcının açık talimatlarını esas alması ve hangi bilgileri paylaşabileceğinin sınırlandırılması gerekiyor.

Tags
Show More

suleguner

Yapay zeka ve robotik konularında uzman, İstanbul merkezli gazeteciyim. Sadece bu iki alanda yazan tek Türk gazeteci-yazarım. Aralarında Türkiye’nin en çok satan ekonomi dergisi ve bir İngilizce gazetenin de bulunduğu Türk medyasına ait yayınlara yazıyorum. Türkiye'nin kamuoyuna açık ilk yapay zeka ve robotik anketini 2018'de gerçekleştirerek, insanların bu iki kavrama nasıl baktığını inceledim. Detaylarını site de bulabileceğiniz "beyaz yakalı ve lisans-yüksek lisans üstü öğrencilerden" oluşan iki grupla yaptığımız anket sonuçlarında öne çıkan iki veriyi aktarmam gerekirse, yapay zeka öğrencileri çalışanlardan daha çok korkuyor. Beyaz yakalılar ise robotlardan gençlere göre daha az korkuyor. Türkiye genelinde yapılan ankete göre yapay zekanın hayatımıza giderek daha çok dahil olması veya robotların iş ve özel hayatımızda yer almaya başlaması genel anlamda bizi endişelendirmiyor. Ankete katılımcıların "İnsan zekası mı, yapay zeka mı?" sorusuna cevabıysa, "insan zekası" şeklinde olmuş. Kamuoyu araştırmalarıma her yıl devam ederek Türk halkının teknolojiyle olan ilişkisinin nabzını ölçmeyi amaçlıyorum. Teknolojiden korkulmaması gerektiğini, insanın yararına ve doğru bir şekilde kullanıldığında hayata önemli katkılarda bulunduğuna inanıyorum. Ayrıca teknolojiyle birlikte değişen hayatı iyi anlamamız gerektiğini, hayatımızdaki değişiklikleri iyi analiz etmemiz gerektiğini düşünüyorum. Bir gazeteci-yazar olarak teknolojinin insan hayatı için çizdiği vizyonu anlatmaya, konuşmalarımda insanları yakında nasıl bir dünyanın beklediğine ilişkin bir resim çizmeye çalışıyorum. Gazetecilik kariyerimde yönümü teknolojiye çevirmeden önce bazı Türk basın yayın kuruluşlarının yanısıra, ANSA İtalyan Haber Ajansı'nın Türkiye muhabirliği görevlerinde bulundum. Kariyerim boyunca pek çok ülkeyi gezerek sosyal ve teknoloji içerikli yazılar yazdım. Bu ülkeler içinde aklıma en çok yer eden Ekvador, Küba, Sudan ve Güney Kore oldu. İngilizcenin dışında İtalyancayı profesyonel iş yaşamımda kullanabiliyorum. Fitness ile ilgileniyorum ve bir sağlıklı yaşam bloğum var. Aynı zamanda amatör bir DJ’im.

Benzer İçerikler

Close
Close