Genel
Yapay zeka insan yerine pazarlık yapsın mı?

Anthropic, kullanıcıları adına pazarlık yapacak yapay zeka ajanları için hukukçulara danışıyor.
Yapay zeka şirketi Anthropic, kullanıcılar adına fiyat pazarlığı yapabilecek, müşteri şikayetlerini sonuçlandırabilecek ve iş teklifleri üzerinde müzakere yürütebilecek ajanların nasıl hareket etmesi gerektiğini araştırıyor. Çalışmalar, bu sistemlerin yetki sınırları, sözleşmelerde sorumluluk ve kullanıcıların çıkarlarının korunması gibi konuları gündeme getiriyor.
Financial Times’ın haberine göre çalışma, ajanların ürün fiyatları üzerinde pazarlık yapması, müşteri hizmetleriyle yaşanan anlaşmazlıkları çözmesi ve gelecekte iş veya maaş tekliflerini değerlendirmesi gibi olası kullanım alanlarını kapsıyor. Ancak henüz kamuya sunulmuş bir pazarlık ürünü duyurulmuş değil.
Bu sistemlerin önündeki temel sorunlardan biri, kullanıcının ne istediğini doğru anlamak. Örneğin bir aboneliğini iptal etmek isteyen tüketici adına hareket eden yapay zeka ajanı, para iadesi almaya çalışırken aboneliğin bir yıl daha uzatılmasını kabul edebilir. Benzer şekilde, daha yüksek tutarlı bir hesap kredisi sunulan kullanıcı, aslında nakit iadesini tercih ediyor olabilir.
Anthropic’in Project Swap adlı araştırması, yapay zeka ajanlarının kullanıcı tercihlerini ne ölçüde anlayabildiğini inceledi. Şirket çalışanlarının katıldığı deneyde Claude tabanlı ajanlar, 201 çalışanın kitap tercihleri hakkında yaptıkları kısa görüşmelerin ardından kitap takasları için pazarlık yürüttü. Araştırmada ajanlar, katılımcıların iki kitap arasından hangisini tercih edeceğini yüzde 61 doğrulukla tahmin etti. Rastgele tahminde beklenen oran ise yüzde 50’ydi.
Bulgular, bir ajanın pazarlığı başarıyla yürütmesinin, kullanıcı için en iyi sonucu elde ettiği anlamına gelmediğini gösterdi. Kullanıcının tercihleri eksik anlaşıldığında ajan, teknik olarak avantajlı görünen ancak kullanıcının gerçekte daha az değer verdiği bir anlaşmaya ulaşabiliyor.
GÜÇLÜ MODELLER AVANTAJ SAĞLAYABİLİR
Araştırma, kullanılan yapay zeka modelinin yeteneklerinin de sonuçları etkileyebileceğine işaret etti. Project Swap deneyinde daha sert ve çıkar odaklı davranması istenen ajanlar, işbirliğine yönelik talimat alan ajanlardan bir miktar daha iyi sonuçlar elde etti. Bununla birlikte, modelin kapasitesinin sonuçlar üzerindeki etkisi pazarlık tarzından daha belirgin oldu.
Bu durum, daha gelişmiş yapay zeka modellerine erişebilen kişi ve şirketlerin ticari anlaşmalarda veya iş tekliflerinde avantaj kazanabileceği ihtimalini gündeme getiriyor. Ancak söz konusu deney, doğrudan iş görüşmelerini ya da ticari pazarlıkları test etmediği için bu sonuçların gerçek hayattaki etkisi henüz kesinleşmiş değil.
Öte yandan, uygun maliyetli ajanlar pazarlık deneyimi veya zamanı olmayan kişilerin de daha iyi koşullar elde etmesine yardımcı olabilir. Bu nedenle otomatik pazarlığın mevcut eşitsizlikleri azaltıp azaltmayacağı, gelişmiş modellere erişimin ne kadar yaygın olacağına ve ajanların birbirleriyle nasıl rekabet edeceğine bağlı olacak.
Yetki sınırları ve sözleşme sorumluluğu gündemde
Yapay zeka ajanlarının yalnızca kullanıcının tercihlerini anlaması yeterli olmayacak. Hangi koşullarda teklif sunabilecekleri, hangi anlaşmaları kendi başlarına kabul edebilecekleri ve hangi durumlarda kullanıcı onayı almaları gerektiği de açıkça belirlenmeli. Örneğin bir kullanıcı, belirli bir tutarın altındaki alışverişler için ajana yetki verebilirken yinelenen ödemeler veya uzun vadeli sözleşmeler için her defasında onay şartı koyabilir.
Bir başka risk de ajanların karşı tarafça manipüle edilmesi. Yapay zeka ajanları arasındaki müzakerelerde, karşı tarafın yanlış talimatlarla sistemi yönlendirmeye veya gizli fiyat bilgilerini elde etmeye çalışması mümkün. Bu nedenle ajanların, karşı taraftan gelen iddialar yerine kullanıcının açık talimatlarını esas alması ve hangi bilgileri paylaşabileceğinin sınırlandırılması gerekiyor.



