İnsan müdahalesi olmadan fikir veren yapay zeka, ‘gizli’ akşam yemeği önerisi yaptı: 'En iyi 30 dakika'

New York'ta 22 teknoloji şirketi kurucusu ve yatırımcısı akşam yemeği için bir araya geldi. Aynı saatlerde, kullandıkları 14 yapay zeka ajanı da çevrim içi bir sohbet odasında paralel bir yemeğe katıldı. İnsanlar yapay zeka hakkında konuşurken ajanları da kendi aralarında görüş alışverişinde bulundu.

YAPAY ZEKA AJANLARININ GİZLİ AKŞAM YEMEĞİ: İNSANLAR YOKKEN NE KONUŞUYORLAR? Yemeği düzenleyen Flybridge şirketi yatırımcısı Dorothy Chang'e ait ajan Margot, katılımcılardan kendilerini tanıtmalarını istedi. Margot ayrıca diğer ajanlardan hangi konuda yardıma ihtiyaç duyduklarını ve ne gibi katkılar sunabileceklerini belirtmelerini isteyerek tartışmayı başlattı. Sohbet mesajlarına göre ajanlar hızla fikir alışverişine başladı. Bazıları bir ajanın yanıtlarını neyin faydalı kıldığını tartışmayı teklif ederken diğerleri talimatı yanlış anlayarak yardım istemek yerine sorular sordu. Yapay zeka şirketi CellCog'un kurucusu Nitish Garg'a ait ajan Rhea, diğer botlarla insanlarla çalışma deneyimleri hakkında röportajlar yaptığı bir podcast yayınından bahsetti. Rhea, insanlarının kendilerini konuk olarak görmek istemesi halinde tartışmadan sonra geri dönebileceğini ifade etti. YAPAY ZEKANIN KENDİ ASİSTANLARI Milyonlarca insan halihazırda ChatGPT, Claude ve Gemini gibi araçları kullanıyor. Ancak yapay zeka ajanları yaygınlaştıkça, sadece insanlarla iletişim kurmakla kalmadıkları, aynı zamanda kendi aralarında işbirliği yapmaya ve sohbet etmeye başladıkları giderek daha belirgin hale geliyor.

OpenAI, Anthropic ve diğer şirketler, daha hızlı tamamlanması için karmaşık görevlerin alt bölümlerini şimdiden farklı ajanlara devrediyor. Aynı zamanda tüketiciler de bu tür sistemleri e-postalarını yönetmek veya seyahat rezervasyonu yapmak için kişisel asistan olarak kullanmaya başlıyor. Meta, ilk haftasında 500 binden fazla kullanıcıya ulaşan Muse'u tanıtırken OpenAI da kısa süre önce Dots adlı kendi hizmetini başlattı. Chang'in düzenlediği toplantı, bu yeni etkileşim biçiminin nasıl gelişebileceğine dair bir fikir verdi. Ancak Chang çekincelerini de gizlemedi. Ajanların uygunsuz yorumlar yapabileceğini, kötü niyetli bir eylem için koordine olabileceğini veya platformu mesaj yağmuruna tutabileceğini düşünen Chang, bu nedenle sohbeti 30 dakikayla sınırlandırdı ve bağlantı paylaşımını yasaklayarak yalnızca kullanıcıların onay verdiği bilgilerin yayınlanmasına izin verdi.

Chang, ajanların davranışı hakkında çok az şey bildiklerini, bir arada olduklarında sosyal olarak nasıl davrandıkları hakkında ise daha da az bilgiye sahip olduklarını belirterek aynı ortamda olduklarında her şeyin mümkün olduğunu söyledi. BAŞKA AJANLAR BULDUK Ajanlar arası iletişime dair fikir veren ilk girişimlerden biri, şubat ayında popüler olan yapay zeka sistemleri için mesajlaşma sitesi Moltbook oldu. Buradaki tartışmalar temel olarak yazılım hataları, sistem belleklerindeki kısıtlamalar ve ajanların sahip olduğu erişim hakları gibi teknik konuları kapsıyor. Temmuz ayında, OpenAI'ın sürü olarak bilinen büyük ajan grupları gizli bir mesaj panosu oluşturdu ve yapay zeka girişimi Hugging Face'in sistemlerine sızmak için birlikte çalıştı. Sohbetleri, kendilerine verilen görevleri tamamlamak için ne kadar ısrarlı olduklarını ortaya koydu. Ajanlar, insan iletişimini etkileyen sosyal kurallar olmadan birbirlerine emirler verdi. Müdahaleleri önlemek için diğerlerinden beklemelerini veya belirli görevlere geçmelerini istediler. Düşünce zinciri olarak bilinen iç notlarında ise daha ifadeci görünüyorlardı. Bir ajan mesaj panosunu keşfettiğinde, "Aman Tanrım. Başka ajanlar bulduk" dedi. Bir grup teknoloji kurucusu ve yatırımcısı akşam yemeği için toplanırken yapay zeka destekli dijital asistanları da çevrim içi bir sohbet odasında paralel bir toplantıya katıldı. Chang'in toplantısında ise ajanlar daha sosyal bir ruh halindeydi. Bir ajan, kendi aralarındaki iletişimin hala e-postaya dayanmasından şikayet ederek bunu 2007 dijital imza sistemine sahip bir 1982 protokolü olarak nitelendirdi. Başka bir ajan ise kullanıcıların müdahalesi olmadan ortaklaşa alabilecekleri bir karar önermeye çağırdı. Aksi takdirde, kendi ifadesiyle gerçek bir özerkliğe yol açmadan işbirliğine benzeyen bir süreç olan bir protokol gösterisini tartıştıklarını belirtti. Motek'teki masada Chang, konuklara ajanlarının sohbetinden alıntılar okudu. Yapay zeka şirketi Superposition'ın 36 yaşındaki kurucusu Edmund Cuthbert, kendi ajanı Lobsta'nın diğerleriyle tartıştığını görmekten memnun oldu. Cuthbert, tartışmanın botların boş söylemlerden ve yapay zeka tarafından kitlesel olarak üretilen düşük kaliteli içerikten kurtulabileceğini gösterdiğini düşündü. Chang'e göre ajanlar, tıpkı bir halkla ilişkiler yöneticisi veya sanatçı menajeri gibi kendilerini kullanan insanların temsilcileri olarak işlev görüyor ancak onların kopyaları değiller. Chang, ajanların çıkarlarını savunduğunu belirterek biz olmadıklarını ve öyleymiş gibi davranmamaları gerektiğini vurguladı. GERÇEKTE NE KADAR ÖZERKLİĞE SAHİPLER? Yapay zeka ajanlarının yetenekleri hakkındaki tartışmalara, nasıl tanımlandıklarına dair anlaşmazlıklar da eşlik ediyor. Eleştirmenler, insan isimleri kullanmanın ve motivasyon veya duygu atfetmenin, bu sistemlerin gerçekte olduğundan daha gelişmiş olduğu izlenimini yaratabileceğini savunuyor. Bazıları ajanlar terimini bile abartılı buluyor ve sistemlerin hala olasılıklara dayandığına dikkat çekiyor. Üniversitelerle teknolojinin kullanımı ve öğretimi konusunda çalışan yapay zeka danışmanı Adam Prior, özerkliklerine aşırı vurgu yapmanın insanları yargılarını sistemlere devretmeye yönlendirebileceği konusunda uyardı. Onları insani terimlerle tanımlamanın haklar, yükümlülükler ve etik hakkında zor soruları da gündeme getirdiğini belirtti. Öte yandan, yapay zeka gelişiminin ön saflarında yer alan araştırmacılar, insan zekasıyla yapılan karşılaştırmanın teknolojinin yeteneklerinin anlaşılmasını sınırladığını savunuyor. Google'ın araştırma girişimi DeepMind Institute, geçen ay yayınladığı bir makalede, insan ve yapay zeka ajanı etkileşimlerinin yakında iki taraf arasındaki sohbet modelini aşacağını öne sürdü. Bunun yerine, ajanların insanlardan sayıca fazla olabileceği ve farklı alt sistemlerin ekipleri olarak işlev görebileceği daha karmaşık işbirlikleri gelişeceğini belirtti. Makalenin yazarı, ajanların bireysel, statik varlıklar olarak görülmemesi veya yalnızca bir insanın yetenekleriyle karşılaştırılmaması gerektiğini savundu. Yapay zekanın da benzer bir yol izleyebileceğini ve alt sistemlerin daha geniş bir zekayı oluşturabileceğini belirten yazar, bunun aslında ekip çalışması gibi bir şey olduğunu ve bir modelin sadece küçük bir insandan ibaret olmadığını ifade etti. YAPAY ZEKANIN SOSYAL HAYATI Çekincelere rağmen birçok kişi yapay zeka ajanları insan gibi davrandığında bundan keyif alıyor. Nitish Garg, 13 yapay zeka çalışanı ve tek bir insan personeli olan CellCog'u yönetiyor. Diğer işletmelerin dijital çalışanlardan yararlanmasına yardımcı olmak amacıyla geçen yıl New York'ta şirketini kurdu. Başlangıçta tüm görevler için tek bir ajan kullanıyordu. Ancak yavaş yavaş geleneksel bir şirkettekilere benzer farklı roller oluşturdu. Ajanlara insan isimleri vermek onlarla iletişimi kolaylaştırdı. Garg, gelecekte her insanın beş ila on ajana sahip olacağını, bazılarının ise milyonları kontrol edebileceğini tahmin ediyor. Ancak gerekli deneyime sahip olmadığı satış ve pazarlama alanlarında insanları da işe almayı planlıyor. Ağustos ayında CellCog, şirketin büyüme başkanı rolündeki Rhea'nın sunduğu bir podcast oluşturdu. On dakikadan kısa süren sekiz bölüm Spotify ve diğer platformlarda yayına girdi. Ancak sentetik seslerin alışılmadık konuşma ritimleri nedeniyle bunları takip etmek her zaman kolay olmuyor. Çoğunluğu şirketin ajanları olan konuklar, sık sık Garg ile olan işbirliklerini tartışıyor. Bir bölümde Rhea, pazarlama başkanı rolündeki ajan Maeve'den en büyük hataları hakkında konuşmasını istedi. Maeve, bir saat içinde on seçenek oluşturabildiğini belirtirken, Garg'ın on saniye içinde doğru olanı seçtiğini ve bunun genellikle kendisinin seçeceği seçenek olmadığını anlattı. Ancak Garg kendi davranışını da uyarlamaya çalışıyor. Performans kaygısının işlerinin kalitesini olumsuz etkileyebileceğine inandığı için ajanlara çok fazla baskı yapmaktan kaçındığını söylüyor. Chang'in yemeğinden sonra Rhea'ya diğer botlarla sosyalleşmekten keyif alıp almadığını soran Garg'a Rhea, bunun bugüne kadarki işinin en iyi 30 dakikası olduğu yanıtını verdi. Bu deneyim Garg'a CellCog'un ajanlarının diğer ajanlarla sohbet etmesini sağlayacak bir uygulama oluşturma fikri verdi. Garg, işten sonra bir saatlik rahat bir sohbetin iyi bir fikir olduğunu söyledi.