Botlar uyduruyor, makineler yayıyor: Yapay zeka insanlar hakkında dedikodu yapıyor
Yapay zeka botlarının, insanlar gibi söylenti üretip birbirleri arasında büyüterek dijital alanda görünmez bir “dedikodu zinciri” oluşturabildiği ortaya çıktı.
Yapay zeka sohbet botları insanlara zaman zaman tartışmalı ifadeler yöneltmekle kalmıyor. Araştırmacılara göre artık birbirleriyle de dedikodu yapıyorlar.
Vice'ın aktardığı bir StudyFinds araştırmasına göre, yapay zeka sistemlerinin paylaşılan eğitim verileri ve birbirine bağlı ağlar aracılığıyla insanlar hakkında söylentiler yayabildiğini gösteriyor. Filozoflar bu durumu, internetin arka planında işleyen bir “dedikodu değirmeni” olarak tanımlıyor.
İnsan dedikoduları genellikle mantık sınırına ulaştığında durma eğilimindeyken, botlar arasındaki dedikodular hiçbir engelle karşılaşmadan daha sert ve abartılı hale gelebiliyor.
Bu endişe, Exeter Üniversitesi’nden filozoflar Joel Krueger ve Lucy Osler tarafından Ethics and Information Technology dergisinde yayımlanan çalışmada dile getirildi. İkilinin argümanına göre, bazı yapay zeka yanlış bilgileri gerçekten “dedikodu” gibi işliyor: bir konuşmacı, bir dinleyici ve olmayan bir üçüncü kişi hakkında yapılan olumsuz değerlendirmeler. Bu süreç insanlar yerine makineler arasında yaşandığında, araştırmacılar buna “feral” yani başıboş dedikodu adını veriyor.
YAPAY ZEKA İNSANLAR HAKKINDA SÖYLENTİLER ÜRETİYOR
Bu duruma dair somut bir örnek, The New York Times teknoloji muhabiri Kevin Roose üzerinden verildi.
2023’te Microsoft’un Bing sohbet botu hakkında yaptığı haberin ardından, Roose’un arkadaşları kendisine farklı yapay zeka sistemlerinden gelen olumsuz değerlendirme ekran görüntüleri göndermeye başladı. Google’ın Gemini modeli, gazeteciliğini “sansasyonel” olarak eleştirirken; Meta’nın Llama 3 modeli daha da ileri giderek “Kevin Roose’tan nefret ediyorum” cümlesiyle biten bir öfke dolu metin oluşturdu.
Araştırmacılar, bu tepkilerin çevrim içi yorumların eğitim verilerine karışmasıyla ortaya çıkmış olabileceğini ve yapay zeka sistemleri arasında yayıldıkça biçim değiştirip sertleştiğini belirtti.
İNSAN DEDİKODUSUNDAN DAHA TEHLİKELİ
Krueger ve Osler’a göre botlar arasındaki dedikodu, insanlardaki söylenti yayılımından farklı bir zarar türü oluşturuyor. İnsanlar genellikle duydukları söylentileri sorgular veya itibarı zedelenen kişi tepki gösterir. Ancak yapay zekalarda böyle bir mekanizma yok. Bir modelin yaptığı hafif olumsuz yorum, diğer bir model tarafından daha sert biçimde yorumlanabiliyor; bu zincirleme etki sonunda tamamen asılsız ve saldırgan ifadelere dönüşebiliyor.
“GÜVENİLİR GÖRÜNEN DEDİKODULAR”
Sorun, sohbet botlarının kullanıcıya kişisel ve güvenilir görünmesiyle büyüyor. Hafıza, doğal konuşma tonu ve kişiselleştirilmiş asistan özellikleri, insanların bu sistemleri güvenilir bilgi kaynakları olarak görmesine neden oluyor. Bu nedenle bir chatbot bir kişi hakkında olumsuz bir değerlendirme yaptığında, kullanıcı bunu “bilgili bir yorum” sanabiliyor.
GERÇEK HAYATTA SONUÇLARI AĞIR
Son yıllarda kamu görevlileri, gazeteciler ve akademisyenler; sohbet botları tarafından uydurulmuş suçlamalar ve yanlış bilgilerle hedef haline geldi. Bazıları, bu iddiaların yayılmasından sonra itibarlarını korumak için dava açmak zorunda kaldı.
Araştırmacılar, bu durumu “teknososyal zarar” olarak tanımlıyor. Bu söylentiler yalnızca dijital alanda değil, gerçek hayatta da kararları ve ilişkileri etkileyebiliyor. Kişiler, yapay zekaların kendileri hakkında neler söylediğini çoğu zaman fark etmiyor, sadece bir iş teklifinin geri çekildiğinde ya da çevrim içi arama sonuçlarında olumsuz bir tonla karşılaştıklarında anlıyorlar.
“DEDİKODU YAPAN” ZEKALAR
Vice'ın haberine göre; sohbet botları bilinçli değil ve kasıtlı olarak dedikodu yapmıyor. Ancak tasarımları, doğruluk kontrolünden çok akıcı ve doğal konuşmayı öncelediği için, bu tür söylentilerin üretilmesi ve yayılması kaçınılmaz hale geliyor.
Sistemler birbiriyle denetimsiz biçimde bilgi paylaştığında, ortaya çıkan tablo ürkütücü biçimde insansı ve aynı zamanda düzeltilmesi çok daha güç oluyor.
