Yapay zekâda halüsinasyon: Algısal yansımalar

Yapay zekâda halüsinasyon: Algısal yansımalar
TAYFUN CİVELEK

Yapay zeka destekli sohbet robotları, hatalı ve var olmayan bilgileri gerçekte varmış gibi sunarak bir nevi halüsinasyon görüyor. Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor. Kullanıcılara bazı konularda hatalı, çarpık ve asılsız çıktılar sunulması akıllara yapay zeka halüsinasyon görebilir mi? Sorusunu getiriyor.

Uzmanlara göre, yapay zekânın girilen komutlara uygun cevap üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor. Yapay zekâ modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret ediliyor. Verilerin eksik ya da muğlak olması durumunda yapay zekânın akıcı ancak yanlış bir metin üretebileceği kaydedildi.

Halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkelere göre değer bazlı yargıların “bilerek sisteme kodlanabileceği” aktarılırken, mevcut teknolojilerin halüsinasyon sorunun kökünden çözecek bir kapasitesinin henüz olmadığı aktarılıyor. Uzmanlar, yapay zekânın var olmayan bir bilgiyi karşı tarafa doğruymuş gibi yansıtmasının, nöropsikiyatrik bir hastalık olan konfabulasyon (masallama) rahatsızlığına da benzetiyor. Konfabulasyon ile mücadele eden hastalarda aslında uydurulmuş olayların ve anıların akıcı bir dille aktarılması ilk başta karşı tarafa gerçekmiş gibi yansısa da anlatılan durumların esasında var olmayan ya da çarpık bilgilerden oluştuğu dikkati çekiyor.
Yapay zekâ destekli sohbet robotlarının güvenirliğine değinen uzmanlar, yapay zekâya bu kadar çok güven beslenmesinde pazarlama stratejilerinin rolü olduğunu söyleyerek otomasyon önyargısı kavramına işaret etti. Yapay zeka tasarımlarındaki hiçbir şey, halüsinasyon problemin çözüme kavuşturmuyor bunda dolayı bu sistemlere mutlak güven duyulmaması gerekiyor.