ChatGPT'ye fazla güvenmeyin! Yoksa...

Son zamanlarda birçok öğrenci ödevini yapay zeka kullanarak yapıyor. Yapay zekaya birçok kullanıcı fazla güveniyor. Columbia Üniversitesi Tow Dijital Gazetecilik Merkezi’nin yaptığı bir araştırma sonucu güveninizi sarsabilir. Uzmanlar son zamanlarda sıklıkla kullanılan ChatGPT’nin bilgi güvenilirliği konusunda önemli sorunlar yaşadığını ortaya koydu. Araştırma, yapay zekâ destekli bu aracın haber aramalarında yanlış bilgileri güvenilir gibi sunduğunu ve kaynakları hatalı aktardığının altını çizdi.

HATALI KAYNAK AKTARIMI VE TUTARSIZ SONUÇLAR Yapılan araştırmada, ChatGPT’ye 20 farklı yayından alınmış 200 alıntının kaynağı soruldu. Yapay zekadan alınan sonuçlar, sistemin doğruluk oranının oldukça düşük olduğunu işaret etti: • 153 yanlış yanıt: Alıntılar ya yanlış kaynaklara atfedildi ya da eksik bilgilerle sunuldu. • 7 doğru yanıt: Sadece 7 durumda ChatGPT, bilgiye ulaşamadığını doğru bir şekilde ifade etti. Ancak bu yanıtlar bile “görünüşe göre” ve “tam olarak bulamadım” gibi belirsizlik içeren ifadelerle sunuldu.

Yapay zeka tabanlı sistem, yanlış bilgileri New York Times gibi prestijli yayınlardan gelen bilgileri izinsiz kopyalayan sitelere dayandırdı. Örneğin, Orlando Sentinel gazetesine ait bir okuyucu mektubu, Time dergisinin haberi olarak aktarıldığı ortaya çıktı.

VERİ EKSİKLİĞİNDEN ORTAYA ÇIKIYOR OpenAI, araştırma sonuçlarına yönelik yaptığı açıklamada, sistemlerinin alışılmadık bir şekilde değerlendirildiğini savundu. Şirket, bu sorunların, veri eksikliğinden kaynaklandığını söyledi ve arama sonuçlarının doğruluk oranını yükseltmek için çalışmalara devam ettiklerini ifade etti.

VERİLER KONTROL EDİLMELİ Uzmanlar, kullanıcıların bu tür yapay zekâ araçlarını kullanırken daha fazla dikkat etmelerini belirtiyorlar. ChatGPT gibi yapay zeka altyapılı sistemlerin bilgi doğruluğunu garanti etmekte zorlandığını ve verilen bilgilerin mutlaka farklı kaynaklarla teyit edilmesi gerektiğini belirttiler. Yapılan araştırma sonucu yüzden “yapay zekâya güven” konusu yeniden gündeme gelerek tartışmaya yol açtı.

Haberle ilgili yorum yapmak için tıklayın.

Yorumlar

Asım Kasa

ChatGBT nin İelam ın hak din olduğunu söylediği an bu haberin geleceğini beklemeye başlamıştık. ChatGBT yi harcarlar bile ALLAH düşmanları. Yeter ki islamı Hak din, Hak'dan olduğunu söylemesin.