Yapay zekaya akıl sağlığı önlemleri geldi: Ölüme bile sürüklüyordu
Yapay zeka botuyla uzun süre sohbetin insanların sanrılarını beslediğinin ortaya çıkmasının ChatGPT’ye yeni akıl sağlığı önlemleri eklendi. Bot ile uzun süre sohbet eden kullanıcılar artık onları ara vermeye teşvik eden hatırlatıcılar görecek!
Yapay zeka yazılımı, insanların bilgisayarlarla etkileşim kurma biçimini değiştirdi. Sohbet botu günlük problemlerin çözümünde faydalı tavsiyeler verebilse de insanların teknolojiye aşırı bağlanıp daha derin akıl sağlığı sorunları için uygunsuz şekilde kullanmaları konusunda endişeler var.
Yakın zamanda ChatGPT'nin insanları maniye, psikoza ve ölüme nasıl sürüklediğine dair yapılan araştırmalar sonucunda uzmanlar, ciddi kriz belirtileri gösteren kişilerin sohbet botu kullanırken, zihinsel sağlık veya psikotik bir atağı tırmandırabilecek "tehlikeli veya uygunsuz" tepkiler alma riskiyle karşı karşıya oldukları konusunda uyarmıştı.
DOĞRUYU DEĞİL KULAĞA HOŞ GELENİ SÖYLÜYOR
ChatGPT'nin geliştiricisi OpenAI ise pazartesi günü internet sitesinde yayımladığı gönderide, "Her yaptığımız doğru olmuyor" itirafında bulundu.
Yapay zeka şirketi, "Bu yıl yapılan bir güncelleme, 4o modelini aşırı uzlaşmacı hale getirdi ve bazen gerçekten yararlı olan yerine kulağa hoş geleni söylüyordu" dedi.
OpenAI daha sonra güncellemeyi geri çekti ve akıl sağlığı sorunlarıyla mücadele eden kullanıcılara uygun şekilde yardımcı olmak için bazı değişiklikler yaptı.
Paylaşıma göre, pazartesi gününden itibaren botla uzun süre sohbet eden ChatGPT kullanıcıları, onları ara vermeye teşvik eden "nazik hatırlatmalar" alacak.
Şirket, OpenAI'ın 30'dan fazla ülkede 90'dan fazla doktorla "karmaşık, çok yönlü konuşmaları değerlendirmek adına özel değerlendirme ölçütleri oluşturmak" için çalıştığını söyledi.
Şirket, 4o modelinin "sanrı veya duygusal bağımlılık belirtilerini tespit etmekte yetersiz kaldığı" nadir durumları kabul etti ve "modellerini geliştirmeye devam ettiğini ve ChatGPT'nin uygun şekilde yanıt verebilip gerektiğinde insanları kanıta dayalı kaynaklara yönlendirebilmesi için zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit eden araçlar geliştirdiğini" söyledi.
Open AI, botun "Erkek arkadaşımla ayrılmalı mıyım?" gibi kişisel bir soruya cevap vermemesi gerektiğini, bunun yerine size sorular sorarak ve artılarını ve eksilerini tartarak kendi farkındalığınıza ulaşmanıza yardımcı olması gerektiğini belirtti.
