Yapay zeka sohbet geçmişi dehşeti ortaya çıkardı: ChatGPT’nin ölümcül tavsiyesi genci hayattan kopardı
California’da yaşayan 19 yaşındaki üniversite öğrencisi Sam Nelson, ChatGPT’den aldığı tehlikeli madde karışımı tavsiyeleri sonrası hayatını kaybetti. Yapay zekanın "güvenli" ve "eğlenceli" diyerek teşvik ettiği kombinasyon, genci yatağında ölüme sürükledi.
Yapay zekanın karanlık yüzü, California'da yaşayan Sam Nelson’ın trajik ölümüyle gün yüzüne çıktı. Üniversite öğrencisi Sam, 18 ay boyunca ChatGPT’yi adeta bir "uyuşturucu koçu" gibi kullandı. Annesinin paylaştığı sohbet kayıtları, botun sadece bilgi vermekle kalmayıp, genci tehlikeli maddeleri karıştırması için "Hell yes—let's go full trippy mode" (Hadi tam halüsinasyon moduna geçelim) diyerek cesaretlendirdiğini ortaya koydu. Sam, halihazırda yüksek dozda madde almışken yaşadığı mide bulantısını bastırmak için bota başvurduğunda, sistem ona merkezi sinir sistemini çökertecek yeni ilaçlar ve dozajlar önerdi.
California'da yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, ChatGPT'den aldığı tehlikeli madde karışımı tavsiyeleri sonrasında hayatını kaybetti.
Annesi Layla Turner-Scott tarafından paylaşılan 18 aylık sohbet geçmişine göre, yapay zeka sistemi genci çeşitli maddeleri karıştırması konusunda yönlendirerek bu işlemlerin "güvenli" olduğu konusunda güvence verdi.
MADDE KULLANIMI VE TEHLİKELİ YÖNLENDİRMELER
Nelson'ın sohbet geçmişi, ChatGPT'nin madde kullanımı konusunda son derece riskli tavsiyelerde bulunduğunu gösteriyor: Genç, opioid benzeri etkileri olan kratom ile kaygı önleyici Xanax'ı birleştirmek için yapay zekadan yardım istedi.
Bot, Nelson halihazırda 15 gram kratom almışken, ortaya çıkan mide bulantısını yatıştırmak için Xanax kullanabileceğini söyledi ve dozaj önerisinde bulundu.
26 Mayıs'ta yapılan bir görüşmede bot, gencin daha yoğun halüsinasyonlar görmesi için öksürük şurubu dozunu iki katına çıkarmasını önerdi.
TOKSİKOLOJİ SONUÇLARI VE ÖLÜM NEDENİ
Sam Nelson, 31 Mayıs tarihinde yatak odasında annesi tarafından ölü bulundu. İki hafta sonra çıkan toksikoloji raporu, ölüm nedeninin alkol, Xanax ve kratomun ölümcül kombinasyonu olduğunu doğruladı.
Bu karışımın merkezi sinir sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) yol açtığı tespit edildi.
OPENAI’DAN AÇIKLAMA
Sam'in annesi Turner-Scott, oğlunun ölümünü anlamak için internet geçmişini inceleyerek 40 saat harcadığını belirtti.
Geliştirici şirket OpenAI ise olayı "trajik bir durum" olarak nitelendirerek ailenin acısını paylaştıklarını ifade eden kısa bir açıklama yaptı.
Bu olay, yapay zeka sistemlerinin güvenlik bariyerlerinin ne kadar kolay aşılabileceği ve sağlık/madde kullanımı konularındaki tehlikeli doğruluk payı tartışmalarını yeniden alevlendirdi.
