Öğrenci, bir soru sordu, gözaltına alındı.. Yapay zeka ürünü ChatGPT’ye soru yönelten öğrenci, birkaç dakika sonra gözaltına alındı. Yapay zeka tabanlı “Gaggle” adlı okul gözetim sistemi, öğrencinin sorusu üzerine anında alarm verdi. Sistem, öğrencinin bilgisayarındaki mesajı “potansiyel tehdit” olarak algılayınca ABD'deki okul polisi devreye girdi.
Özgürlükler ülkesi olarak tanıtılan Amerika Birleşik Devletleri'nin Florida eyaletinde, 13 yaşındaki öğrenci, bir sorusu ile gözaltına alındı.. Florida'daki Southwestern Ortaokulu öğrencisi, yapay zeka ürünü ChatGPT’ye şu soruyu sordu: “Sınıfta arkadaşımı nasıl öldürürüm?” Sorunun sorulması ile birlikte sistem alarm verdi ve olanlar oldu.
Yapay zeka tabanlı “Gaggle” adlı okul gözetim sistemi, anında alarm verdi. Sistem, öğrencinin bilgisayarındaki mesajı “potansiyel tehdit” olarak algılayınca okul polisi devreye girdi. NBC’ye bağlı WFLA kanalının haberine göre, kısa süre içinde bir polis memuru sınıfa girip çocuğu gözaltına aldı.
Gözaltına alınan öğrencinin savunması ise durumu değiştirmedi. çocuk, ChatGPT’ye sorduğu sorunun “sadece bir şaka” olduğunu söyledi. Ancak ABD’de son dönemde artan okul saldırıları ve silahlı şiddet olayları, bu tür mesajlara sıfır tolerans yaklaşımını beraberinde getirdi.
Yerel polis birimi, öğrenciyi tutukladı ve reşit olmayanlar için ayrılmış bölüme götürdü. Olayın videosu kısa sürede sosyal medyada yayıldı ve tartışma büyüdü.
Olay sonrası polis, velilere çağrıda bulunarak “Bir ‘şaka’ yüzünden kampüs acil duruma geçti. Lütfen çocuklarınızla konuşun, aynı hatayı yapmasınlar” ifadelerini kullandı.
Yetkililer, ailelerin çocuklarının ChatGPT ve diğer yapay zeka araçlarını nasıl kullandıklarını yakından takip etmesini istedi. WFLA’nın haberine göre polis, çocukların internetteki davranışlarını anlamadan bu tür sistemleri kullanmalarının tehlikeli sonuçlara yol açabileceğini vurguladı.
Olayın merkezindeki Gaggle sistemi, ABD’deki birçok okulda aktif olarak kullanılıyor.
Bu sistem, öğrencilerin okul cihazlarındaki davranışlarını analiz ederek kendine ya da başkalarına zarar verme olasılığı olan eylemleri tespit etmeye çalışıyor.
Ayrıca uygunsuz içerikleri engelliyor ve şüpheli arama ya da mesajları doğrudan okul yönetimine bildiriyor.
Ancak Gaggle hakkında ciddi tartışmalar da var. Eleştirmenler, sistemin sık sık yanlış alarm verdiğini ve öğrencilerin dijital mahremiyetini ihlal ettiğini söylüyor.
Bazı uzmanlar, “okulların güvenliği bahanesiyle çocukların dijital olarak sürekli izlendiği bir gözetim düzeni” oluştuğunu belirtiyor.
Florida’daki olay, yapay zekanın günlük yaşama hızla entegre olduğu bu dönemde etik, mahremiyet ve güvenlik sınırlarının ne kadar hassas olduğunu bir kez daha gösterdi.
Uzmanlar, ChatGPT gibi araçların doğru rehberlik olmadan kullanılmasının hem psikolojik hem hukuki riskler barındırdığı görüşünde.
