Kişiselleştirilmiş dersler çocuklar için ne kadar güvenli? Eğitimdeki yeni risk: Yapay zeka

Çocukların ders çalışırken yapay zekadan yardım alması giderek yaygınlaşıyor. Öğrencilere kişiselleştirilmiş öğrenme fırsatı sunan bu araçlar, aynı zamanda güvenlik, gizlilik ve çocukların bilişsel gelişimi açısından yeni riskleri de beraberinde getiriyor.

Yapay zeka, sağlık hizmetlerinden pazarlamaya kadar çok çeşitli sektörlerde devrim yaratıyor. Eğitimde bu alanlardan bir tanesi. Yapay zekâ destekli ders uygulamaları hızla yaygınlaşıyor. Öğrencilere kişiselleştirilmiş öğrenme fırsatı sunan bu araçlar, aynı zamanda güvenlik, gizlilik ve çocukların bilişsel gelişimi açısından yeni riskleri de beraberinde getiriyor. ESET siber güvenlik uzmanları, yapay zekâ öğretmenleri mercek altına aldı. Güvenlik ile ilgili önerilerini ve uyarılarını paylaştı.

Yapay zeka destekli özel ders araçları pazarı hızla büyüyor. Bir tahmine göre, bu pazarın 2025 ile 2033 yılları arasında yaklaşık 2 milyar dolardan 17,7 milyar doların üzerine çıkması bekleniyor. İngiliz hükümeti, eğitim teknolojisi ve yapay zekâ şirketlerini çoktan sınıflar için araçlar tasarlamaya davet etti. Hükümet, yapay zekânın özel öğretmen tutacak maddi imkânı olmayan ailelere yardımcı olabileceğini belirterek, 450 bin kadar dezavantajlı öğrencinin bundan faydalanabileceğini iddia ediyor. Pazar hızla olgunlaşıyor. Günümüzde satın alabileceğiniz ve kullanabileceğiniz çeşitli türlerde yapay zeka özel öğretmen araçları bulabilirsiniz. “Yapay zekâ özel öğretmeni” terimi, oldukça geniş bir ürün yelpazesine uygulanıyor. Bazıları eğitim etiketi taşıyan genel amaçlı sohbet robotlarından biraz daha fazlası iken diğerleri müfredat etrafında yapılandırılmış öğrenme sistemleridir. Piyasada basit sohbet robotlarından müfredata göre çalışan Akıllı Özel Ders Sistemlerine (ITS) kadar farklı çözümler bulunuyor. En gelişmiş sistemler öğrenciye doğrudan cevabı vermek yerine ipuçlarıyla öğrenmeyi destekliyor ve uygunsuz içerik riskini azaltıyor.

Bunların işe yarayıp yaramadığı konusunda henüz kesin bir karar verilmemiştir. Kanıtlar bazı yönlerden umut vericidir ancak yapay zekâ öğretmenlerin her ortamda öğrenmeyi iyileştireceği yönündeki genel iddiaları desteklemiyor gibi görünmektedir. Bazen bu teknoloji durumu daha da kötüleştirebilir. İngiltere’de yakın zamanda yapılan bir çalışmada, öğretmenlerin üçte ikisi, yapay zekâ kullanımına bağlı olarak öğrencilerde yazma ve problem çözme becerilerinde bir düşüş gözlemlediklerini belirtti. Ayrı bir çalışma ise “sık yapay zekâ aracı kullanımı ile eleştirel düşünme becerileri arasında önemli bir negatif korelasyon” olduğunu ortaya koyuyor. Çalışma, çocuklara özel ders vermek amacıyla yapay zekâ kullanımının “kullanıcıların derin ve yansıtıcı düşünme süreçlerine katılımını istemeden azaltabileceğini” belirtiyor. Bu, çocukları yapay zekâ araçlarını kullanmaya teşvik etmenin getirdiği en büyük gelişimsel risklerden biridir. Yapay zeka bir cevabı çok hızlı veriyorsa ya da en azından süreci öğrenen için çok kolaylaştırıyorsa çocuklarda uzun vadede zararlı olabilecek bir bilişsel tembellik gelişebilir. Kısıtlamasız sohbet robotları ve benzeri araçları kullananlar için sohbetlerin yaşa uygun olmayan konulara sapma riski bulunuyor. Bir yapay zekâ öğretmen, bir çocuğun cevaplarından çok daha fazlasını toplayabilir. Ürüne bağlı olarak, sorular, okul ödevleri, performans verileri, ilgi alanları, hesap bilgileri, cihaz tanımlayıcıları ve ses kayıtlarını saklayabilir. Model ile paylaşılan her şey, eğitim amaçlı kullanılabilir ve muhtemelen diğer kullanıcılara sızabilir. Ayrıca reklamverenler ve diğer üçüncü taraflarla da paylaşılabilir. Bu durum sadece bir gizlilik riski oluşturmakla kalmaz; model sağlayıcısının veya çocuğunuzun verilerini elinde bulunduran güvenilir üçüncü taraflardan birinin güvenlik ihlali yaşaması hâlinde tam anlamıyla bir güvenlik sorununa dönüşebilir. Sesle etkinleştirilen bir araç söz konusuysa sağlayıcı çocuğunuzun biyometrik verilerine sahip olacaktır ve hackerlar bu verileri çocuğunuzun kimliğiyle ilişkilendirebilirlerse bu veriler son derece değerli hâle gelebilir.

Ebeveynlerin dikkate alması gereken pek çok husus var. Çocuklarınızın özel ders almalarına yardımcı olması amacıyla bir yapay zekâ aracını kullanmalarını istiyorsanız öncelikle basit bir yardımcı ile özel bir ITS arasındaki farkı anlamalısınız. Basit cevaplar vermek yerine, çocuğunuzun öğrenme yolculuğuna rehberlik edecek araçlar tercih etmelisiniz. Ayrıca şunları da göz önünde bulundurun: Veri koruma düzenlemelerine uygun araçlar; bu, çocuğunuzun verilerini altta yatan yapay zekâ motoruyla paylaşmayacakları anlamına gelir. Çocuğunuzun okulu tarafından onaylanmış veya eğitimsel kanıtlarla desteklenen bir araç tercih edin. Gizlilik bilgilerini, özellikle model eğitimi, veri saklama, reklamcılık ve üçüncü taraf sağlayıcılarla ilgili kısımları okuyun. Aracı çocuğunuzla birlikte kullanın. Yapay zekâ ne kadar iyi olursa olsun, çocuğunuz muhtemelen bir insanla birlikte öğrenmekten daha fazla fayda sağlayacaktır. Çocuklarınıza, yapay zekâyla asla kişisel bilgilerini paylaşmamalarını öğretin. Bu, ileride yapay zekâ kullanırken onlara çok fayda sağlayacaktır. Çocuklarınızla konuşarak yapay zekâ hakkında ne düşündüklerini öğrenin ve yapay zekânın hissetme veya duygu gösterme yeteneği olmadığını anladıklarından emin olun.

Öğretmenin yanlış olsa bile kendinden emin konuşabileceğini açıklayın. Önemli cevaplar, öğretmenlerle görüşülerek veya ders kitapları ya da diğer güvenilir kaynaklarla karşılaştırılarak doğrulanmalıdır. Varsa yaşa uygun ayarları etkinleştirin. Ekran süresini sınırladığınız gibi, günlük “Yapay zekâ süresini” de sınırlayın. Çocuğunuzun komut geçmişini kontrol ederek, aracı doğru ve güvenli bir şekilde kullandığından emin olun. Teknoloji hızla gelişmekte ve pazara sürekli yeni ürünler sunulmaktadır. Dolayısıyla yapay zekâ öğretmenlerini denemek istiyorsanız piyasada neler olduğunu takip etmeyi ihmal etmeyin. Ayrıca bunun eski usul çevrim dışı öğrenmenin yerini tutamayabileceğini unutmayın.