Yapay zekanın ne kadar tehlikeli olduğunun kanıtı: Küçük çocuğun yaptıklarına inanamayacaksınız
Yapay zekanın kontrolsüz kullanımının tehlikesi, İspanya'da yaşanan skandalla somutlaştı. Reşit olmayan bir erkek çocuğunun, yapay zeka kullanarak çıplak kız çocuklarının sahte görüntülerini üretip yayması nedeniyle, Avrupa Birliği'nde (AB) ilk kez bu gerekçeyle para cezası kesildi. Olay, yapay zeka teknolojisinin özellikle çocuklar arasında cinsel içerikli suçlar için nasıl kullanılabileceğini ortaya koydu.
Yapay zeka teknolojisinin hızla gelişimi, beraberinde getirdiği büyük tehlikeleri de gözler önüne seriyor. İspanya'nın Badajoz kentinde yaşanan ve Avrupa Birliği ülkelerinde bir ilk teşkil eden olayda, reşit olmayan bir erkek çocuğunun yapay zeka kullanarak ürettiği sahte görseller, teknolojinin ne denli tehlikeli amaçlarla kullanılabileceğinin en çarpıcı kanıtı oldu. İspanya Veri Koruma Ajansı (AEPD), sahte çıplak kız çocuklarının görüntülerinin sosyal ağlar ve cinsel içerikli siteler aracılığıyla yayılması nedeniyle, çocuğun ailesine 2 bin avro para cezası uyguladı.
AEPD, yapay zeka ile oluşturulan sahte bir görselin yayılması nedeniyle Avrupa Birliği (AB) ülkelerinde ilk kez para cezası verdi.
Yapay zeka ile sahte görselleri hazırlayan reşit olmayan çocuğa kesilen 2 bin avroluk para cezası, yasal sorumluluk gereği ailesi tarafından ödendi.
İspanyol basınında yer alan haberlerde bu para cezasının yapay zekanın kullanımı açısından AB ülkelerinde bir ilki teşkil ettiği vurgulandı.
YAPAY ZEKANIN KARANLIK YÜZÜ
İspanya'nın güneyindeki Badajoz kentinin Almendralejo ilçesinde Eylül 2023'te yaşanan olayda, reşit olmayan bir erkek çocuğu, kızların gerçek yüzlerini gösteren görüntüleri, yapay zeka ile oluşturulmuş çıplak vücutlarla ilişkilendirerek sosyal ağlar aracılığıyla yayımladı.
Söz konusu görüntülerin bazı cinsel içerikli sitelerde de yayımlandığı bildirildi. Olayla ilgili iki yıl süren araştırmasını sonuçlandıran AEPD, kızların rızası olmadan bir mesajlaşma grubu aracılığıyla paylaşılan görüntülerin tamamen yasa dışı bir şekilde yayılmasından sorumlu olduğu iddia edilen kişileri tespit etti.
Görüntüleri yaymaktan sorumlu tutulan ve denetimli serbestlik kapsamında Badajoz Çocuk Mahkemesinde yargılanan 15 çocuk, "pornografi ve ahlaki bütünlüğe aykırı davranış" suçlarından sorumlu bulundu.
Mahkeme, söz konusu çocuklara bir yıl boyunca duygusal ve cinsel eğitim ile bilgi ve iletişim teknolojilerinin sorumlu kullanımı, eşitlik ve toplumsal cinsiyet konularında farkındalık eğitimi verilmesine karar verdi.
