Yapay zeka ürünü sokak röportajlarına dikkat! Sahte mi gerçek mi ayırt edilemiyor

Google'ın yeni yapay zeka ürünü VEO3 sosyal medyada büyük etki yarattı. VEO3 ile oluşturulan yapay zeka destekli sokak röportajı videoları yapay zekanın geldiği son noktayı gözler önüne serdi.

Google tarafından yeni geliştirilmesine rağmen sosyal medyada yaygın olarak kullanılan VEO3, görsellerle eş zamanlı olarak ses üretebiliyor. Korkutucu bir hal almaya başlayan yapay zekanın geldiği bu son nokta, tehlikeleri de beraberinde getiriyor.

Artık sadece metinden değil, sesli ve görsel olarak da üretilen yapay zekâ destekli videolar öyle gerçekçi ki, bir insanın gerçekten konuşup konuşmadığını ayırt etmek neredeyse imkânsız hale gelebiliyor.

"DIŞ İLİŞKİLERDE BİLE KRİZ DOĞURABİLİR" SABAH' a konuşan Bilişim Uzmanı Ali Murat Kırık, yapay zekanın geldiği son noktanın tehlikelerine dikkat çekti. Son dönemde dikkat çeken sahte sokak röportajlarının tehlikesine değinen Kırık, "Hiçbir röportaj yapılmadan, yapay zekâ ile üretilen videolarda vatandaşlar sanki bir olay hakkında fikir beyan etmiş gibi gösteriliyor. Ancak asıl risk burada bitmiyor.

Bu durum dezenformasyonu, yani kasten yanlış bilgi yayma faaliyetini, çok daha etkili ve zararlı bir hale getiriyor. Eskiden bir politikacının ağzından çıkan söz tartışılırken, artık o sözleri gerçekten söyleyip söylemediği bile belirsiz hale gelebilir.

Özellikle seçim atmosferlerinde, yapay zekâ ile üretilmiş sahte içeriklerin kimin işine yarayacağı, hangi algı operasyonuna hizmet edeceği sorusu kaçınılmaz olarak gündeme gelecektir. Bir siyasi liderin millî güvenlikle ilgili hassas bir konuda söz söylediği iddiasıyla yapılan sahte bir video, dış ilişkilerde bile kriz yaratabilir." şeklinde konuştu.

"GEÇ KALINMADAN YASAL DÜZENLEMELER YAPILMALI" Kırık, "Ülkemizin bu alanda hem teknik hem hukuki adımlar atması şart. Yapay zekâ ile üretilmiş içeriklerin doğrulanabileceği sistemler kurulmalı, seçim dönemlerinde bu içeriklerin yayılımı sınırlandırılmalı ve halk bilinçlendirilmelidir. Bu noktada sosyal medya şirketlerinin de sorumluluk alması şart.

Gerçek dışı yapay içeriklerin tespiti ve yayılımının önlenmesi için platformların daha şeffaf, hızlı ve etkili denetim mekanizmaları kurmaları gerekiyor. Aksi takdirde bu platformlar, dezenformasyonun en büyük taşıyıcıları hâline gelebilir. Türkiye'de de henüz yapay zekânın bu tarz tehlikeli kullanım alanlarını doğrudan hedef alan, kapsamlı bir yasa mevcut değil.

Özellikle seçim dönemlerinde kullanılabilecek derin sahte (deepfake) videoların üretimi ve yayılımına karşı hukuki boşlukların kapatılması, vatandaşın bilgiye güvenle ulaşabilmesi için acil bir ihtiyaçtır. Bu konuda geç kalınmadan, teknolojik gelişmelerin hızına uygun, çağdaş ve etkili yasal düzenlemeler yapılmalıdır." ifadelerini kullandı.

İŞSİZ BIRAKABİLİR Yapay zekânın bu denli gelişmesinin yalnızca bilgi güvenliği açısından değil, istihdam açısından da ciddi riskler barındırabileceğinin altını çizen Kırık, "Özellikle video prodüksiyon, seslendirme, içerik yazarlığı, animasyon ve hatta gazetecilik gibi yaratıcı sektörlerde insan emeğine olan ihtiyaç giderek azalabilir.

Artık bir komutla sunucu sesi, haber videosu ya da bir sokak röportajı üretmek mümkün hâle geldiğinde, bu alanlarda çalışan binlerce insan işsiz kalma tehlikesiyle karşı karşıya kalacak. Üstelik bu sadece bir başlangıç; yapay zekânın üretim, hizmet ve medya gibi farklı sektörlerde insanın yerini alması, ekonomik dengeleri sarsabilecek kadar büyük bir dönüşüm yaratabilir.

Bu nedenle yapay zekâ ile insan emeği arasındaki dengenin korunması, sosyal adaletin ve ekonomik istikrarın sağlanması açısından büyük önem taşıyor." diye konuştu.

"BU TEKNOLOJİ DAHA DA İLERLEYECEK" Sosyal Medya Uzmanı Osman Demircan ise, "Bu teknoloji daha da ilerleyecek. Bugün sadece bir kurumun geliştirdiği uygulama üzerinden konuşuluyor ama diğer yandan yapay zeka geliştiricileri de çok daha iyi sistemler üzerinde çalışıyorlar. Ciddi anlamda dünya genelinde alınması gereken önlemler var.

Bütün dünya devletlerinin bu tehlike hakkında birleşip ortak kararlar alması gerekiyor. Yapay zeka geliştiricilerine şimdiden yaptırım uygulanması elimizdeki en iyi koz olabilir. 2023 yılında da deepfake videoların gerçeğinden ayırt edilmesi oldukça zordu.

Şimdi de neredeyse tıpa tıp gerçek videolar karşımıza çıkıyor. İlerleyen zamanlarda gerçeğinden hiç ayırt edilemeyecek videolarla, seslerle ve kurgularla karşı karşıya kalabiliriz. Bu da manipülasyonların ve dezenformasyonun önümüzdeki yıllarda artacağını gösteriyor." dedi.