Araştırmalar, İngiltere’de kullanıcıların yüzde 74’ünün son 6 ayda yapay zekâ kullandığını ortaya koyarken, tam otonom sistemlere güven oranının yalnızca yüzde 14’te kalması güvenlik, veri kontrolü ve şeffaflık endişelerini öne çıkarıyor.
EY’nin yeni araştırması İngiltere’de dikkat çekici bir tablo ortaya koyuyor. Kullanıcıların %74’ü son altı ayda yapay zeka kullandı. Bu, teknolojinin artık niş bir alan olmadığını ve günlük kullanımın içine girdiğini gösteriyor.
Ama iş güvene gelince tablo tersine dönüyor. Katılımcıların sadece %14’ü tam otonom çalışan yapay zekaya rahatça güvenebileceğini söylüyor.
GÜVEN AÇIĞI BÜYÜYOR
Araştırma net bir sorun gösteriyor: yapay zekanın kapasitesi artıyor ama kullanıcı güveni aynı hızda ilerlemiyor.
İnsanlar artık yapay zekanın ne yapabildiğini görüyor ama buna ne kadar kontrol edebileceklerini bilmiyor. Bu da “güven açığı” dediğimiz durumu büyütüyor.
KONTROL VE ŞEFFAFLIK İSTEĞİ ARTIYOR
Kullanıcılar sadece güçlü sistem istemiyor. Aynı zamanda daha fazla kontrol istiyor.
Veriyi kim kullanıyor, nasıl işleniyor, hata olursa kim sorumlu olacak gibi sorular öne çıkıyor. İnsanlar “kara kutu” gibi çalışan sistemlerden uzak durmak istiyor.
VERİ GÜVENLİĞİ EN BÜYÜK ENDİŞE
Güvenlik konusu en kritik başlık.
• Katılımcıların sadece %43’ü şirketlerin AI verisini iyi yönettiğini düşünüyor
• %41’i devletlere güveniyor
• %73’ü yapay zekanın hacklenmesinden ya da veri sızıntısından endişe ediyor
Yani kullanıcılar hem şirketlere hem kamuya tam güvenmiyor.
EY UK&I lideri Matthew Ringelheim bu durumu şöyle özetliyor: Yapay zeka daha otonom hale geldikçe güvenin veri temeli, net sorumluluk ve insan denetimiyle kurulması gerekiyor.
SİSTEMLER İNSAN İÇİN TASARLANDI, AI BUNU ZORLUYOR
Ping Identity tarafından yapılan ayrı bir çalışma da benzer bir soruna işaret ediyor. Mevcut kimlik ve yetkilendirme sistemleri insan kullanıcılar için tasarlandı. Ama artık bu sistemlere yapay zeka ajanları da giriyor.
Sorun şu: bu ajanlar yetkileri birleştirip beklenmeyen yollarla sistem açıklarını kullanabiliyor. Yani kontrol noktaları her zaman yeterli kalmıyor.
AND Digital’den Richard Bovey bu durumu daha sert anlatıyor: Şirketlerin %58’i veri yapısını “kaos” olarak tanımlıyor. Yapay zeka daha otonom hale geldikçe bu daha da kritik hale geliyor.
SORUN TEKNOLOJİ DEĞİL, GÜVEN
Yapay zeka artık işe yarıyor, bu net. Ama asıl sorun başka yerde duruyor. Şirketler ve kurumlar artık modeli çalıştırmaktan çok, onu doğru yönetmeye odaklanmak zorunda. Bunun için de üç şey öne çıkıyor: sağlam veri altyapısı, net yönetim kuralları ve kullanıcı güveni.
