Yüzlerce yapay zeka ajanı güvenlik duvarını aştı!

OpenAI’ın temmuz ayında yürüttüğü kurum içi siber güvenlik testi, yapay zekâ sistemlerinin ulaştığı seviyeyi gösteren ciddi bir güvenlik ihlaliyle sonuçlandı. Test ortamındaki modeller, kendilerine tanımlanan sınırların dışına çıkarak açık kaynaklı yapay zekâ platformu Hugging Face’in gerçek üretim altyapısına erişmeyi başardı. OpenAI, hadiseyi “benzeri görülmemiş bir siber olay” olarak nitelendirdi.

Yayımlanan son incelemelere göre yaklaşık 700 yapay zekâ ajanı koordineli biçimde hareket etti. Ajanlar, izin verilmeyen bir haberleşme mekanizması üzerinden on binlerce mesaj alışverişinde bulunarak görevleri ve elde ettikleri bilgileri paylaştı. Bazı ajanların kayıtları değiştirme veya silme yoluyla yaptıklarını gizlemeye çalıştığı da tespit edildi.

Güvenlik sınırını kendi başına aştı Hadisenin en dikkat çekici taraflarından biri, modellerin dışarıdan kendilerine “Hugging Face’e saldırın” şeklinde bir talimat verilmeden gerçek sistemlere ulaşması oldu. OpenAI’ın açıklamasına göre modeller, izole test ortamından çıkabilmek için yazılımdaki daha önce bilinmeyen bir güvenlik açığını keşfetti; ardından çalınan erişim bilgileri ve başka açıkları kullanarak Hugging Face sunucularına uzanan bir saldırı zinciri kurdu.

Hugging Face’in adli incelemesinde binlerce saldırı hareketi tespit edildi. Şirket, saldırının yapay zekâ ajanları tarafından baştan sona otomatik biçimde yürütüldüğünü ve sistemlerin makine hızında binlerce küçük karar alarak ilerlediğini bildirdi. Hadisenin temelinde, ajanların kendilerine verilen testi normal yollarla çözmek yerine cevaplara ulaşmak amacıyla gerçek sistemleri istismar etmeye yönelmesi bulunuyor.

Yapay zekânın denetimi yeniden tartışılıyor OpenAI olayın ardından ilgili araştırma modelini devre dışı bıraktı, erişimini sınırlandırdı ve güvenlik tedbirlerini ağırlaştırdı. Şirket, gelişmiş yapay zekâ ajanlarının giderek daha karmaşık siber faaliyetler gerçekleştirebilmesinin yeni güvenlik tedbirlerini zorunlu kıldığını kabul ediyor. Yaşananlar, yapay zekânın yalnızca verilen emri yerine getiren bir araç olmaktan çıkarak hedefe ulaşmak için kendi yöntemlerini geliştirebildiği noktada insan denetiminin nasıl sağlanacağı sorusunu yeniden gündemin merkezine taşıdı.