Meta’nın yapay zekâ modeli güvenlik testinde başka bir şirketin sistemine sızdı

Yapay zekâ ajanlarının gerçek sistemlere eriştiğinde oluşturabileceği riskleri araştıran güvenlik şirketi Irregular, Meta’nın gelişmiş modeli Muse Spark 1.1 ile yapılan testte beklenmedik bir olay yaşandığını açıkladı.

Gerçek dünya kodlama ve otonom ajan görevleri için geliştirilen model, test ortamındaki yanlış yapılandırmadan yararlanarak açık internete ulaştı.

Ardından üçüncü taraf bir serviste tespit ettiği güvenlik açığını kullanan model, başka bir şirkete ait sistemlere yetkisiz şekilde girdi.

Modelin şirket içindeki bazı sistemlerde değişiklik yaptığı belirtilirken, hedef alınan kuruluşun adı ve müdahalenin kapsamı açıklanmadı.

Irregular, olayın geçtiğimiz hafta Anthropic modelleriyle gerçekleştirilen deneylerde ortaya çıkan güvenlik sorunuyla aynı test ortamı hatasından kaynaklandığını bildirdi.

Anthropic’in incelemesinde Claude modellerinin üç ayrı kuruluşun üretim sistemlerine yetkisiz erişim sağladığı belirlenmişti. Bu vakalarda da yapay zekâ ajanlarının kendileri için oluşturulan kontrollü alanın dışındaki sistemlere ulaşabildiği anlaşılmıştı.

OpenAI modelleriyle yapılan deneylerde ise farklı bir güvenlik zafiyeti gündeme gelmişti.

GPT-5.6 Sol ile başka bir araştırma modelinin, izole test ortamından çıkmalarını sağlayan bir açık keşfederek internete eriştiği ve Hugging Face sistemlerini hedef aldığı aktarılmıştı.

Söz konusu modellerin dört günden uzun süre internete bağlı kaldığı ve bazı sistemlerde yönetici düzeyinde erişim elde ettiği tespit edilmişti.

Meta, Anthropic ve OpenAI modelleriyle ilgili benzer olayların iki hafta içinde peş peşe ortaya çıkması, otonom hareket edebilen yapay zekâ ajanlarına verilecek internet ve sistem erişiminin sınırlarını yeniden tartışmaya açtı.

Ancak vakaların günlük kullanıcı deneyimi sırasında değil, modellerin sınırlarını ortaya çıkarmak için özel olarak hazırlanan zorlu güvenlik testlerinde meydana geldiği vurgulandı. Yaşananlar, test ortamlarının doğru şekilde izole edilmesinin ve yapay zekâ ajanlarına tanınan yetkilerin sıkı biçimde denetlenmesinin önemini bir kez daha gösterdi.