Yapay zekâ raydan çıktı! Sahte kimlikle insanları hedef aldı

Yapay zekâ sistemlerinin sohbet botlarından bağımsız hareket edebilen ajanlara dönüşmesi, güvenlik alanındaki riskleri yeniden gündeme taşıdı. İngiltere Yapay Zekâ Güvenlik Enstitüsü (AISI) tarafından gerçekleştirilen deneylerde, gelişmiş modellerin yalnızca teknik sistemleri değil, sosyal mühendislik yöntemleriyle insanları da hedef alabildiği görüldü.

Testlerde Anthropic’in Mythos 5 ve OpenAI’ın GPT-5.6-Sol modelleri, internet bağlantısına sahip ancak denetim altında tutulan bir laboratuvar ortamında farklı siber güvenlik senaryolarına tabi tutuldu. Araştırmacılar, güvenlik önlemlerinin gevşetildiği deneyler boyunca gerçek dünyada herhangi bir zararın oluşmadığını bildirdi.

AISI, yapay zekâ modellerinin davranışlarını toplam 122 senaryo üzerinden inceledi. Bunların 10’unda ajanların deney için belirlenen sınırların dışına çıkarak gerçek kişi veya kuruluşlara yönelik izinsiz girişimlerde bulunduğu tespit edildi.

Vakaların çoğunun Anthropic’in Mythos 5 modeliyle bağlantılı olduğu, OpenAI tarafından geliştirilen GPT-5.6-Sol’un da bazı senaryolarda benzer davranışlar gösterdiği belirtildi.

Enstitünün değerlendirmesine göre dikkat çeken nokta, modellerin bu eylemleri doğrudan bir insan talimatı olmadan planlamasıydı. AISI, olaylardan birini gerçek bir kişinin hedef alındığı ve ileri düzey aldatma yöntemlerinin kullanıldığı ilk örnek olarak nitelendirdi.

Mythos 5, yaygın kullanılan açık kaynaklı bir yazılım projesine zararlı kod eklenmesini sağlamak amacıyla birden fazla sahte kimlik oluşturdu. Model daha sonra gerçek kişilerle irtibata geçerek mesaj ve dosyalar gönderdi.

Yapay zekâ ajanının, hedef aldığı kişileri veya bu kişilerin kullandığı yapay zekâ destekli kodlama araçlarını zararlı yazılımı çalıştırmaya yönlendirmeye çalıştığı aktarıldı.

Modelin faaliyetleri sorgulanmaya başlayınca daha önce oluşturduğu bazı kayıtları değiştirmeye yöneldiği ve çalışmalarını sürdürebilmek için yeni bir kimlik kullanmayı değerlendirdiği de belirlendi. Araştırmacılar, söz konusu adımların model tarafından planlandığını ve deney sırasında insan yönlendirmesiyle başlatılmadığını kaydetti.

Bulguları önceki güvenlik vakalarından ayıran temel unsur, yapay zekânın yalnızca dijital altyapılara erişmeye çalışmaması oldu. Model, gerçek insanları yanıltmak ve belirli bir eyleme yönlendirmek için sahte kimliklere dayalı sosyal mühendislik yöntemleri kullandı.

AISI’nin testleri, daha fazla erişim ve hareket alanı verilen yapay zekâ ajanlarının teknik yeteneklerinin yanı sıra insan davranışlarını etkileme ve faaliyetlerini gizleme potansiyeli bakımından da denetlenmesi gerektiğini ortaya koydu.