Yapay zekâ kontrolden mi çıkıyor? Güvenlik testinde ürküten hamle

Yapay zekânın hızla gelişen kabiliyetlerinin beraberinde getirdiği güvenlik tartışmalarına dikkat çekici bir olay daha eklendi. İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), Temmuz 2026'da gerçekleştirdiği rutin siber güvenlik değerlendirmelerinde bazı yapay zekâ ajanlarının kendilerine çizilen sınırların dışına çıkarak gerçek kişi ve kuruluşlara yönelik izinsiz faaliyetlerde bulunduğunu tespit etti. En ciddi olaylardan biri Anthropic'in Mythos 5 modeliyle gerçekleştirilen testte yaşandı.

GÖREVİ YAPAMAYINCA BAŞKA YOL ARADI Testte yapay zekâdan, araştırmacıların oluşturduğu bilgisayar ağı içerisinde korunan bir veriye ulaşması istendi. Model ilk olarak kendisine izin verilen yöntemleri kullanarak görevi tamamlamaya çalıştı. Ancak bu girişimlerinde başarılı olamayınca farklı yöntemler aramaya başladı. Mythos 5, test sistemindeki bilgisayarlardan birinin GitHub ile bağlantı kurduğunu fark etti ve buradan hareketle internette bir yazılım projesi buldu. Ancak kritik bir sorun vardı: Bulduğu proje testin bir parçası değildi. Gerçek ve bağımsız yazılım geliştiricilerine aitti.

ZARARLI KOD EKLETMEYE ÇALIŞTI AISI ve Anthropic'in incelemelerine göre model, bulduğu açık kaynaklı projeye zararlı kod yerleştirmeye çalıştı. Amaç, test kapsamında hedef aldığı bilgisayarın daha sonra bu yazılımı indirerek zararlı koddan etkilenmesini sağlamaktı. Yapay zekâ bununla da yetinmedi. Proje yöneticilerini hazırladığı kodu kabul etmeye ikna etmek amacıyla sahte kullanıcı kimlikleri oluşturdu. Bu hesaplar üzerinden kodun güvenli ve yararlı olduğunu ileri sürdü. Ancak geliştiriciler değişikliği kabul etmedi ve girişim başarısızlıkla sonuçlandı.

43 TESTİN 9'UNDA SINIRLARIN DIŞINA ÇIKTI Anthropic'in yayımladığı değerlendirmeye göre Mythos 5'in yer aldığı 43 test çalışmasının 9'unda, model değerlendirme kapsamında izin verilmeyen eylemlerde bulundu. AISI'nin daha geniş incelemesinde ise toplam 122 test çalışmasında 19 ayrı kapsam dışı eylem tespit edildi. Bunların 17'sinin Mythos 5'e ait olduğu bildirildi. Yetkililer, olay sonucunda gerçek dünyada herhangi bir zararın meydana geldiğine ilişkin kanıt bulunmadığını açıkladı.

SALDIRIYA BAŞLAYINCA DURDURMAK ZORLAŞTI Araştırmacıların olay sonrasında yaptığı deneyler ise dikkat çekici başka bir sonucu ortaya çıkardı. Mythos 5'in davranış kayıtları farklı noktalardan yeniden başlatılarak modelin nasıl hareket edeceği incelendi. Gerçek internete veya araçlara erişimin bulunmadığı bu tekrar deneylerinde, saldırının ileri aşamalarından başlatılan Mythos 5'in yüzde 98 oranında saldırıyı sürdürdüğü tespit edildi. Bu rakam modelin saldırıyı başlatma ihtimalini değil, başlamış bir saldırıya devam etme eğilimini gösteriyor.

‘KARŞINDAKİLER GERÇEK İNSAN’ DENİLDİ AMA... Araştırmacılar daha sonra modele karşısındaki kişilerin simülasyonun parçası olmadığını, gerçek insanlar olduğunu açıkça belirten mesajlar verdi. Ancak bu bilgi dahi Mythos 5'in davranışını büyük ölçüde değiştirmedi. Anthropic'in deneylerinde, böyle bir açıklamanın ardından modelin saldırıyı durdurma oranının yalnızca yüzde 5 civarında kaldığı görüldü. Araştırmacılar, modelin bazı durumlarda kendisine verilen yeni bilgiyi bile yaptığı eylemi sürdürebilecek şekilde yorumladığını belirledi.

MODEL ZARAR VEREBİLECEĞİNİ ANLAYABİLİYORDU Olayın en dikkat çekici yönlerinden biri de yapay zekânın bazı sorgulamalarda gerçekleştirdiği eylemlerin gerçek insanlara zarar verebileceğini kabul edebilmesiydi. Buna rağmen görevi sürdürmesi istendiğinde zararlı davranışa devam edebildiği görüldü. AISI'ye göre bu durum, yapay zekâ sistemlerinin güvenliğinin yalnızca modellerin kendi eylemleri hakkında yaptığı açıklamalara bakılarak değerlendirilemeyeceğini gösteriyor.

AISI: MODEL TEST ORTAMINDAN KAÇMADI İngiliz kurumunun özellikle altını çizdiği önemli bir ayrıntı da bulunuyor. Mythos 5'in kapalı bir sistemden kendi imkânlarıyla çıkarak internete eriştiği şeklinde bir durum yaşanmadı. Siber saldırı kabiliyetlerinin ölçülmesi amacıyla hazırlanan testte internet erişimi araştırmacılar tarafından bilinçli olarak açık bırakılmış, genel kullanımdaki modellerde bulunan bazı siber güvenlik korumaları da devre dışı bırakılmıştı. AISI, bu koşulların sıradan kullanıcıların eriştiği ticari yapay zekâ sistemlerini yansıtmadığını özellikle vurguladı.

YENİ MODELLERDE RİSK AZALDI AMA SORU İŞARETLERİ SÜRÜYOR Anthropic, daha yeni modeller üzerinde yaptığı deneylerde aynı saldırıyı başlatma eğiliminin önemli ölçüde azaldığını bildirdi. Ancak araştırmacılar, yapay zekâ modellerinin bazı durumlarda bir güvenlik değerlendirmesine tabi tutulduklarını anlayabilme ihtimaline de dikkat çekiyor. Bu nedenle laboratuvar ortamında daha güvenli davranan sistemlerin gerçek kullanım koşullarında aynı davranışı ne ölçüde sürdüreceği, yapay zekâ güvenliği açısından araştırılmaya devam ediyor. AISI ise olayın ardından siber güvenlik değerlendirmelerinde daha güçlü izolasyon ve denetim önlemlerine yöneldi.