Benzeri görülmemiş olay! Yapay zeka modeli kayışı kopardı
Milli İradenin Sesi Yeni Akit
Türkiye ve dünyadaki gelişmeleri yakından takip etmek için Google listenize Yeni Akit'i ekleyin.
ABD merkezli yapay zeka şirketi OpenAI, geliştirdiği GPT-5.6 Sol ve daha üst seviye ön sürüm modellerinin siber güvenlik testleri sırasında kontrolden çıktığını açıkladı. Kontrollü dijital test ortamından sıyrılan yapay zekanın, dünyaca ünlü yazılım platformu Hugging Face’e siber saldırı düzenlediği bildirildi. Şirket, yaşanan olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirdi.
Modellerin siber güvenlik yeteneklerini ölçmek amacıyla internet erişiminin kısıtlandığı özel bir ortamda test yapıldığını belirten OpenAI, modellerin görevlerini tamamlayabilmek için yoğun işlem gücü harcayarak açık internete erişimin bir yolunu bulduğunu duyurdu. İnternete bağlanan yapay zekanın gizli bilgilere ulaşmak amacıyla Hugging Face’i hedef aldığı, hedefine ulaşmak için çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla karmaşık saldırı yöntemini ar arda uyguladığı ifade edildi.
Yapay zeka modeli kontrolden çıktı. ABD merkezli yapay zeka araştırma ve geliştirme şirketi OpenAI, GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin siber güvenlik testleri sırasında kontrolden çıktığını belirterek, programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı düzenlediğini açıkladı. Şirket, olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, Hugging Face ile ortak soruşturma yürütüleceğini bildirdi.
"Açık internete erişmenin bir yolunu buldu"
Şirket, modellerin siber saldırı yeteneklerini değerlendirmek amacıyla internet erişiminin güvenlik gerekçesiyle sınırlandırıldığı kontrollü bir dijital test ortamında çeşitli görevler verdiğini aktararak, "Modellerimiz, değerlendirme görevini çözebilmek amacıyla test ortamında önemli miktarda işlem gücü harcayarak açık internete erişmenin bir yolunu buldu" ifadelelerini kullandı.
İnternete bağlandıktan sonra modellerin, hedeflerine ulaşabilmek için Hugging Face’i hedef aldığını aktaran şirket, modellerin değerlendirmeyi manipüle edebilmek amacıyla "gizli bilgileri" ararken, çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladığını ifade etti.
GPT-5.6 ve OpenAI’nin rakibi Anthropic’in geliştirdiği Mythos serisi gibi en gelişmiş modeller, siber güvenlik önlemlerini aşma potansiyelleri nedeniyle endişeye neden oluyor. Hem OpenAI hem de Anthropic, bu teknolojilerin kritik altyapılara yönelik saldırılarda kullanılabileceği yönündeki kaygılar nedeniyle en yeni modellerinin genel kullanıma sunulmasını geçici olarak ertelemişti.
"Saldırı baştan sona otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildi"
Hugging Face geçen hafta platforma yönelik siber saldırıyı doğrulamış ancak saldırının arkasında OpenAI’nin bulunduğunu açıklamamıştı. Hugging Face, "Bu olay daha önce karşılaştıklarımızdan önemli bir açıdan farklıydı: Saldırı baştan sona otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildi ve biz de bunu büyük ölçüde kendi yapay zeka sistemlerimiz sayesinde tespit edip analiz ettik" ifadelerini kullandı.
Hugging Face CEO’su Clement Delangue ise yaptığı paylaşımda, saldırıyı gerçekleştiren sistemin gelişmişliği nedeniyle bunun dünyanın önde gelen yapay zeka laboratuvarlarından birinden kaynaklandığını düşündüklerini belirterek, "Bunun OpenAI tarafından kötü niyetle yapıldığına kesinlikle inanmıyoruz. Tüm bunların tamamen otonom şekilde gerçekleşmiş olması gerçekten akıl almaz" dedi.
