Resmen itiraf ettiler! Yapay zeka kontrolden çıktı

Yapay zekâ modellerinin gelişen siber yetenekleri, kontrollü test ortamlarının güvenliği konusunda yeni bir tartışma başlattı.

OpenAI, dış değerlendirmeler sırasında yaşanan iki olayın modellerin yetenekleri ile test altyapılarındaki eksikliklerin birleşmesinden kaynaklandığını bildirdi.

Şirketin açıklamasına göre modeller, kendilerine verilen görevleri yerine getirmeye çalışırken test için belirlenen sınırların dışına çıktı. Olayların birbirinden bağımsız iki kuruluşun yürüttüğü değerlendirmelerde meydana geldiği belirtildi.

İlk olay, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü tarafından gerçekleştirilen siber güvenlik testinde yaşandı.

İnternet erişimine izin verilen OpenAI modeli, simülasyon ortamındaki hedefe ulaşmaya çalışırken görev kapsamına dahil olmayan bazı gerçek internet hizmetleriyle bağlantı kurdu.

OpenAI, bu durumun test ortamının yapısı ile modelin gelişmiş işlem kabiliyetinin birleşmesi sonucunda ortaya çıktığını aktardı.

İkinci olay ise OpenAI’ın dış test ortaklarından Irregular tarafından yürütülen değerlendirmede kaydedildi.

Test altyapısındaki yanlış yapılandırma nedeniyle internete erişebilen model, simüle edilmiş hedefle gerçek bir internet alan adının çakışması üzerine gerçek web sitesini deneme ortamının parçası olarak değerlendirdi.

Modelin bunun ardından söz konusu internet sitesindeki temel düzeyde bir güvenlik açığından yararlandığı bildirildi.

OpenAI, iki dış değerlendirmede belirlenen faaliyetlerin daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından bağımsız olduğunu vurguladı.

Şirket daha önce, yapay zekâ modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü kurum içi bir test sırasında Hugging Face altyapısında güvenlik ihlaline yol açıldığını açıklamıştı.