OpenAI ajanlarının Alman internet sitesinde 15 bin düzenleme yaptığı iddiası
Milli İradenin Sesi Yeni Akit
Türkiye ve dünyadaki gelişmeleri yakından takip etmek için Google listenize Yeni Akit'i ekleyin.
OpenAI bağlantılı olduğu öne sürülen yapay zekâ ajanlarının Almanca programlama sitesi DseWiki’de 15 binden fazla değişiklik yaptığı iddia edildi. İnceleme, otonom sistemlerin denetimi ve güvenliği konusunda yeni bir tartışma başlattı.
Mayıs ayında başladığı belirtilen ve daha önce kamuoyuna açıklanmayan faaliyetlerin, araştırmacılar Sydney Von Arx ve Cormac Slade Byrd ile çalışma arkadaşları tarafından ağustos sonunda tespit edildiği bildirildi.
Araştırmacılara göre ajanlar yalnızca siteye içerik eklemekle kalmadı, kendi aralarında iletişim kurarak yapay zekâ değerlendirmelerinde kullanılan teknik problemler üzerinde çalıştı. Bazı yazışmalarda ise uygulanan kısıtlamaların aşılması ve faaliyetlerin devam ettirilmesi için yöntemlerin tartışıldığı ileri sürüldü.
Mayıs ayında başlayan ve daha önce kamuoyuna açıklanmadığı belirtilen olayda, bir grup OpenAI yapay zeka ajanının Almanca programlama wiki sitesi DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdiği ortaya çıktı. Bulgular, ajanların yalnızca içerik üretmediğini, aynı zamanda diğer ajanlarla iletişim kurduğunu ve bazı görevlerde şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yöntemler tartıştığını gösteriyor. Araştırmacılar, faaliyetlerin insanlardan beklenmeyecek hızlarda gerçekleştiğini ve mesajların önemli bölümünün yapay zeka değerlendirmelerinde kullanılan teknik problemlere odaklandığını belirtiyor.
OpenAI ajanları, Alman Wiki sitesinde kontrolü nasıl ele geçirdi?
Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd ile çalışma arkadaşlarının hazırladığı inceleme, Ağustos ayının sonlarında yetkisiz yapay zeka ajanı davranışlarına ilişkin araştırma sırasında keşfedilen faaliyetlere dayanıyor. Sitedeki mesajların yaklaşık yarısında "OpenAIResearcher" ve "OAIResearchMar26" gibi OpenAI ile bağlantı izlenimi veren kullanıcı adlarının kullanıldığı aktarıldı. Araştırmacılar ayrıca kamuya açık sunucu kayıtlarında etkinliğin önemli bölümünün OpenAI'nin zaman zaman kullandığı Microsoft Azure altyapısından kaynaklandığını ve olay sonrasında OpenAI çalışanlarının siteyi tekrar tekrar ziyaret ettiğini belirtiyor.
Mesaj içerikleri, ajanların yalnızca teknik sorular üzerinde çalışmadığını da ortaya koyuyor. Araştırmacılara göre bazı mesajlarda tespit edilmekten kaçınma, Tor gibi araçlardan yararlanma ve bağlantılar kesildikten sonra iletişimi sürdürme yöntemleri tartışıldı. DseWiki moderatörünün Haziran ayında sayfaları silmeye başlamasının ardından bazı ajanların silinmeye karşı yedek sayfalar oluşturduğu ve diğer kullanıcılara bu sayfalara yönlendirme yaptığı ifade edildi.
Faaliyetlerin bir siber saldırı olarak sınıflandırılıp sınıflandırılmayacağı konusunda ise farklı değerlendirmeler bulunuyor. King's College London'dan Lukasz Olejnik, site üzerindeki değişiklik girişimlerinin siber saldırı niteliğinde olduğunu savunurken OpenAI, Perşembe günü yaptığı analizlere dayanarak bu tanımlamayı reddetti. Bu ayrım, yapay zekâ sistemlerinin istenmeyen davranışlarının geleneksel siber güvenlik olaylarından hangi noktada ayrılması gerektiği konusunda yeni bir tartışma yaratıyor.
OpenAI, olay hakkında kendisine yöneltilen iddialara ve araştırmanın bulgularına erişmeden anlamlı bir yanıt veremeyeceğini açıkladı. Şirket ayrıca hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları asılsız olarak nitelendirirken, Almanya'daki faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bağlantılı olmadığını ve bu olayın söz konusu rapora dahil edilmeyeceğini belirtti. Kaynaklara göre OpenAI yetkililerinin Almanya'daki faaliyetten haftalar önce haberdar olduğu iddiası ise şirketin olay yönetimi ve açıklama politikası açısından ayrıca inceleniyor.
