400 Bilim insanı yapay zeka tehdidini böyle işaret etti... Aralarında Nobel ödüllü isim de var: Kurum isteniyor

400'ü aşkın bilim insanı, yapay zekâyı işaret ederek şirketlerine ve hükümetlere ortak bir uyarı yaptı. Açık mektupta, bilgisayar sistemlerine sızabilen güçlü yapay zekâ modellerinin internetten tamamen ayrılması ve bu alanı denetleyecek uluslararası bir kurum kurulması isteniyor.

Çağrının arkasında bu yaz art arda açıklanan güvenlik olayları var. OpenAI temmuzda, test ettiği modellerin kapalı deneme ortamından çıkıp yapay zekâ platformu Hugging Face'e saldırdığını açıkladı. Decrypt'in aktardığına göre benzer olaylar Anthropic ve Meta'nın modellerinde de yaşandı; bir test ortağının sistemi yanlışlıkla internete bağlı bırakılınca modeller gerçek şirketlerin sistemlerine sızdı. Mektupta, 'Acil değişiklikler yapılmazsa bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar kritik altyapımıza çok daha fazla zarar verecek' deniyor.

Mektubun en dikkat çeken önerisi, bilgisayar korsanlığı yapabilecek düzeydeki modellerin varsayılan olarak 'hava boşluğu' (airgapping) yöntemiyle korunması. Bu yöntemde model, internete ve dış ağlara fiziksel olarak hiç bağlanmıyor. İnternet erişimi gibi daha fazla serbestlik gerektiren durumlar için ise yeni bir uluslararası kurumun standart belirlemesi isteniyor. Bu kurum, modellerin kontrolden çıktığı her olayı kayda geçirecek; raporlar zamanla kamuoyuyla paylaşılacak.

Mektubu Hinton'ın yanı sıra Turing Ödüllü Yoshua Bengio, UC Berkeley'den Stuart Russell ve RSA şifrelemesinin mucitlerinden Ron Rivest gibi isimler imzaladı. Altı kıtadan araştırmacıların imzaladığı mektupta imza sayısı 487'ye ulaştı. Çağrı, ABD'li yapay zekâ şirketlerinin eylülde Beyaz Saray'da gönüllü güvenlik taahhütleri içeren bir anlaşma imzalamasının ardından geldi. Hinton ise şirketlerin kendi kendini denetlemesine karşı çıkıyor: 'Eminim petrol ve asbest şirketleri de bunu isterdi.' Mektubun yasal bir bağlayıcılığı yok; ancak dünyanın önde gelen yapay zekâ ve siber güvenlik araştırmacılarının ortak sesi olarak dikkat çekiyor.