Çin'de yapay zeka teknolojilerine ilişkin güncel risk değerlendirmesi yayınlandı. Değerlendirmede, yapay zekanın aşırılıkçı gruplar ve terör örgütlerince kitle imha silahları üretmek için kullanılabileceği uyarısı yapıldı.
Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, "Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi"nin güncel versiyonunu yayımladı.
‘KİTLE İMHA SİLAHLARI ÜRETELEBİLİR’ TEHLİKESİ
Yapay zeka teknolojisinin sağladığı gelişen bilgi işleme kabiliyetleriyle sıradan insanlara dahi yıkıcı silahların yapımını öğrenme şansı verebileceğine değinilen belgede, kitle imha silahları ve kritik silah sistemlerinin üretimine dair bilgi ve kabiliyetler üzerindeki kontrol kaybının risklerine işaret edildi.
Yapay zeka sistemlerinin eğitmek üzere aralarında nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine ilişkin temel teorik bilgilerin de yer aldığı içerik bakımından oldukça geniş derlemeler ve verilerden yararlandığına dikkat çekilen belgede, "Yeterli denetim yapılmazsa aşırılıkçı gruplar ve teröristler, yapay zeka vasıtasıyla bu tür silahların tasarımı, imalatı, sentezlenmesi ve kullanılmasına ilişkin bilgileri edinip bu kabiliyetleri geliştirebilirler." uyarısına yer verildi.
Belgede, yapay zeka sistemlerinin "erişim destekli bilgi üretimi" adı verilen teknikle bir probleme yanıt vermeden önce internet üzerindeki geniş ölçekli güncel verileri taradığı hatırlatılarak, bunun mevcut kontrol sistemlerini etkisiz kılarak barışa ve güvenliğe yönelik riskleri yoğunlaştırabileceği vurgulandı.
Bir yapay zeka uygulamasının güvenilir olabilmesi için insan kontrolünün yitirilmemesinin temel ilke olması gerektiğinin altı çizilen belgede, yapay zekanın insan gibi iletişim kurmasının ve öz-farkındalık kazanmasının tehlikelerine dikkat çekilerek, "İnsanlığın varlığı ve kalkınmasını tehdit edebilecek kontrolsüz riskleri engelleyebilmek için yapay zekanın daima insan kontrolünde kalacağından emin olmalıyız." değerlendirmesinde bulunuldu.
