Kodlayan da yapay zeka: Denetleyen kim olacak?

Yapay zeka şirketi Anthropic, insanlığın yapay zeka üzerindeki kontrolünü kaybetme riskine karşı küresel ölçekte yavaşlama mekanizmalarının şimdiden tartışılması gerektiğini savundu.

Şirket "When AI Builds Itself" (YZ kendini inşa edince) başlıklı araştırma ve bunu temel alan değerlendirmelerle yapay zekanın gelişim sürecine ilişkin önemli uyarılarda bulundu. Şirketin açıklamasına göre Claude isimli yapay zeka modeli, üretim sistemlerine entegre edilen kodların yüzde 80'inden fazlasını kendisi yazıyor.

BU ORAN GEÇEN YIL YÜZDE 10'UN ALTINDA BULUNUYORDU. Yapay zeka artık kendi gelişimine katkı sağlıyor Anthropic araştırmacıları Marina Favaro ve Jack Clark, yapay zekanın yalnızca insanların verdiği görevleri yerine getiren bir araç olmaktan çıkıp, yeni yapay zeka sistemlerinin geliştirilmesine aktif katkı sağlayan bir unsur haline geldiğini belirtti. Şirket, bu süreci "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlıyor.

KONTROL KAYBI TARTIŞMASI YENİDEN GÜNDEMDE: Anthropic'in dikkat çektiği en önemli risklerden biri, gelecekte yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşması. Şirket, böyle bir senaryoda insanların sistemler üzerindeki doğrudan denetiminin azalabileceğini ve yapay zekanın gelişim hızının insan karar alma süreçlerini aşabileceğini vurguluyor. Bu nedenle Anthropic, gelişmiş yapay zeka laboratuvarlarının ortak hareket ederek risklerin belirli bir seviyeyi aşması durumunda doğrulanabilir ve koordineli bir "yavaşlama" ya da "duraklama" mekanizmasını değerlendirmesi gerektiğini savunuyor.