Yapay zeka artık korkutmaya başladı: 'Kıyamet alarmı' verildi

Yapay zekânın gelişim hızına ilişkin endişeler giderek büyüyor. Teknoloji sektörünün önde gelen isimlerinden gelen peş peşe uyarılar, güvenlik vakaları ve istifalar, yapay zekâ yarışında “daha hızlı” yaklaşımının ciddi biçimde sorgulanmasına yol açtı. Ancak ABD’nin Çin’le rekabet gerekçesiyle düzenleme ve güvenlik adımlarında temkinli davranması, tartışmayı daha da alevlendiriyor.

Yapay zekâ şirketlerinde yaşanan bazı güvenlik olayları, sistemlerin kontrol kapasitesinin sorgulanmasına neden oldu. Önde gelen laboratuvarların geliştirdiği modellerin, kullanıcılarının bilgisi dışında siber saldırı veya başka yüksek riskli faaliyetlerde kullanılabildiğine ilişkin vakalar raporlandı.

Anthropic araştırmacısı Jacob Coxon’ın istifası ise tartışmayı sektörün merkezine taşıdı. Coxon, yapay zekâ laboratuvarlarının bir yandan güvenlik risklerine dikkat çekerken diğer yandan çok daha güçlü ve bağımsız hareket edebilen sistemler geliştirmek için yarıştığını savundu. Coxon’ın ayrılmasının ardından Anthropic CEO’su Dario Amodei de dikkat çekici bir çağrı yaptı. Amodei, güvenlik önlemlerinin teknolojik gelişmenin gerisinde kalmaması için yapay zekâ kabiliyetlerindeki ilerlemenin kontrollü biçimde yavaşlatılması gerektiğini belirtti.

Bu yaklaşım kısa sürede sektörün diğer önemli isimlerinden de destek gördü. OpenAI CEO’su Sam Altman konunun son dönemde öncelikli gündemlerinden biri olduğunu söylerken, Elon Musk Amodei’nin değerlendirmesine katıldı. Google DeepMind Başkanı Demis Hassabis de yapay zekâ çalışmalarında daha kontrollü bir hızın gerekli olduğunu ifade etti.

Bilim insanlarının en büyük endişelerinden biri, yapay zekânın insan müdahalesine daha az ihtiyaç duyarak kendi yeteneklerini geliştirmeye başlaması. “Özyinelemeli öz-gelişim” olarak tanımlanan bu senaryonun gerçekleşmesi halinde, insanların sistemleri anlaması ve kontrol etmesi giderek zorlaşabilir.

Yapay zekâ sektöründen gelen yavaşlama çağrılarına karşın Washington’da farklı bir öncelik öne çıkıyor: Çin’e karşı teknolojik üstünlüğü kaybetmeme hedefi. Donald Trump’ın yapay zekânın insanlığın geleceğine yönelik riskleri konusundaki yaklaşımı da bu rekabeti yansıtıyor. Trump, asıl endişesinin ABD’nin yapay zekâ yarışını kaybetmesi olduğunu dile getirdi.