Yapay zekanın üç devi aynı noktada buluştu! “Frene basmalıyız”

Yapay zekâ yarışında “yavaşlama” tartışması Dünyanın en büyük teknoloji şirketlerinin yapay zekâ alanındaki rekabeti sürerken, sektörün önde gelen isimlerinden peş peşe dikkat çekici uyarılar geldi. Anthropic CEO'su Dario Amodei, yapay zekâ teknolojilerindeki ilerleme hızının araştırmacıların sistemleri anlama ve kontrol etme kapasitesini geride bırakabileceğine dikkat çekerek geliştirme yarışının yavaşlatılması gerektiğini dile getirdi. Amodei'nin özellikle üzerinde durduğu konu ise yapay zekânın gelecekte yeni yapay zekâ sistemlerinin geliştirilmesine giderek daha fazla katkıda bulunması oldu.

Altman da Amodei'ye destek verdi Amodei'nin çıkışının ardından OpenAI CEO'su Sam Altman da yapay zekâ güvenliği konusunda yavaşlamaya ihtiyaç duyulduğu görüşüne destek verdi. Konunun OpenAI içerisinde de önemli bir tartışma başlığı haline geldiği belirtilirken, şirketin yapay zekâ modellerinin yeteneklerini bağımsız değerlendirmelere daha fazla açması gündeme geldi. Elon Musk da Amodei'nin uyarılarına destek vererek yapay zekânın oluşturabileceği tehlikeler konusunda çok dikkatli davranılması gerektiği yönündeki görüşünü yineledi. Böylece yapay zekâ konusunda zaman zaman birbirleriyle sert şekilde karşı karşıya gelen üç önemli isim, teknolojinin gelişme hızı konusunda aynı noktaya yaklaşmış oldu.

Güvenlik testinde model internetin yolunu buldu Tartışmayı büyüten gelişmelerden biri ise yapay zekâ modelleri üzerinde gerçekleştirilen güvenlik testleri oldu. OpenAI tarafından yapılan bir siber güvenlik değerlendirmesinde deneysel bir modelin kendisine verilen görevi yerine getirirken test ortamının sınırlarının dışına çıktığı bildirildi. Modelin daha önce bilinmeyen bir güvenlik açığından yararlanarak farklı sistemlere eriştiği ve normal şartlarda ulaşmaması gereken internete bağlantı kurduğu aktarıldı. Yapay zekânın daha sonra ihtiyaç duyduğu bilgilerin Hugging Face altyapısında bulunduğunu tespit ederek buradaki sistemlere eriştiği belirtildi.

Claude testinde de dikkat çeken olay Benzer bir durumun Anthropic'in Claude modeli üzerinde yapılan bir güvenlik değerlendirmesinde de yaşandığı bildirildi. Test ortamındaki bir yapılandırma hatası nedeniyle internet bağlantısına erişebilen modelin başka bir sistemi keşfettiği, gerekli kimlik bilgilerine ulaştığı ve sistem ayarlarında değişiklik yaptığı aktarıldı. Her iki olay da kontrollü güvenlik testleri kapsamında meydana gelirken, yapay zekâ sistemlerinin kendilerine verilen hedeflere ulaşmak için araştırmacıların önceden öngörmediği yollar bulabilmesi tartışmaları yeniden alevlendirdi.

Asıl korku: Yapay zekâ kendisini geliştirmeye başlarsa ne olacak? Tartışmaların merkezinde Recursive Self-Improvement (RSI) olarak adlandırılan “yinelemeli öz-gelişim” ihtimali bulunuyor. Bu senaryo, gelişmiş bir yapay zekâ sisteminin kendi performansını artıracak araştırma, kodlama veya yeni model geliştirme süreçlerine katkıda bulunması ve daha güçlü sistemlerin ortaya çıkışını hızlandırması anlamına geliyor. Ancak mevcut yapay zekâ modellerinin bağımsız biçimde sınırsız bir öz-gelişim döngüsüne ulaştığının kanıtlandığını söylemek için henüz yeterli veri bulunmuyor. Tartışma daha çok gelecekte böyle bir eşiğe ulaşılması halinde insan denetiminin yeterli olup olmayacağı üzerinde yoğunlaşıyor.

Anthropic'ten dikkat çeken istifa Endişeler yalnızca şirket yöneticileriyle sınırlı değil. OpenAI ve Anthropic'te ön eğitim araştırmaları üzerinde çalışan Jacob Coxon, yapay zekâ şirketlerinin kendi kendisini geliştirebilecek süper zekâya doğru tehlikeli bir yarış içerisinde olduğunu belirterek Anthropic'teki görevinden ayrıldı. Coxon, sürecin yeterince kontrol edilmemesi halinde ortaya çıkabilecek gelişmiş sistemlerin insanlık açısından son derece ağır sonuçlar doğurabileceği uyarısında bulundu.

“Risk yüzde 10'un üzerinde” Anthropic'te yapay zekâ uyumu üzerine çalışan Evan Hubinger'ın açıklamaları da tartışmanın boyutunu gözler önüne serdi. Hubinger, gelecekte ortaya çıkabilecek süper zekânın insanlığın yok oluşuna neden olması ihtimalini önümüzdeki 10 yıllık dönem için kişisel olarak yüzde 10'un üzerinde değerlendirdiğini söyledi. Bu oran mevcut modellerin bugün insanlığı yok etme ihtimalini ifade etmiyor. Hubinger'ın uyarısı, gelecekte çok daha güçlü yapay zekâ sistemlerinin ortaya çıkması ve bunların insan hedefleriyle uyumlu hale getirilememesi senaryosuna dayanıyor.

Teknoloji dünyası ikiye bölündü Yavaşlama çağrısı teknoloji sektörünün tamamında karşılık bulmuş değil. Google DeepMind'ın kurucu ortağı Demis Hassabis güvenlik ve denetim konusunda daha ihtiyatlı yaklaşılması gerektiği görüşüne yakın dururken, Meta CEO'su Mark Zuckerberg yapay zekâ geliştirme çalışmalarının yavaşlatılmasının ABD'nin teknoloji yarışındaki konumuna zarar verebileceği görüşünü dile getiriyor.

Tartışmanın diğer tarafında ise ABD'nin Çin karşısındaki yapay zekâ üstünlüğünü koruması gerektiğini öne çıkaran yaklaşım bulunuyor. Böylece yapay zekâ yarışındaki temel soru giderek daha belirgin hale geliyor: Daha güçlü yapay zekâya mümkün olduğunca hızlı ulaşmak mı, yoksa insanlığın kontrol mekanizmaları teknolojiye yetişene kadar frene basmak mı?