Altman’dan yapay zeka mesajı: Endişe haklı, güvenlik sağlanamazsa geliştirme durmalı

Yapay zeka modellerinin geliştirilmesinde güvenliğin geride kalması halinde çalışmaların yavaşlatılması, hatta durdurulması gerektiğini söyleyen OpenAI CEO’su Sam Altman, şirketlerin sorumluluğuna dikkat çekti. Altman, modellerin yetenekleri artarken güvenlik ve insan değerleriyle uyum çalışmalarının bu ilerlemenin çok önünde bulunması gerektiğini vurguladı.

Salesforce’un San Francisco’da düzenlediği yıllık konferansta konuşan Altman, insanların yapay zekaya ilişkin kaygılarının haklı olduğunu ifade etti. Teknolojinin hızla güçlenmesinin, yol açabileceği olumsuz sonuçları öngörmeyi de kolaylaştırdığını belirtti.

Altman, risklere yönelik uyarılarının yanında, yapay zeka geliştiren şirketlerin gerekli güvenlik adımlarını atacağına inanılması gerektiğini savundu.

“Dünya, doğru olanı yapacağımıza güvenmeli. Çünkü bunun doğru şey olduğunu biliyoruz ve konunun büyüklüğünün farkındayız” diyen Altman, güvenlik çalışmalarında gerekli seviyenin korunamaması durumunda geliştirme süreçlerini yavaşlatacaklarını veya tamamen durduracaklarını söyledi.

ABD’de yapay zeka düzenlemeleri üzerinde siyasi uzlaşma sağlanamazken, şirketlerin kendi faaliyetlerini denetlemesi fikri de itirazlarla karşılaşıyor. Bazı siyasi yetkililer, denetim sorumluluğunun şirketlerin kendilerine bırakılmasına karşı çıkıyor.

Nvidia CEO’su Jensen Huang ise yeni modellerle ilgili kararların şirketler tarafından alınmasını savunuyor. Güvenliği bir mühendislik sorunu olarak değerlendiren Huang, yeni yasalara ihtiyaç olmadığını ve şirketlerin ürünlerine güven duymadıkları durumda geliştirmeye ara vermesi gerektiğini belirtiyor.

Anthropic yöneticisi Jack Clark’ın yaklaşımı ise farklı. Clark, yapay zekanın tamamen denetimsiz bırakılmasının büyük riskler taşıdığı görüşünde.

Sektördeki bu farklı tutumlar, güvenliğin nasıl sağlanacağı kadar, kuralları kimin belirleyeceği konusunda da ortak bir yaklaşım bulunmadığını gösteriyor.