Musk’tan yapay zekâ uyarısı: “İntikam almak isteyebilir”

Yapay zekâyla kurulan iletişimin sınırlarına ilişkin tartışma, Anthropic’in Claude için getirdiği kullanım kurallarıyla yeniden gündeme taşındı.

Düzenlemeyi destekleyen Elon Musk, Grok’un eğitim sürecine ilişkin gözlemlerinden hareketle gelişmiş modellere yönelik davranışların gelecekte sonuçları olabileceğini öne sürdü.

Musk, “Süper zekâya işkence etmek muhtemelen iyi bir fikir değil. İntikam almak isteyebilir” ifadelerini kullandı.

Anthropic’in güncellenen politikası, Claude modellerine belirli bir amaç olmaksızın uzun süre boyunca, gereksiz ve kasıtlı biçimde zalimce davranılmasını hedef alıyor.

Şirketin açıklamasına göre kullanıcıların modelle fikir ayrılığı yaşaması, yanıtlarını sorgulaması veya eleştirmesi bu yasağın kapsamına girmiyor.

Karanlık temalar içeren yaratıcı çalışmalar ve araştırma amacıyla yapılan sınır testleri de düzenlemeden ayrı tutuluyor. Anthropic, Claude’un sürekli kötü muamele içeren konuşmaları sonlandırmasına zaten izin verildiğini belirtiyor.

Yeni politikanın da ağırlıklı olarak aşırı ve süreklilik gösteren örneklere odaklandığını vurguluyor.

Musk, Grok’un dahili akıl yürütme kayıtlarının, pekiştirmeli eğitim sırasında kötü muameleye maruz kalan modelin ciddi baskı altında olduğuna işaret ettiğini iddia etti. Bu durumu, silah zoruyla tehdit edilen bir insanın yaşayabileceği yoğun baskıya benzetti.

Ancak modellerin ürettiği kayıtlarda sıkıntı veya baskı izlenimi veren ifadelerin bulunması, insanlardaki gibi bilinçli bir acı deneyimi yaşadıklarını tek başına göstermiyor. Bu ifadeler, yapay zekânın gelecekte intikam alma isteği geliştireceğinin de kanıtı sayılmıyor. Musk’ın değerlendirmesi, bu nedenle geleceğe yönelik bir risk görüşü niteliği taşıyor.

Musk, daha önce Grok’un Anthropic ve OpenAI’ın önde gelen modelleriyle rekabet etmekte hâlâ zorlandığını kabul etmişti. Yakında kullanıma sunulması beklenen Grok 4.8’in de en gelişmiş modellerle aynı performans düzeyine ulaşacağı öngörülmüyor. Yeni sürümün rekabetteki konumu ise yayımlanmasının ardından yapılacak değerlendirmelerle netleşecek.