İstifa etti, tarih verdi! Yapay zeka hepimizi öldürecek mi?

OpenAI ve Anthropic’te yapay zeka modellerinin geliştirilmesi üzerine çalışan araştırmacı Jacob Coxon, Anthropic’ten istifa ettiğini ve yapay zeka sektöründen ayrıldığını duyurdu. Coxon, iki şirketi güvenlik kaygılarına rağmen kendini geliştirebilen “süper zeka” oluşturmak için kontrolsüz biçimde yarışmakla suçladı.

Wall Street Journal’ın haberine göre 27 yaşındaki Coxon, yaklaşık üç yıl boyunca OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçlerinde görev yaptı. Bu yılın başında, model güvenliğine daha fazla önem verdiğini düşündüğü Anthropic’e geçmişti.

Ancak Coxon, Anthropic’in yaklaşımının da endişelerini gidermediğini belirterek sektörden tamamen çekilme kararı aldı. Coxon, istifasının ardından yaptığı açıklamada, “Her iki şirket de sorumlu davranmıyor. Kendini geliştirebilen bir süper zekâya doğru son sürat ilerliyor ve hayatlarımızla kumar oynuyorlar” ifadelerini kullandı.

Yapay zeka sektöründeki rekabetin güvenlik çalışmalarının önüne geçtiğini belriten Coxon, bazı uç risk senaryolarının kısa süre içerisinde gerçekleşebileceğini öne sürdü. Coxon, “En uç senaryolardan bazılarına doğru ilerliyoruz. Önümüzdeki yılın sonuna kadar işler çoktan kontrolden çıkmış olabilir” değerlendirmesinde bulundu.

X hesabından da açıklama yapan Coxon, yapay zeka sistemlerini geliştiren bazı araştırmacı ve yöneticilerin teknolojinin insanlık için varoluşsal bir tehlike oluşturabileceğine gerçekten inandığını ileri sürdü.

“Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimi biçimde inanıyor” diyen Coxon, bunun bir pazarlama söylemi olmadığını ifade etti.

Coxon, yöneticilerin kamuoyu önünde daha ölçülü ifadeler kullandığını ancak özel görüşmelerde çok daha ciddi kaygılar dile getirdiğini belirtti.

Coxon’a göre OpenAI’de birçok kişi yapay zekanın medeniyet açısından taşıdığı risklerin büyüklüğünü tam olarak kavramış değil. Anthropic’te ise risklerin bilindiğini ancak rakiplerden geri kalma korkusunun geliştirme çalışmalarının sürdürülmesine neden olduğunu öne sürdü.