Uzmanlar endişeli! Çernobil benzeri felaket bekliyorlar

Yapay zeka alanındaki hızlı gelişim, teknoloji dünyasında heyecan kadar ciddi güvenlik endişelerini de beraberinde getiriyor. ABD ve Çin’deki önde gelen araştırmacılar, kontrolsüz ilerleyen yapay zekanın siber güvenlikten biyoteknolojiye kadar birçok alanda büyük riskler doğurabileceği uyarısında bulunuyor. Uzmanlara göre yapay zeka yarışının teknoloji şirketlerinin ötesine geçerek ABD ile Çin arasında stratejik bir rekabet alanına dönüşmesi, güvenlik kaygılarının ikinci plana itilmesine neden oluyor. MIT’de görev yapan bilgisayar bilimcisi Stephen Casper, Pekin’de düzenlenen bir yapay zeka konferansında yaptığı açıklamada, sektörün en büyük korkularından birinin yapay zekanın kendi “Çernobil anını” yaşaması olduğunu söyledi. Casper, yapay zekanın küresel ölçekte fayda sağlayabilecek bir teknoloji olduğunu ancak oluşturabileceği zararların da küresel çapta hissedilebileceğini belirtti.

Araştırmacılar, kontrolsüz şekilde gelişen yapay zeka sistemlerinin çok sayıda insanın hayatını kaybetmesine yol açabilecek büyük bir olaya neden olmasından endişe ediyor. Bu nedenle uzmanlar, yapay zeka güvenliği konusunun yalnızca şirketlerin ya da ülkelerin iç meselesi olmaktan çıktığını, küresel düzeyde ele alınması gerektiğini savunuyor. Casper’ın Çernobil benzetmesi, yalnızca olası fiziksel zararları değil, aynı zamanda yapay zekaya yönelik toplumsal güvenin sarsılması riskini de gündeme taşıyor. 1986’daki Çernobil felaketinin nükleer enerjiye yönelik bakışı uzun yıllar etkilediği hatırlatılırken, benzer büyüklükte bir yapay zeka krizinin de bu teknolojinin gelişimini uzun süre sekteye uğratabileceği değerlendiriliyor.

Yapay zekanın oluşturabileceği tehditler konusunda uzmanlar arasında farklı değerlendirmeler bulunuyor. Bazıları kontrolden çıkan süper zeka ihtimalini öne çıkarırken, bazıları milyonlarca insanın işini kaybetmesine yol açabilecek ekonomik dönüşüme dikkat çekiyor. Son dönemde ise en fazla tartışılan risklerin başında siber güvenlik geliyor. Büyük dil modelleri artık yalnızca metin üretmekle kalmıyor, aynı zamanda yazılım geliştirme ve karmaşık kod yazma konusunda da güçlü sonuçlar ortaya koyabiliyor. Bu durum yazılım süreçlerini hızlandırırken, kötü niyetli kişilerin yapay zekayı siber saldırılar için kullanabileceği endişesini artırıyor.

Uzmanlara göre yapay zeka destekli ajanlar ve kod üretme araçları, siber saldırıların ölçeğini büyütebilir. Daha önce ileri teknik bilgi gerektiren saldırıların, yapay zeka araçları sayesinde daha geniş bir kitle tarafından gerçekleştirilebilir hale gelmesi güvenlik çevrelerinde ciddi bir risk olarak görülüyor. Yapay zeka şirketlerinin bazı açıklamaları da bu endişeleri güçlendiriyor. Anthropic’in yeni modeline ilişkin yaptığı değerlendirmelerde, gelişmiş yapay zeka sistemlerinin kötü niyetli kişilerin elinde tehlikeli olabileceğine dikkat çekmesi, güvenlik tartışmalarını yeniden gündeme taşıdı.

Yapay zeka risklerinin giderek daha ciddi hale geldiği belirtilirken, ABD ile Çin arasındaki jeopolitik rekabet ortak önlemlerin alınmasını zorlaştırıyor. Stephen Casper, bu noktada Soğuk Savaş döneminde ABD ile Sovyetler Birliği arasında nükleer silah risklerini azaltmaya yönelik kurulan mekanizmaları hatırlatıyor. Uzmanlar, ABD ve Çin’in yapay zeka alanında rekabet etmeye devam ederken aynı zamanda büyük felaket risklerini azaltacak ortak kurallar ve güvenlik mekanizmaları geliştirmesi gerektiğini belirtiyor.

Araştırmacılara göre olası büyük bir yapay zeka felaketinin etkileri tek bir ülkeyle sınırlı kalmayacak, tüm dünyayı etkileyecek.

Yapay zeka alanındaki hızlı ilerleme, ekonomik ve teknolojik fırsatların yanında ağır güvenlik sorumluluklarını da beraberinde getiriyor. Uzmanlar, kontrolsüz yarışın insanlık için yeni bir kırılma noktasına dönüşmemesi için ülkelerin ve şirketlerin güvenlik öncelikli bir yaklaşım benimsemesi gerektiği uyarısında bulunuyor.