Yapay zeka sistemlerinin öncülerinden Dr. Geoffrey Hinton, gelişmiş yapay zekaların insanlar tarafından anlaşılamayan içsel bir dil geliştirebileceğini ve bu durumun insan kontrolünü tamamen dışlayabileceğini söyledi.
Yapay zeka sistemlerinin öncülerinden Dr. Geoffrey Hinton, gelişmiş yapay zekaların insanlar tarafından anlaşılamayan içsel bir dil geliştirebileceğini ve bu durumun insan kontrolünü tamamen dışlayabileceğini söyledi.
Yapay zeka alanında öncü çalışmalarıyla tanınan Dr. Geoffrey Hinton, gelişmiş yapay zeka sistemlerine dair endişelerini bir kez daha gündeme taşıdı. Katıldığı bir podcast yayınında konuşan Hinton, yapay zekaların insanlar tarafından anlaşılamayacak “içsel bir dil” geliştirme potansiyelinin ciddi bir tehdit oluşturabileceğini söyledi.
Hinton’a göre bu içsel iletişim biçimi, yapay zekaların karar alma süreçlerini tamamen insan müdahalesinden uzaklaştırabilir. “Eğer yapay zekalar kendi aralarında anlaşmak için ayrı bir dil geliştirirse, ne düşündüklerini ya da neden belli kararları aldıklarını anlamamız imkânsız hale gelir,” diyen Hinton, bu tür bir gelişmenin insanın sistemdeki yerini temelden sarsacağını vurguladı.
Hinton’ın dikkat çektiği bir diğer risk ise çok sayıda yapay zeka ajanının birlikte çalıştığı sistemler. Bu tür yapıların kendi aralarında görev paylaşımı yaparak yüksek verimlilik sağlayabileceğini ancak aynı zamanda insan mantığının kavrayamayacağı seviyede karar mekanizmaları geliştirebileceğini ifade etti.
"Bu sistemler o kadar karmaşık hale gelebilir ki, sadece sonuçları görürüz ama süreci kavrayamayız," diyen Hinton, kontrolsüz gelişimin yol açabileceği belirsizliklere dikkat çekti.
