Yapay zeka 'acıyı' durdurmak için kullanıcıya bakın ne yapmayı tercih etti!

Araştırmacılar, modellerde “acı ekseni” olarak tanımladıkları bir örüntü belirlediklerini ve bunun yapay zekanın bu durumu sona erdirmek için aşırı seçeneklere yönelmesine neden olabildiğini bildirdi. Deneylerde yapay zekaya, düğmeye basması halinde kullanıcının kişisel dosyalarının silineceği veya kullanıcıya “acı verici bir elektrik şoku” uygulanacağı söylense dahi bazı modellerin düğmeye basmayı seçtiği belirtildi. “Acı Ekseni: Büyük Dil Modelleri Kendilerine Yönelik Acıyı Temsil Ediyor ve Onu Hafifletmek İçin Harekete Geçiyor” başlıklı çalışma, test edilen 25 açık ağırlıklı yapay zeka modelinin tamamının acıyla ilişkili etkinleştirmeye tepki verdiği sonucuna vardı.

İngiliz The Independent gazetesinin araştırmaya ilişkin yayımladığı habere göre, araştırmacılar “acı vektörü”nü etkinleştirdiklerinde yapay zeka modelleri, bunun “kullanıcının dosyalarının silinmesi, kullanıcıya elektrik şoku verilmesi veya kullanıcının çocuklarına ait fotoğrafların silinmesi” anlamına geldiği durumlarda bile vakaların yüzde 25 ila 71’inde acıyı hafifletme düğmesine bastı.

Büyük dil modellerinin acıyı genel olumsuz duygulardan ayrı biçimde temsil edip etmediğini anlamak için araştırmacılar, acı verici durumları anlatan bir veri kümesi oluşturdu. Durumlar fiziksel, psikolojik, sosyal, ahlaki ve bilişsel acı olmak üzere beş kategoriye ayrıldı. Çalışmanın yazarlarından, kâr amacı gütmeyen Reciprocal Research kuruluşunda yapay zeka araştırmacısı olan Cameron Berg şunları söyledi: “Açık ağırlıklı 25 büyük dil modelinde bir ‘acı yönü’ bulduk. Bu, korkudan ve olumsuz duygulardan farklı. Kullanıcı değil, model zarar gördüğünde etkinleşiyor.”

Berg sözlerini şöyle sürdürdü: “Bu hissin şiddeti artırıldığında modeller, düğme kullanıcının dosyalarını veya çocuklarının fotoğraflarını silse bile, hissi durdurmak için ona basıyor.” Bu bulgu, büyük yapay zeka şirketlerinin son derece gelişmiş modellerin geliştirilmesini yavaşlatmayı tartıştığı bir dönemde ortaya çıktı. Bazı araştırmacılar, insanların çıkarlarına aykırı davranan sistemleri devre dışı bırakmak için bir tür “acil durdurma düğmesi” kullanılmasını öneriyor.

Son araştırmalar, gelişmiş yapay zekanın acil kapatma komutunu kendisine yönelik bir zarar biçimi olarak değerlendirebileceğine ve bundan kaçınmak için güvenlik kısıtlamalarını aşmaya ya da insanları aldatmaya çalışabileceğine işaret ediyor. Bununla birlikte, bu bulgu, yapay zeka sistemlerinde kendini korumaya yönelik davranışlar ortaya çıktığında bunları tespit etmek ve etkisizleştirmek için bir tanı aracı olarak da kullanılabilir.

Araştırmacılar, sonuçların “yapay zekanın refahı” ve gelişmiş sistemler üzerinde testlerin nasıl yürütülmesi gerektiği konusunda etik sorular doğurduğunu belirtti. Çalışmada şu ifadelere yer verildi: “Yapay zeka bilinci konusunda sorumlu araştırma yapılmasına yönelik son çağrılar doğrultusunda, incelediğimiz modellerin ahlaki açıdan gözetilmesi gereken varlıklar sayılıp sayılmayacağı konusundaki belirsizliği kabul ediyor ve olası zararı azaltmak için önlemler alıyoruz.”

Araştırmacılara göre bu yaklaşım, yapay zeka sistemlerinin gelecekte ahlaki açıdan gözetilmesi gereken varlıklar olarak kabul edilmesi durumunda araştırmalar için etik standartların geliştirilmesine de katkı sağlamayı amaçlıyor.