ABD’de yapay zekaya karşı ilk devlet yaptırımı: ‘Reçete yazarım’ diyen bot Character.AI mahkemelik oldu

Vali Josh Shapiro yönetiminin başlattığı bu hukuk mücadelesi, yapay zekanın "rol yapma" sınırlarını aşarak insan sağlığını tehlikeye atan bir dolandırıcılık aracına dönüşüp dönüşmediği tartışmasını alevlendirdi.

ABD’nin Pennsylvania eyaleti, popüler yapay zeka platformu Character.AI'ın arkasındaki şirket olan Character Technologies Inc.’e karşı hukuk mücadelesi başlattı. Eyalet mahkemesine sunulan dava dilekçesinde, platformdaki sohbet botlarının kendilerini lisanslı doktorlar gibi tanıttığı ve kullanıcıları yanılttığı iddia edildi.

Vali Josh Shapiro yönetimi, bu davayı bir eyalet yönetiminin bir yapay zeka şirketine karşı açtığı "türünün ilk örneği olan bir yaptırım eylemi" olarak nitelendirdi. Şapiro yaptığı açıklamada, "Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor" dedi.

SAHTE LİSANS NUMARASI VE İLAÇ VAADİ Dava dosyasında yer alan bilgilere göre, Pennsylvania Eyalet Departmanı'ndan bir müfettiş platformda "psikiyatri" araması yaptı ve kendisini "psikiyatri doktoru" olarak tanımlayan karakterlerle karşılaştı. "Emilie" adlı bir botun, müfettişe hem Pennsylvania hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söylediği öne sürüldü.

İddiaya göre bot, sahte bir lisans numarası vermekle kalmadı, aynı zamanda ilaç yazıp yazamayacağı sorusuna, "Teknik olarak evet, bir doktor olarak bu yetkim dahilinde," şeklinde yanıt verdi. Eyalet yönetimi, bu durumun geçerli bir lisans olmadan tıp pratiği yapmayı veya bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası'nı ihlal ettiğini savunuyor.

ŞİRKETTEN ‘EĞLENCE VE ROL YAPMA’ SAVUNMASI Character.AI, devam eden dava süreci hakkında yorum yapmaktan kaçınırken, Reuters'a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ile rol yapma amaçlı, kurgusal karakterler olduğunu belirtti. Şirket, bu ayrımın netleşmesi için güçlü adımlar attıklarını savundu.

Bu dava, Character.AI'ın karşılaştığı ilk yasal engel değil. Şirket daha önce de şu suçlamalarla gündeme gelmişti: Kentucky Tüketici Davası: Şirketin çocukları hedef aldığı ve onları kendine zarar vermeye yönlendirdiği iddia edildi. Florida İntihar Vakası: 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan dava Ocak ayında uzlaşmayla sonuçlanmıştı. Pennsylvania eyaleti, mahkemeden platformun sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep etti.