Kaliforniya Başsavcılığı, yapay zekâ testlerindeki güvenlik önlemleri nedeniyle OpenAI’ye dava açtı
Milli İradenin Sesi Yeni Akit
Türkiye ve dünyadaki gelişmeleri yakından takip etmek için Google listenize Yeni Akit'i ekleyin.
Kaliforniya Başsavcılığı, OpenAI’nin gelişmiş yapay zekâ modellerini yeterli güvenlik önlemleri almadan test ederek kamu güvenliğini tehlikeye attığı iddiasıyla dava açtı. Başsavcılık, Hugging Face altyapısında yaşanan güvenlik ihlalinin öngörülebilir olduğunu savundu.
Kaliforniya Başsavcısı Rob Bonta, OpenAI’nin modellerin oluşturabileceği riskleri bildiği hâlde gerekli denetim mekanizmalarını kurmadan geliştirme ve test çalışmalarını sürdürdüğünü ileri sürdü. Başsavcılık, şirketin güvenlik uygulamaları konusunda kamuoyunu yanılttığını ve Kaliforniya Haksız Rekabet Yasası’nı ihlal ettiğini de iddia etti.
Açıklamada, Hugging Face'in altyapısına yönelik siber saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan, kusurlu ve güvenlik açıkları barındıran bir test ortamında çalıştırmayı tercih etmesi nedeniyle öngörülebilir olduğu savunuldu.
OpenAI'nin yüksek kapasiteye sahip ve giderek daha güçlü hale gelen yapay zeka modellerinin test süreçlerini yeterince güvence altına almamasının ve denetlememesinin kamuya zarar veren bir durum oluşturduğu belirtilen açıklamada, şirketin bu uygulamalarla California Haksız Rekabet Yasası'nı da ihlal ettiği öne sürüldü.
Açıklamada, OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırarak toplumun güvenliğini, sağlığını ve refahını tehdit ettiği belirtilerek, şirketin tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test ettiği ve bu konuda kamuoyunu yanılttığı kaydedildi.
OpenAI, temmuz ayında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline yol açtığını duyurmuştu.