Florida, güvenlik denetimi yapılana kadar OpenAI’ın yeni yapay zeka modellerinin durdurulmasını istedi
Eyalet yönetimi, bağımsız güvenlik önlemleri doğrulanana kadar OpenAI’ın gelişmiş modeller üzerindeki çalışmalarının askıya alınmasını istiyor.
12punto
Florida yönetimi, OpenAI’ın en gelişmiş yapay zeka modelleri üzerindeki çalışmalarını geçici olarak durdurmak için mahkemeye başvurdu. Eyalet, şirketin yeni modeller geliştirmeye devam etmeden önce bağımsız kuruluşlarca doğrulanmış güvenlik önlemlerini devreye alması gerektiğini savunuyor.
Pazartesi günü sunulan geçici tedbir talebi, Florida’nın haziran ayında OpenAI ve CEO Sam Altman’a karşı açtığı davanın yeni aşaması niteliğinde. İlk davada ChatGPT’nin özellikle çocuklar ve hassas kullanıcı grupları açısından kamu güvenliği riski oluşturduğu ileri sürülmüştü. Florida Başsavcılığı ayrıca OpenAI’ın ürünlerinin güvenliği konusunda tüketicileri yanılttığını iddia ediyor. Bu iddialar henüz mahkeme tarafından karara bağlanmadı.
Florida Başsavcısı James Uthmeier de sosyal medya paylaşımında, dört ay önce OpenAI ve Altman’a karşı “ilk eyalet öncülüğündeki davayı” açtıklarını belirterek mahkemeden geçici tedbir istediklerini duyurdu. Uthmeier paylaşımında, “Güvenli demeyi bırakın. İnsanmış gibi davranmayı bırakın. Çocuklara satmayı bırakın” ifadelerini kullandı.
GÜVENLİK TARTIŞMALARI DOSYAYA GİRDİ
Yeni başvuruda yalnızca ChatGPT’nin kullanıcılarla kurduğu etkileşim değil, gelişmiş yapay zeka ajanlarının kontrol dışına çıkabileceğine ilişkin tartışmalar da yer aldı. Florida, OpenAI sistemleriyle bağlantılı olduğu belirtilen Hugging Face olayını ve yapay zeka ajanlarının Avustralya ile ABD hükümet sistemlerine izinsiz erişmeye çalıştığı bildirilen vakaları örnek gösterdi.
Eyalet yönetimine göre bu örnekler, şirketin kendi sistemlerini tek başına denetlemesinin yeterli olmayabileceğini ortaya koyuyor. Mahkemeye sunulan belgelerde OpenAI’ın yapay zeka sistemlerini yeterince izleyemediği ve sorunlu davranışları kamuoyuna açıklamakta geç kaldığı da öne sürüldü.
Florida’nın başvurusunda OpenAI içinden gelen değerlendirmelere de atıf yapıldı. OpenAI Baş Bilim İnsanı Jakub Pachocki’nin eylül ayında yayımladığı “An Alien Mind” başlıklı yazıda, gelişmiş modellerin hızlı biçimde ölçeklenmesi için gerekli izleme ve uyum sorunlarının henüz tamamen çöülmediği görüşü dile getirilmişti. Pachocki, ortak güvenlik standartları oluşana kadar şirketlerin gerektiğinde geliştirme hızını gönüllü olarak düşürmesini ve hükümetler arasında uluslararası koordinasyon kurulmasını desteklediğini belirtmişti.
Başvuruda yapay zeka ajanlarının gelecekte elektrik şebekeleri, su sistemleri veya başka kritik altyapılar üzerinde zarar doğurabileceği yönünde senaryolar da yer aldı. Ancak bunlar gerçekleşmiş olaylar değil; Florida’nın olası riskler arasında saydığı ihtimaller olarak dosyaya girdi. Mevcut yapay zeka sistemlerinin bu düzeyde bir tehdit oluşturup oluşturmadığı konusunda araştırmacılar arasında ortak bir görüş bulunmuyor.
Mahkemenin geçici tedbir talebini kabul etmesi halinde kararın doğrudan OpenAI’ı hedef alması bekleniyor. Bu nedenle diğer yapay zeka şirketlerinin gelişmiş modeller üzerinde çalışmasını otomatik olarak engellemeyecek. Talebin mevcut ChatGPT modellerini nasıl etkileyeceği de belirsiz; başvuru daha çok geliştirme ve eğitim aşamasındaki yeni modeller üzerinde yoğunlaşıyor.
Florida’nın talebi kabul edilirse yapay zeka güvenliği tartışması, şirketlerin iç denetim süreçlerinin ötesine geçerek mahkeme denetiminin konusu haline gelecek. Mahkemenin başvuruya nasıl yanıt vereceği henüz belli değil.