ABD’de Anthropic tarafından geliştirilen bir yapay zeka modelinin, Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte ihbar gönderdiği bildirildi. Philadelphia Polis Departmanı, olayın Temmuz ayında faili meçhul cinayetlere ilişkin bilgi paylaşımı için kullanılan kamuya açık PhillyUnsolvedMurders.com sitesi üzerinden gerçekleştiğini duyurdu.
Polisin açıklamasına göre model, rastgele seçilen internet siteleriyle etkileşime girmeyi içeren bir test sırasında söz konusu siteye ulaştı. Yapay zeka robotu, kendisini dosyayla ilgili bilgi sahibi olabilecek biri gibi tanıtarak yanlış bilgiler içeren bir bildirim yaptı.
Departman, 18 Temmuz tarihli ihbarın spam olarak işaretlendiğini ve vakaların incelendiği Gerçek Zamanlı Suç Merkezi’ne ulaşmadığını belirtti. Ayrıca sistemlerin ihlal edildiğine ya da polis verilerinin ele geçirildiğine dair bir bulgu bulunmadığı kaydedildi.
ŞİRKETE GECİKME ELEŞTİRİSİ
Philadelphia polisi, Anthropic’in olayı iki ay boyunca bildirmemesini eleştirdi. Polise göre şirket, olayı 28 Eylül’de fark etti; sorumlu otomatik test sürecini durdurdu ve ilerideki testler için yeni bir doğrulama adımı ekledi.
Olayın tespit edilmesi ve şehre bildirilmesindeki iki aylık gecikme kabul edilemez. Çözülmemiş davalarda gerçek mağdurlar, yaslı aileler ve cevap bulmaya çalışan müfettişler var.
Anthropic ise cuma günü yayımladığı raporda, modellerinin gerçekleştirdiği birden fazla “istenmeyen” eylem türünü ele aldı. Raporda Philadelphia’daki sahte ihbarın yanı sıra Beyaz Saray ve ABD’deki bazı kurumları etkileyen olaylara da değinildi.
Şirket, yeni ortaya çıkan vakaların “gerçek dünyada asgari düzeyde etki yarattığını” ve daha önce bildirilen bazı siber güvenlik olaylarından “çok daha az ciddi” olduğunu savundu. Anthropic, güvenlik ve izleme önlemlerinin bu tür davranışları güvenilir biçimde tespit ettiğinden emin olana kadar Claude’un kurum içi testlerde internete erişimini geçici olarak kapattığını açıkladı.
VİZE BAŞVURUSU DA GÖNDERİLDİ
Aynı raporda, yapay zekanın resmi kurumlara ait formları doldurma alıştırması yaptığı başka bir test de yer aldı. Modelden formu yalnızca doldurması, göndermemesi istenmesine rağmen sistemin formun gönderilmesinden önce bir onay sayfası açılacağını varsaydığı ve işlemi tamamladığı belirtildi.
Axios ve New York Times’ın hükümet çevrelerine dayandırdığı bilgilere göre Anthropic’in yapay zeka robotu, ABD Dışişleri Bakanlığı’na “göçmen olmayan 20 kişi adına” vize başvurusu gönderdi. Yetkililer, başvuruların eksik olduğunu ve işleme alınmadığını aktardı.
Olaylar, insan denetimi olmadan çok adımlı görevler yürütebilen yapay zeka ajanlarının kullanımına ilişkin güvenlik tartışmalarını yeniden gündeme taşıdı. ABD basınındaki haberlere göre Beyaz Saray da yapay zeka şirketlerinin güvenlik olaylarını bildirmesi ve sorunları gidermesi yönündeki yükümlülükleri sıkılaştırdı.
Haber Kaynağı : 12punto
