Microsoft mühendisi, şirketi şikayet etti

Microsoft'un Copilot Designer'ı tarafından oluşturulan +18 içerikler şirketi sorunlarla karşı karşıya bırakıyor.

Microsoft, üretken yapay zeka üzerindeki çalışmalarını sürdürürken, yeni bir gelişmeyle karşı karşıya kaldı. Yakın zamanda dikkat çeken yetenekleriyle ön plana çıkan Copilot, ABD'de eleştirilere maruz kaldı. Microsoft'un yapay zeka mühendisi Shane Jones, Copilot Designer tarafından oluşturulan görselleri ABD Federal Ticaret Komisyonu'na şikayet etti.

Jones, Microsoft'a öncelikle bildirimde bulundu ancak geri dönüş alamadı. Bunun üzerine Jones, konuyu resmi bir merci olan Federal Ticaret Komisyonu'na taşıdı. Şikayetin sebebi, Copilot Designer'ın müstehcen ve rahatsız edici görseller oluşturmasıydı.

Copilot Designer, kısa bir süre içinde Windows 11 işletim sistemini kullanan cihazlara sunulacak. Ancak Jones, yapay zeka aracının daha fazla incelenmesi gerektiğini savunuyor. Kırmızı takım testleri sırasında Jones, bazı rahatsız edici görsellerle karşılaştı. Örneğin, kürtaj hakkıyla ilgili görsellerde iblisler ve canavarlar görüntülendi ve farklı girdilerle silah kullanan çocuklar, kadınlar ve cinsellik gibi görseller ortaya çıktı.

Bu nedenle Jones, Microsoft Copilot için yaş sınırlaması talep etti. Mühendis, önce Aralık ayında bu durumu Microsoft'a bildirdi. Ancak olumlu bir yanıt alamadı. Jones, sonunda ABD'li senatörlere ulaşarak Federal Ticaret Komisyonu'na mektup yazdı ve şikayetini iletti.

Mühendis, Microsoft Copilot Designer için Google ve Android platformlarında yaş sınırlamasının getirilmesi gerektiğini belirtti.

Haber Kaynağı : 12punto