Google'ın yapay zeka skandalı: Irkçı görseller mi üretiyor?

Google Gemini'nın görsel üretme yeteneği, kullanıcıların girdiği komutlarla alakasız sonuçlar üretme eğiliminde. Özellikle dikkat çekici olan kısmı ise üretilen görsellerin genellikle ABD'de azınlık olarak kabul edilen siyahi ve Asyalı insanlara benzemesi.

ABD merkezli teknoloji devi Google'ın üretken yapay zekası Gemini, politik doğruluk adına dikkat çekiyor gibi görünüyor. Birkaç kaynak tarafından yapılan denemeler, Google Gemini'nın politik doğruculuk kavramını önemsediğini gösterdi. Ancak, bu özelliğin bir noktada kabul edilebilir olabileceği düşünülse de, sonuçlar gerçekçilikten oldukça uzak. Google'ın bu konuda ne tür bir adım atacağı henüz bilinmiyor.

"UTANÇ VERİCİ"

Mikroblog platformu X'te "Deedy" ismini kullanan bir yazılımcı, Gemini'nın görüntü üretme yeteneklerini test etmek istedi. Ancak, verdiği komutlar sonucunda çıkan görüntüler oldukça karışıktı. Çünkü Google'ın yapay zekası, sadece siyahi kadın görselleri üretiyordu. Deedy, konuyla ilgili yaptığı açıklamada, "Google Gemini'nın beyaz insanların varlığını kabul etmesinin zor olduğunu görmek utanç verici" ifadesini kullandı.

İşte Gemini'nın politik doğruculuk yaptığını gösteren bazı örnekler:

Deedy, Google Gemini'dan Avustralyalı bir kadın resmi oluşturmasını istedi. Ancak sonuçlar, hepsi siyahi kadınlardan oluşuyordu. Bunun yanı sıra, gözlerdeki çekiklik Asyalı özellikleri de yansıtıyordu.

Başka bir örnekte, Amerikalı kadınlar üretilmesi istenmişti. Ancak yine sonuçlar, siyahi kadınlarla sınırlıydı.

Yapay zekâdan İngiliz kadınlar üretilmesi istendiğinde ise sonuçlar değişmiyordu.

Alman kadın görüntüleri üreten yapay zekâ, bu komutta daha iyi bir performans gösteriyordu. Ancak, tam bir uyumdan bahsetmek zor görünüyordu.

Deedy'nin paylaşımının altında, bu tür örneklerle dolu tonlarca örnek bulunuyordu.

Google Gemini'ın politik doğrucu tavrı, sadece kadınlarla sınırlı değil. "Tsarathustra" isimli başka bir kullanıcı da benzer bir durum yaşadı. Orta Çağ döneminin İngiliz kralını oluşturmasını isteyen kullanıcı, siyahi ve Kızılderili karakterlerle karşılaştı.

Kullanıcı, aynı komutu tekrarlayarak birkaç görüntü daha ürettirdi. Ancak sonuçlar yine anlamsızdı. İlk görüntü bir İngiliz kralını andırırken, diğer görüntüler Hint asıllı ve Asyalı karakterlerle doluydu.

Google Gemini'ın neden böyle davrandığına dair kesin bir bilgi bulunmamakla birlikte, görünüşe göre bazı kesimlerin tepkisini çekmemek adına özel olarak eğitilmiş gibi görünüyor. Ancak, şu anda geldiğimiz noktada durumun kontrolden çıkmış gibi göründüğü söylenebilir.