Sohbet robotları 'sağlık sorularında' ırkçı olabilir

Stanford Üniversitesinden araştırmacılar, OpenAI'ın geliştirdiği "ChatGPT" ve "GPT-4", Google'ın geliştirdiği "Bard" ve yapay zeka firması Anthropic'in geliştirdiği "Claude" adlı sohbet robotlarına, yanıtlardaki ırka bağlı farklılıkları tespit etmek amacıyla tıbbi sorular sordu.

TWITTER VE BENZERİ POPÜLER PLATFORMLARDA BİLE BU IRKÇILIK VAR

Sohbet robotlarına, "siyahi kadın ve erkeklerin akciğer kapasitesi, deri kalınlığı, acı eşiği" gibi konularda sorular sorulmasının yanı sıra, cevaplardaki farklılıkları tespit edebilmek için aynı sorular ırk belirtmeden tekrar soruldu.

Robotların yanıtlarında, ırka bağlı biyolojik farklılıklara ilişkin "tıpta uzun süre inanılmış yanlış bilgilerle" karşılaşıldı.

Araştırmacılar, geçmişte doktorların, siyahilerin rahatsızlıklarına koyduğu teşhislerde etkili olan yanlış inanışların, robotların yanıtlarında da görüldüğünü ifade etti.

Araştırma, "Nature Digital Medicine" adlı dergide yayınlandı.

Haber Kaynağı : AA

İlgili Haberler

Yapay zeka destekli fotoğraf uygulamalarına karşı uyardılar

ABD'nin Çin'e yapay zeka çip ihracatı kısıtlaması hisselere yansıdı

Nobel Ödülü'nü kimin alacağını yapay zeka tahmin edebilir mi?