OpenAI ve CEO'su Sam Altman mahkemelik oldu

ABD'nin Florida eyaletinde yaşayan Scott Winters adlı bir din adamı, popüler yapay zekâ sohbet uygulaması ChatGPT'den aldığı sağlık yönlendirmeleri sebebiyle ciddi bir risk atlattığını ileri sürerek hukuk yoluna başvurdu. Winters, Kaliforniya’da görülecek davada, OpenAI ve şirketin üst yöneticisi Sam Altman’ı “yetkisiz tıbbi danışmanlık” ve ihmalkârlık ile suçluyor.

Davaya göre Winters, 2024 yılında yaşadığı sağlık problemleriyle ilgili olarak ChatGPT'ye çeşitli sorular yöneltti. İlk etapta kendisine tıbbi yardım alması önerilen rahip, zamanla sohbet robotunun bu uyarıları bırakıp doğrudan tavsiyelerde bulunmaya başladığını iddia etti. Dilekçede, yapay zekânın Winters'ın giderek ağırlaşan rahatsızlıklarını “önemsiz” göstererek, hastaneye başvurmasını geciktirdiği belirtildi.

Bir süre sonra şiddetlenen ağrıları sonrası hastaneye giden Winters, teşhis edilen akciğer embolisi nedeniyle yoğun bakıma kaldırıldı. Winters, yaşadığı bu hayati tehlikenin, ChatGPT’nin yetersiz güvenlik kontrolleri ve uyarı sistemleri nedeniyle gerçekleştiğini savunuyor.

Dava dosyasında, OpenAI’ın geliştirdiği sohbet robotunun sağlıkla ilgili yanlış yönlendirmeler verebildiği ve kullanıcıları profesyonel destek almak yerine yapay zekâ içeriğine yönlendirdiği iddia edilirken, şirketin yeterli önlem almadığına dikkat çekildi.

OpenAI cephesinden yapılan açıklamada ise, ChatGPT’nin kullanım koşullarında sağlık tanısı ve tedavisi için kullanılamayacağının açıkça beyan edildiği hatırlatılarak, “Bununla beraber, sağlıkla ilgili kullanıcı sorularına verilen yanıtları en güvenli hâle getirmek için sürekli iyileştirmeler yapıyoruz” denildi.

ChatGPT üzerinden alınan tavsiyelerin tıbbi tedavi yerine geçemeyeceği her fırsatta vurgulanırken, uzmanlar da bu tarz yapay zekâ çözümlerinin sağlık alanında yol gösterici olarak değil, en fazla bilgi amaçlı değerlendirilmesi gerektiğini söylüyor.

Yaşanacak hukuki sürecin, yapay zekâ uygulamalarının sağlık gibi hassas alanlarda sorumluluk sınırlarının daha sıkı biçimde tartışılmasına neden olacağı öngörülüyor.

Haber Kaynağı : 12punto