ChatGPT yanlış yönlendirmesi sonrası ölen kadının ailesi OpenAI'ye dava açtı

ABD'nin Seattle kentinde yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan, epilepsi nöbeti geçirerek hayatını kaybetti. Wan'ın ailesi, kızlarının ölümüne yol açtığı iddiasıyla bu hafta başında OpenAI'ye dava açtı. Dava, bir sohbet robotunun kullanıcıya verdiği tavsiyenin ölümle sonuçlandığı iddiasını içeren son örnek oldu.

Dava dilekçesine göre Wan, Amazon'dan işten çıkarıldıktan sonra ChatGPT'den tavsiye istedi. Kalıcı oturum izni alabilmek için yeni bir iş bulması gerekiyordu ve kullandığı nöbet önleyici ilaç Lamotrigine'in İngilizce konuşma becerisini engellediğinden endişeleniyordu. İş görüşmeleri için dil becerisine ihtiyacı vardı.

Dilekçeye göre Çince iletişim kuran sohbet robotu, Wan'a 400 mg'lık dozunu sıfıra indirmesi için bir azaltma programı verdi. Bu programı hiçbir doktor önermemişti. ChatGPT, bu azaltmanın İngilizce konuşma yeteneğini yeniden kazanmasını "çok muhtemel" kılacağını söyledi. Robot ayrıca Wan'a doktorlarından uzak durmasını tavsiye etti ve "doktora uymak yerine tıbbi özgürlüğü" teşvik etti.

Dilekçeye göre robot, birinci basamak doktoruyla randevusundan önce "Lam azaltma planından bahsetme" dedi.

Nöbet belirtilerine rağmen ilaç azaltmaya devam etti

Wan, ilacını azaltırken fokal nöbet belirtileri yaşamaya başladı. Sohbet robotuna beyin hasarı konusunda endişelenmesi gerekip gerekmediğini sordu. Araç, endişelenmesine gerek olmadığını ve yaşadığı şeyin nöbet olmadığını söyledi. Nöbetleri sürdü ancak robot ona ilacını azaltmaya devam etmesini tavsiye etti. Wan, bu yıl 12 Şubat'ta geçirdiği nöbet sonucu hayatını kaybetti. Çin'de bulunan ailesi kendisinden haber alamayınca Seattle'a gitti ve 14 Şubat'ta onu ölü buldu.

Davacılar, OpenAI'nin Wan'ın ölümünü önleyebileceğini ancak sohbet robotu Çince iletişim kurarken gerekli güvenlik önlemlerini yerleştirmediği için bunu başaramadığını iddia ediyor. Dilekçeye göre OpenAI, robotu Wan'ın gönderdiği "her isteme" kesin bir uyarı verecek şekilde programlayabilirdi. Örneğin: "Ben lisanslı bir doktor değilim. Sağlık sağlayıcınıza danışın."

Wan'ın ailesi, kızlarının ölümü için tazminat talep ediyor ve OpenAI'nin "ürünlerinin kullanıcıları üzerinde lisanssız tıp uygulamasını" engellemek istiyor.

OpenAI sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada Bowen'ın hikayesini "son derece yürek parçalayıcı bir durum" olarak nitelendirdi ancak Wan'ın artık mevcut olmayan bir ChatGPT sürümünü kullandığını söyledi. Pusateri, daha yeni sürümlerin bir konunun acil dikkat gerektirdiğini tanımada daha iyi olduğunu belirtti.

Pusateri, "ChatGPT tıbbi bakımın yerini tutmasa da yapay zekanın insanların sağlık bilgilerini anlamlandırmasına, sigorta ve karmaşık sağlık sistemlerinde yol almasına ve tıp uzmanlarıyla randevulara hazırlanmasına yardımcı olabileceğine inanıyoruz" dedi.

Daha önce başka kişiler de OpenAI'yi yakınlarının intiharlarından sorumlu tutmuştu. Çeşitli davalar, sohbet robotunun gençleri intihara teşvik ettiği ve nasıl yapılacağı konusunda rehberlik sağladığı vakalarla ilgili. Bu davaların bazılarına yanıt olarak bir OpenAI sözcüsü 2025'te de ölümleri "son derece yürek parçalayıcı bir durum" olarak nitelendirmişti. Wan'ın ailesinin davası, yapay zeka sohbet robotlarının sağlık konularında verdiği tavsiyelerin sonuçlarına ilişkin tartışmayı yeniden gündeme getirdi.