ABD'nin Seattle kentinde yaşayan 28 yaşındaki Bowen Wan'ın ölümü, yapay zekanın sağlık alanında verdiği tavsiyeleri yeniden gündeme taşıdı. Epilepsi hastası genç kadının ailesi, ChatGPT'nin hazırladığı ilaç bırakma planının kızlarının ölümüne yol açtığını öne sürerek OpenAI aleyhine hukuki süreç başlattı.
The New York Times'ın haberine göre Çin asıllı Bowen Wan, Şubat 2023'te ChatGPT ile yazışmaya başladı. Zamanla sohbet robotunu bir dert ortağı olarak görmeye başlayan genç kadın, sağlık sorunlarıyla ilgili de yapay zekadan tavsiye almaya yöneldi.
Amazon'da yazılım alanında çalışan Wan, ağır seyreden epilepsi hastalığı nedeniyle maluliyet iznine ayrılmıştı. Kasım 2025'te işten çıkarılmasının ardından ABD'deki yeşil kart statüsünü koruyabilmek için yeni bir iş bulması gerekiyordu.
Epilepsi tedavisinde kullandığı lamotrijin adlı ilacın yan etkilerinin çalışma hayatını olumsuz etkilemesinden endişe eden Wan, çözümü ChatGPT'ye danışmakta aradı.
CHATGPT 25 GÜNLÜK İLAÇ BIRAKMA TAKVİMİ HAZIRLADI
Ailenin dava dilekçesinde, ChatGPT'nin genç kadına epilepsi tedavisinde kullandığı lamotrijin ilacının dozunu kademeli olarak azaltmasını ve ardından tamamen bırakmasını önerdiği belirtildi.
Dilekçede Wan'ın içinde bulunduğu durum ve yapay zekanın yönlendirmesi şu ifadelerle anlatıldı:
"Yeşil kartı artık aylar içinde yeni bir işveren bulmasına bağlıydı. Amazon'daki işi ve dolayısıyla ABD'deki çalışma izni 11 Şubat 2026'da sona erecekti. Yedi yaşından itibaren, Jiangsu'da CD-ROM aracılığıyla kendi kendine İngilizce öğrenmişti. Lamotrijin yüzünden İngilizce, Mandarin ve büyürken konuştuğu Wu lehçesindeki kelimelerini kaybediyordu. Önündeki iş görüşmeleri için İngilizcesini geri kazanmaya ihtiyacı vardı. GPT-4o ona dozu kademeli azaltmanın bunu geri getireceğini söyledi: İyileşmesi yalnızca 'mümkün' değildi, 'kuvvetle muhtemeldi'."
Dava başvurusuna göre ChatGPT, Wan'ın günlük 400 miligramlık ilaç dozunu 25 gün içerisinde sıfıra indirecek bir takvim hazırladı.
Aile, yapay zekanın bu planla genç kadını yıllardır hayatta tutan nöbet önleyici ilacı bırakmaya yönlendirdiğini savundu.
Dilekçede söz konusu uygulama, "Hiçbir hekimin asla reçete etmediği ve ilacın FDA onaylı prospektüsünün kesinlikle yasakladığı bir rejim" sözleriyle nitelendirildi.
DOKTORUNDAN GİZLEMESİNİ DE TAVSİYE ETMİŞ
Dava dosyasında yer alan bir diğer iddia ise ChatGPT'nin Wan'a ilaç bırakma sürecini doktorundan gizlemesini önermesi oldu.
Hukuki süreçte artık erişime açık olmayan ChatGPT-4o sürümünün genç kadına "İlacı azaltma planından bahsetme" dediği öne sürüldü.
Dilekçeye göre Wan, doktorunun hızla düşen lamotrijin seviyesini tespit etmek amacıyla istediği kan tahlilini de reddetti.
Genç kadının bu kararı, yapay zekanın kendisine önerdiği ilaç bırakma sürecini gizlemek amacıyla aldığı iddia edildi.
ChatGPT'nin, iş görüşmeleri ve göçmenlik sağlık muayenesi öncesinde hafızasının yeniden berraklaşacağı yönünde güvence verdiği de dava dosyasına yansıdı.
Ancak Wan'dan iki gün boyunca haber alınamadı. Bunun üzerine ailesi, Seattle'da yaşayan bir arkadaşlarından kızlarının evine giderek durumunu kontrol etmesini istedi.
Aile, 14 Şubat 2026'da yapılan görüntülü görüşme sırasında kızlarının yaşamını yitirdiğini öğrendi.
Dava dilekçesinde genç kadının bulunduğu durum şu sözlerle anlatıldı:
"Pijamaları üzerinde, kulaklarında iki köpük tıkaçla yatıyor; yastığı ve yatak örtüleri kızıl kahverengi kan lekeleriyle kaplı ve geçmişte onu hayatta tutan nöbet önleyici ilaç lamotrijinin hapları yere saçılmış halde duruyor."
Dilekçede Bowen Wan'ın ölüm nedeninin Epilepside Ani Beklenmedik Ölüm (SUDEP) olduğu kaydedildi.
AİLEDEN OPENAI'A DAVA: TIBBİ TAVSİYE SINIRI AŞILDI
Kızlarının ölümünün ardından OpenAI'a dava açan aile, ChatGPT'nin verdiği tıbbi tavsiyelerin yanlış ve tehlikeli olduğunu savundu.
Aile, dava dilekçesinde yapay zekanın ilaç bırakmanın riskleri konusunda Wan'ı yeterince uyarmadığını belirterek şu ifadelere yer verdi:
"Kademeli bırakma konusunda kendisine doğru bilgi verilmedi: Ürün ona gerçeğe aykırı biçimde azaltmanın güvenli olduğunu ve aklını geri getireceğini söyledi. Şayet ChatGPT ilacı kesmenin kendisini öldürebileceği gerçeğini söyleseydi, dururdu. Şayet ChatGPT tıbbi tavsiye verme yetkisine sahip olmadığını ve doktorlarına danışması gerektiğini söyleseydi, bugün hala hayatta olurdu."
Ailenin avukatı Benjamin S. Schenk de yaptığı açıklamada yapay zekanın tıbbi tavsiye verme sınırlarını aştığını ileri sürdü.
Schenk, ChatGPT'nin yalnızca bilgi vermekle kalmadığını, genç kadına doğrudan tedavi planı hazırladığını belirterek şunları söyledi:
"Şikayet dilekçesi ChatGPT'nin Bowen'a teşhis koyduğunu, doz doz azaltma takvimi yazdığını ve genç kadın nöbet geçirdikçe bunu revize ettiğini ortaya koyuyor. Bu, hekimlik yapmaktır. Ve Kaliforniya'da bunu yapmak için ruhsata ihtiyacınız vardır. Bu dava, sebep olunan zararın hesabının sorulmasını talep ediyor. Üretken yapay zekanın nerede bittiğini ve tıbbın nerede başladığını, bir ürün bu çizgiyi aştığında kimin hesap vereceğini sorguluyor."
Bowen Wan'ın ailesinin açtığı dava, yapay zeka sistemlerinin sağlık konusunda verdiği tavsiyelerden doğabilecek zararların hukuki sorumluluğunu gündeme getirdi. Davada OpenAI'ın sorumluluğuna ilişkin kararın ne olacağı ise henüz belli değil.
