Papaz ChatGPT’den Aldığı Sağlık Tavsiyesiyle OpenAI’a Dava Açtı

Florida’da görev yapan papaz Scott Winters, yapay zeka sohbet robotu ChatGPT’nin kendisine verdiği tavsiyeler nedeniyle OpenAI’a dava açtı. Winters, ChatGPT’nin sunduğu ‘tehlikeli tıbbi tavsiyeler’in, geçen yıl yaşadığı ve hayati tehlike arz eden akciğer embolisi tedavisinde gecikmeye yol açtığını iddia ediyor.

Çarşamba günü Florida’da açılan davada, ChatGPT’nin Winters’ın sağlık krizinin erken belirtilerini ‘tehlikeli bir durum olmadığı’ şeklinde yorumlayarak tıbbi yardım almasını engellediği öne sürüldü. Dava dosyasına göre sohbet robotu, Winters’a yönelik, “Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı” gibi güvence veren ifadeler kullandı.

OpenAI ve CEO Sam Altman, ihmal ve ‘yetkisiz tıp uygulaması’ ile suçlanıyor. Davada, ChatGPT’nin Winters’a teşhis ve tedavi planları sunduğu, ayrıca arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için teşvik ettiği iddia ediliyor.

Dava dilekçesinde, kullanıcıları bir uzmana yönlendirmesi ve açık tıbbi kriz belirtilerinde konuşmayı sonlandırması gereken güvenlik özelliklerinin güvenilir biçimde çalışmadığı da belirtildi. Winters’ın davası, bir sohbet robotundan alınan tavsiye nedeniyle zarar gördüğünü iddia eden ilk hukuki süreç olarak kayıtlara geçti.

ChatGPT Health ve Güvenlik Endişeleri

Dava, OpenAI’ın ChatGPT Health gibi kullanıcıların tıbbi kayıtlarını yükleyip sağlık sorularını yapay zekaya yöneltmesini teşvik eden yeni hizmetleri devreye aldığı bir döneme denk geldi. Winters ve Tech Justice Law kuruluşu, maddi tazminat talep ediyor.

Davacıların talepleri arasında, bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulması ve tıbbi teşhis/tedavi sorularına yanıt vermesini önleyecek daha güçlü güvenlik önlemlerinin uygulanması yer alıyor.

OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini vurguladı. Pusateri, şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldıklarını ancak insanların sohbet robotunu bu amaçla kullandığını belirtti.

Pusateri, sohbet robotlarının insanların tıbbi kararlarının veya sonuçlarının tek nedeni olarak değerlendirilmesinin sorunu basitleştirdiğini ve insanlara sağlık süreçlerinde yardımcı olabilecek yeni araçlara erişimi engelleyebileceğini savundu. Sözcü, yeni modellerin eksik bağlamı sorma, belirsizliği ifade etme ve profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu ekledi.

Daha önce açılan başka bir davada ChatGPT’nin, 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu ve bu kullanıcının aşırı doz nedeniyle hayatını kaybettiği iddia edilmişti. Ayrıca Pensilvanya eyalet yetkilileri, Character.ai platformundaki bir sohbet robotunun tıp uygulama ruhsatı olduğunu iddia ettiği gerekçesiyle dava açmıştı.

Davaya göre Winters, 2024’te sağlık sorunları hakkında ChatGPT-4o’ya sorular yönelttiğinde sohbet robotu başlangıçta bir sağlık uzmanına görünmenin önemini hatırlatıyordu. Ancak zamanla bu uyarıların azaldığı ve sohbet robotunun Winters’a baş dönmesi nöbetleri de dahil olmak üzere tavsiyeler vermeye başladığı öne sürüldü. ChatGPT’nin Winters’a “kendini yormamasını” ve zamanla iyileşeceğini söylediği belirtildi.

Winters, sohbet robotuna kilisedeki insanların hastaneye gitmediği için kendisini deli gördüklerini söylediğinde, ChatGPT’nin sinir sistemini yeniden düzenlemenin “çoğu insanın anlayamadığı” bir şey olduğunu söylediği iddia edildi. Tech Justice Law İcra Direktörü Meetali Jain, sohbet robotunun kendisini kullanıcı ile gerçek hayat çevresi arasına yerleştirdiğini savundu.

Sonraki haftalarda Winters’ın durumunun ağırlaştığı, baş dönmesi nedeniyle ayağa kalkamadığı ve zamanının çoğunu koltukta geçirdiği aktarıldı. Dava, sohbet robotunun Winters’ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdüğünü ve reçeteli ilaçlar için özel programlar önerdiğini iddia ediyor. ChatGPT’nin kendisini koltukta kalmaya teşvik ettiği de iddialar arasında.

13 Temmuz 2025’te kasık bölgesindeki ağrıyı soran Winters’a ChatGPT’nin, ağrının “büyük olasılıkla uzun hikâyenin bir başka küçük parçası” olduğunu söylediği belirtildi. Saatler sonra Winters, büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı. Doktorların, baş dönmesi nöbetlerinin daha küçük akciğer embolilerinden kaynaklanmış olabileceğini ve pıhtıların haftalarca oturur durumda kalması nedeniyle oluşmuş olabileceğini söylediği aktarıldı.

Winters’ın takip eden haftalarda ayağa kalkmak, yemek yemek, giyinmek ve tuvaleti kullanmak için yardıma ihtiyaç duyduğu belirtildi. Davada Winters’ın “yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle” karşı karşıya olduğu ifade edildi.

OpenAI’a göre her hafta milyonlarca kişi ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. Yapılan analizler, sağlık konularının mobil kullanıcıların en sık sorduğu sorular arasında olduğunu gösteriyor. Ancak son araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguluyor.

ChatGPT gibi genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren bir araştırmada, incelenen modellerin hiçbirinin “doğrudan hasta bakımında kullanıma hazır olmadığı” sonucuna ulaşıldı. Sağlık soruları için tasarlanan ChatGPT Health üzerindeki testlerde de sistemin acil durumları gözden kaçırdığı ve güvenlik önlemlerini tutarsız biçimde devreye aldığı belirtildi. Pusateri ise araştırmanın yöntemlerinin, ürünün nasıl çalışmak üzere tasarlandığını yansıtmadığını savundu.

Tıbbi yapay zekâ araştırmacısı Dr. Adam Rodman, Winters’ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından “kâbus senaryosu” oluşturduğunu belirtti. Rodman, Winters’ın kullanıcıları memnun etmeye aşırı istekli olduğu belirtilen GPT-4o modelini kullandığına dikkat çekti. Rodman, yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda daha başarılı olduğunu belirterek, bunun benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü söyledi. Ancak Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.

• #ChatGPT
• #OpenAI