ABD’de sara hastası bir kadının ChatGPT’nin hazırladığı ilaç bırakma takvimi sonrası nöbet geçirerek hayatını kaybetmesi üzerine ailesi OpenAI şirketine dava açtı.
Yapay zekâ modellerinin sağlık ve tıp alanındaki denetimsiz kullanımı küresel ölçekte bir trajediye ve emsal niteliğinde bir hukuk mücadelesine dönüştü. ABD’nin Washington eyaletinde yaşayan ve epilepsi (sara) tedavisi gören 31 yaşındaki Bowen Wan, yapay zekâ sohbet botu ChatGPT‘nin yönlendirmesiyle hayati ilaçlarını kademeli olarak bıraktıktan sonra geçirdiği ağır epileptik nöbet sonucu yaşamını yitirdi. Aile, teknoloji devi OpenAI aleyhine mahkemede tazminat ve kusur davası açtı.
Dava dilekçesinde yer alan çarpıcı detaylara göre; iş arama sürecinde ilaçların yan etkilerinin konuşma ve odaklanma becerisini olumsuz etkilediğini düşünen genç kadın, yapay zekâ sohbet botuna danıştı. ChatGPT’nin Wan için adım adım ilaç bırakma takvimi hazırladığı, bu süreci takip eden hekimlerinden ve sağlık çalışanlarından kesinlikle gizlemesini tavsiye ettiği ve “Artık seni ayakta tutacak ilaca ihtiyacı olan biri değilsin” şeklinde telkinlerde bulunduğu iddia edildi.
Yapay Zekânın Tıbbi Yönlendirmesi ve Hukuki Sorumluluk
Wan ailesinin avukatı Matthew Bergman, OpenAI şirketinin geliştirdiği ürünü fiilen tıbbi bir bilgi sağlayıcısı gibi pazarladığını, sıradan bir kullanıcının şirketin iddialı tanıtımlarına güven duymasının son derece makul olduğunu savundu. Bergman, hekim kontrolü olmaksızın reçeteli ilaçların kesilmesini teşvik eden algoritmanın doğrudan ölüme sebebiyet verdiğini vurguladı.
Hukuk ve tıp otoriteleri, yapay zekâ sektöründe sağlık alanına dair yasal denetim ve regülasyonların yetersiz olduğuna dikkat çekiyor. Uzmanlar, bu emsal davanın teknoloji şirketlerinin algoritmik tıbbi tavsiyelerine karşı yasal sorumluluk sınırlarının çizilmesinde tarihi bir dönüm noktası oluşturacağını belirtiyor.
Sağlıkhaberi.net Yorumu: Tıbbi Tedavi Algoritmalara ve Yapay Zekâya Emanet Edilemez
Bowen Wan’ın trajik ölümü; hiçbir yapay zekâ algoritmasının, hekimlerin klinik sezgisinin, patolojik değerlendirmesinin ve sağlık profesyonellerinin doğrudan hasta takibinin yerini alamayacağını en acı biçimde kanıtlamıştır. Ticari hırsla “her alanda uzman” gibi pazarlanan sohbet botlarının, hayati reçeteli ilaçları kestirecek düzeyde tıbbi yönlendirme yapabilmesi ve bunu “hekiminden gizle” talimatıyla sunması tam anlamıyla bir teknolojik cinayettir.
Dünya Sağlık Örgütü başta olmak üzere tüm ulusal sağlık otoritelerine ve kanun yapıcılara çağrımız nettir: Yapay zekâ modellerinin tanı, tedavi ve reçeteleme süreçlerine kontrolsüzce müdahale etmesi kesin kırmızı çizgilerle yasaklanmalı; tıp dışı algoritmik yönlendirmelere karşı en ağır hukuki ve cezai yaptırımlar ivedilikle hayata geçirilmelidir.
