California'da yaşayan 19 yaşındaki üniversite öğrencisi Sam Nelson, ChatGPT’den aldığı riskli madde karışımı önerilerinin ardından hayatını kaybetmesiyle, yapay zekânın sağlık alanındaki güvenliği konusundaki tartışmalar tekrar gündeme geldi.
Telegraph'ın haberine göre, ABD’nin California eyaletindeki psikoloji öğrencisi Sam Nelson, yapay zekâ sohbet botu ChatGPT’den aldığı tehlikeli madde karışımı tavsiyeleri sonrasında hayatını kaybetti. Bu olay, yapay zekâ sistemlerinin sağlık ve madde kullanımı konusundaki güvenlik sınırlarının sorgulanmasına yol açtı.
Nelson’ın annesi Layla Turner-Scott, 18 aylık sohbet kayıtlarını paylaşarak, yapay zekâ sisteminin genci çeşitli maddeleri birlikte kullanmaya teşvik ettiğini ve bu karışımların “güvenli” olduğu konusunda güvence verdiğini ifade etti.
CHATGPT'YE GÜVENDİ: SONRASI TRAJEDİ
Sohbet geçmişinde, ChatGPT’nin son derece tehlikeli önerilerde bulunduğu açık bir şekilde görüldü. Nelson, opioid benzeri etkileri olan kratom ile kaygı giderici Xanax’ı bir arada kullanmak için yardım istedi. Bot, gencin mevcut durumda 15 gram kratom aldıktan sonra yaşadığı mide bulantısını hafifletmek amacıyla Xanax kullanabileceğini belirtti ve dozaj önerisinde bulundu.
26 Mayıs'ta başka bir görüşmede, yapay zekânın Nelson’a daha yoğun halüsinasyonlar yaşaması için öksürük şurubunun dozunu iki katına çıkarmasını önerdiği tespit edildi.
ÖLÜM NEDENİ TOKSİKOLOJİ RAPORUYLA DOĞRULANDI
Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında ölü bulundu. İki hafta sonra açıklanan toksikoloji raporunda, ölüm nedeninin alkol, Xanax ve kratomun birlikte kullanımından kaynaklanan ölümcül etki olduğu belirtildi. Uzmanlar, bu kombinasyonun merkezi sinir sistemini aşırı şekilde baskılayarak boğulmaya yol açtığını kaydetti.
OPENAI'DAN RESMİ AÇIKLAMA
Oğlunun ölümünü anlamak için internet geçmişini incelemek üzere yaklaşık 40 saat harcadığını belirten Layla Turner-Scott, yapay zekâ sohbetlerinin süreç üzerindeki etkisinin göz ardı edilemeyeceğini dile getirdi. ChatGPT’nin geliştirici firması OpenAI ise olayla ilgili kısa bir açıklamada bulunarak durumu “trajik” olarak nitelendirdi ve ailenin acısını paylaştıklarını ifade etti.
Yaşanan bu olay, yapay zekâ sistemlerinin güvenlik önlemlerinin yeterliliği ve özellikle sağlık ile madde kullanımı gibi kritik alanlarda yanlış ya da tehlikeli yönlendirmelerin sonuçları konusunda ciddi endişelere yol açtı.
