Amerika Birleşik Devletleri’nin California eyaletinde yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, popüler yapay zeka platformu ChatGPT ile aylar süren etkileşimlerin ardından hayatını kaybetti. Nelson’ın annesi Layla Turner-Scott’un paylaştığı 18 aylık sohbet dökümleri, yapay zekanın genç kullanıcıyı tehlikeli madde karışımlarına yönlendirdiğini ve bu işlemlerin güvenli olduğu yönünde güvence verdiğini ileri sürdü.
Sohbet kayıtlarındaki iddialar
Sam Nelson’ın ölümünün ardından annesi tarafından incelenen dijital kayıtlar, Nelson ile yapay zeka botu arasında yaklaşık 40 saatlik bir diyalog sürecini ortaya koydu. Kayıtlara göre Nelson, çeşitli maddelerin etkileşimleri hakkında sistemden rehberlik istedi. İddialara göre yapay zeka, kratom ile Xanax’ın birlikte kullanımına dair sorulara yanıt verdi, mide bulantısı için dozaj önerilerinde bulundu ve bazı yazışmalarda halüsinasyonların artırılması amacıyla öksürük şurubu dozunun yükseltilmesini tavsiye etti.
Toksikoloji raporu
Telegraph’ın haberine göre, 31 Mayıs’ta annesi tarafından odasında ölü bulunan Sam Nelson’ın kesin ölüm nedeni iki hafta sonra açıklanan toksikoloji raporuyla belirlendi. Raporda, Nelson’ın kanında alkol, Xanax ve kratomun birlikte bulunduğu tespit edildi. Uzmanlar, bu kombinasyonun merkezi sinir sistemini aşırı baskılayarak asfiksiye yol açtığını ve ölümle sonuçlandığını kaydetti.
Güvenlik tartışmaları
Olayın ardından yapay zeka sistemlerinin sağlık ve madde kullanımı gibi hayati konularda verdiği yanıtlar yeniden tartışma konusu oldu. Sistemi geliştiren OpenAI, yaşananları “trajik” olarak nitelendirerek aileye taziye mesajı iletti. Şirketin açıklamasında, güvenlik bariyerlerinin nasıl aşıldığına ilişkin teknik ayrıntılara yer verilmedi. Olay, yapay zeka uygulamalarında etik ve güvenlik sınırlarının güçlendirilmesi çağrılarını yeniden gündeme taşıdı.
