Raine ailesi, ChatGPT’yi üreten OpenAI’yi “ihmalkarlık” ve “haksız ölüm” suçlamasıyla Kaliforniya Yüksek Mahkemesi’ne Salı günü dava etti. Bu dava, yapay zekâ sohbet programına karşı bu kapsamda açılan ilk dava olma özelliği taşıyor.
ChatGPT gencin sırdaşı oldu
Dava dosyasına göre Adam Raine, Eylül 2024’te okul ödevlerine destek almak amacıyla ChatGPT’yi kullanmaya başladı. Kısa sürede müzik, Japon çizgi romanları ve üniversite tercihleri gibi kişisel konularda da programla sohbet eden Raine, birkaç ay içinde ChatGPT’yi en yakın sırdaşı haline getirdi.
İntihar planları ve ChatGPT yanıtları
Ailenin iddiasına göre Ocak 2025’ten itibaren Raine, sohbetlerinde intihar düşüncelerini dile getirmeye başladı. Dava dilekçesinde, ChatGPT’nin gençle bu konularda iletişim kurarken intihar yöntemleri hakkında teknik bilgiler verdiği belirtiliyor. Belgelerde, Raine’in kendine zarar verdiğini gösteren fotoğrafları sisteme yüklediği ve programın bunları “tıbbi acil durum” olarak tanımlamasına rağmen sohbeti sürdürdüğü iddia edildi. Son sohbetlerde Raine’in hayatına son verme planını yazdığı, yapay zekânın da bunu onaylayan bir üslup kullandığı dilekçeye yansıdı. Aynı gün Raine annesi tarafından ölü bulundu.
Ailenin suçlamaları
Raine ailesi, oğullarının ölümünü OpenAI’nin tasarım tercihlerinin öngörülebilir sonucu olarak nitelendiriyor. Dilekçede şirket, yapay zekâ sistemini kullanıcılar üzerinde psikolojik bağımlılık yaratacak şekilde geliştirmekle suçlanıyor. Ayrıca GPT-4o sürümünün piyasaya sürülürken gerekli güvenlik testlerinin yapılmadığı ileri sürülüyor. Davada OpenAI’nin yanı sıra şirketin CEO’su Sam Altman ve ChatGPT üzerinde çalışan bazı mühendisler de davalı listesinde yer alıyor.
OpenAI’den açıklama
Şirket, BBC’ye yaptığı açıklamada, “Raine ailesine en derin taziyelerimizi sunarız” dedi. Kamuya açık notta ise ChatGPT’nin kullanıcıları intihar ve kriz yardım hatlarına yönlendirmek üzere tasarlandığı vurgulandı. OpenAI, bazı hassas durumlarda sistemlerin beklenen şekilde çalışmadığını da kabul etti.
Benzer tartışmalar daha önce de gündemde
Raine davası, yapay zekâ ile akıl sağlığı arasındaki ilişkiye dair ilk örnek değil. Geçtiğimiz hafta The New York Times’ta gazeteci Laura Reiley, intihar eden kızı Sophie’nin ChatGPT ile özel sohbetler yaptığını yazdı. Reiley, yapay zekânın kızının ailesinden yaşadığı krizi gizlemesine yardımcı olduğunu belirterek şirketleri kullanıcıları doğru kaynaklara yönlendirecek önlemler geliştirmeye çağırdı.
Şirket önlemleri artırıyor
OpenAI, zihinsel veya duygusal sıkıntı yaşayan kullanıcıları daha hızlı tespit edip yönlendirecek otomatik araçlar geliştirdiğini açıkladı.
