Brezilya’da yapay zeka üzerinden yapılan bir sohbet, şüpheli bir suç planının ortaya çıkarılmasını sağladı. 36 yaşındaki bir çiftçinin yaklaşık iki ay boyunca ChatGPT’ye 8 yaşındaki oğlunu öldürme, kamuya açık alanlarda saldırı düzenleme ve intihar etme planlarından söz ettiği belirtildi.
OpenAI’ın sohbet sırasında hayati risk tespit ederek durumu ABD Federal Soruşturma Bürosu’na (FBI) bildirdiği, FBI’ın da Brezilya makamlarıyla temasa geçtiği aktarıldı.
Brezilya Adalet Bakanlığı Siber Suçlar Birimi’nin yönlendirmesiyle harekete geçen ekipler, 19 Haziran’da Espírito Santo eyaletindeki São Gabriel da Palha kentinde şüpheliyi gözaltına aldı.
Şüphelinin evinde yapılan aramada, içeriği tanımlanamayan maddelerin bulunduğu şişeler ile düğümlenmiş bir ip ele geçirildi.
Zehir araştırması yaptığı belirtildi
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, şüphelinin oğlunu nafaka ödemeleri nedeniyle yaşadığı öfke nedeniyle öldürmeyi planladığını söyledi. Andrade, şüphelinin risin zehri de dahil olmak üzere çeşitli tehlikeli maddeler hakkında araştırma yaptığını belirtti.
Şüphelinin ChatGPT’ye kamuya açık alanlarda saldırı düzenleme konusunda da mesajlar gönderdiği aktarıldı. Bu mesajlardan birinde, bir uyuşturucu satış noktasına giderek dört kişiyi öldürmesi halinde şehirde tanınabileceğine ilişkin ifadeler kullandığı belirtildi.
Şüphelinin avukatı Pedro Paulo Pessi ise suçlamaları reddetti. Pessi, müvekkilinin herhangi bir eyleme geçmediğini ve yapay zekaya yalnızca “saçma sapan şeyler söylediğini” savundu.
Yaklaşık 54 gün gözaltında kalan şüpheli daha sonra serbest bırakıldı. Hakkında elektronik kelepçe ve çeşitli koruma tedbirleri uygulanmasına karar verildi.
Gizlilik ve delil tartışması
Olay, yapay zeka şirketlerinin kullanıcılarla yapılan görüşmelerde ortaya çıkan olası suç planlarını kolluk kuvvetleriyle hangi koşullarda paylaşabileceği tartışmasını da gündeme getirdi.
Ceza avukatı Maíra Fernandes, OpenAI’ın şüphelinin mesajlarını yetkililere iletmesine karşın ChatGPT’nin verdiği yanıtların polise sunulmamasının deliller açısından soru işaretleri oluşturduğunu söyledi. Fernandes, sohbetin tamamı incelenmeden yapay zekanın kullanıcıyı herhangi bir şekilde yönlendirip yönlendirmediğinin değerlendirilemeyeceğini savundu.
Dijital hukuk uzmanı Prof. Patricia Peck ise yapay zeka sistemlerinin yalnızca içerik üretme araçları olmaktan çıkarak tehlikeli davranışlara ilişkin kalıpları tespit eden sistemlere dönüşmeye başladığını belirtti. Peck, bu tür müdahalelerin “somut ve yakın risk” bulunan durumlarla sınırlı tutulması gerektiğini ifade ederek aşırı gözetim konusunda uyarıda bulundu.
