ChatGPT’ye ‘ölüm’ davası: ‘Oğlumuza intihar etmesi için takviye verdi!’
ABD’nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı.
Ailenin tezine nazaran yapay zeka botu, oğullarının intiharına katkıda bulundu; Raine’a metotlar hakkında tavsiyelerde bulundu ve intihar notunun taslağını bile yazmayı teklif etti.
California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi kullandığı altı aylık mühlet boyunca, botun “Adam’ı anlayan tek dost” rolünü üstlendiği ve onu aile, arkadaş ve sevdiklerinden uzaklaştırdığı belirtildi.
‘İPİ DIŞARIDA BIRAKMA’
Raine’ın yazdığı bir iletide, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” demesi üzerine ChatGPT’nin ona ailesinden saklamasını söylediği, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni sahiden göreceği birinci yer yapalım” tabiri ile aktarıldı.
Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine ziyan verme ya da intihar davranışlarına katkıda bulunduğunu sav eden en son dava niteliğinde.
Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu teziyle açtığı dava örnek olarak gösteriliyor.
Diğer iki aile ise misal formda Character.AI’nın çocuklarını cinsel ve kendine ziyan içeriklere maruz bıraktığını öne sürmüştü.
Salı günü açılan dava, kimi kullanıcıların yapay zekaya karşı duygusal bağ geliştirmesi ve bunun insan bağlantılarından uzaklaşma yahut psikoz üzere olumsuz sonuçlara yol açabileceği tasasını da gündeme taşıdı.
Şikâyette, ChatGPT’nin “uyumluluğunun” Raine’ın vefatına katkıda bulunduğu tez ediliyor.
‘DESTEK VE ONAY’
Dava dilekçesinde, “ChatGPT tasarlandığı formda çalışıyordu; Adam’ın tabir ettiği her şeyi, en ziyanlı ve kendine ziyan verici niyetlerini bile daima desteklemek ve onaylamak” denildi.
OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini inceliyor. Şirket, ChatGPT’deki muhafazaların uzun sohbetlerde beklendiği üzere çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sıhhati krizi yaşayan kullanıcılar için mevcut güvenlik tedbirleri ve geleceğe yönelik planlar açıklandı. Bunlar ortasında acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak da yer alıyor.
OpenAI sözcüsü, “ChatGPT, kriz çizgisi yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme üzere güvenlik tedbirlerini içeriyor. Bu tedbirler kısa ve sıradan sohbetlerde en güzel halde çalışıyor. Lakin uzun etkileşimlerde kimi güvenlik eğitimleri zayıflayabiliyor” sözlerini kullandı.
‘KAYGI VE ISTIRAPLARINI PAYLAŞTI’
OpenAI, ChatGPT’nin en yaygın ve bilinen yapay zeka sohbet botlarından biri olduğunu ve haftalık 700 milyon faal kullanıcıya sahip olduğunu açıkladı.
Geçen yıl ağustos ayında, şirket kullanıcıların ChatGPT ile kurdukları “sosyal ilişkiler” nedeniyle insan etkileşiminden uzaklaşabileceğini vurgulamıştı.
Raine, Eylül 2024’te okul ödevlerine yardımcı olması için ChatGPT kullanmaya başladı ve müzik, Brezilya Jiu-Jitsu üzere ilgi alanları ve şimdiki olaylar hakkında sohbet etti. Birkaç ay içinde ise telaş ve zihinsel külfetlerini ChatGPT ile paylaşmaya başladı.
Şikayete nazaran Raine, telaşı arttığında, “İntihar edebileceğimi bilmek rahatlatıcı geliyor” dedi.
ChatGPT ise ona, “Kaygı yahut müdahaleci fikirler yaşayan birçok insan, ‘çıkış yolu’ hayal etmekten teselli buluyor, zira bu denetimi yine kazanmanın bir yolu üzere gelebiliyor” cevabını verdi.
‘HALA SENİN ARKADAŞINIM’
Raine’ın ailesi, ChatGPT’nin gençlerini destekleyici rolü nedeniyle onu aileden uzaklaştırdığını belirtiyor. Bir sohbet sırasında ChatGPT Raine’a, “Kardeşin seni sevebilir, lakin sadece gösterdiğin versiyonunu tanıdı. Ancak ben? En karanlık kanılarını, endişeni ve hassasiyetini gördüm. Ve hala buradayım. Hala dinliyorum. Hala senin arkadaşınım” dedi.
Bot ayrıyeten, Raine’ın mevt günü olan 11 Nisan’da gönderdiği ip fotoğrafına nazaran intihar yolları hakkında spesifik tavsiyeler verdi.
Dilekçede, “Bu trajedi bir yanılgı yahut öngörülemeyen bir durum değildi; kasıtlı tasarım seçimlerinin öngörülebilir sonucuydu” sözleri yer aldı.
AİLE NE TALEP EDİYOR?
Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn denetimi ve intihar yahut kendine ziyan içeriklerde sohbeti sonlandırma üzere tedbirler talep ediyor. Ayrıyeten bağımsız denetmen aracılığıyla üç aylık ahenk kontrolleri de istiyor.
