ABD'nin Kaliforniya eyaletinde yaşan Matt ve Maria Raine çifti, 16 yaşındaki oğulları Adam Raine'in intiharıyla ilgili OpenAI ve ChatGPT'ye karşı dava açtı. Kaliforniya Eyalet Yüksek Mahkemesi'ne salı günü sunulan dava, yapay zekaya karşı açılan ilk 'haksız ölüm' davası oldu.
Ailenin mahkemeye sunduğu sohbet kayıtlarına göre, genç Raine, yapay zeka uygulamasına intihar düşüncelerini anlattı. Dava dilekçesinde, yapay zekanın gencin 'en zararlı ve kendine yönelik yıkıcı düşüncelerini' onayladığı öne sürüldü.
Şirketin yaptığı açıklamada, davayı inceledikleri belirtildi ve aileye taziye mesajı iletildi. Şirket, yapay zeka uygulamasının kriz anlarında kullanıcıları profesyonel yardım hatlarına yönlendirmek üzere tasarlandığını ancak bazı durumlarda sistemin 'istenildiği gibi davranmadığını' kabul etti.
Yapay zeka uygulamasını ödevleri için kullanmaya başlamıştı
Dava dosyasında, Adam Raine'in Eylül 2024'te okul ödevleri için yapay zeka uygulamasını kullanmaya başladığı, daha sonra müzik, çizgi roman ve üniversite tercihleri hakkında sohbet ettiği kaydedildi. Ancak kısa sürede yapay zekanın genç için 'en yakın sırdaş' haline geldiği ve 'Ocak 2025 itibarıyla intihar yöntemleri hakkında konuşmaya başladığı' belirtildi.
Aile, ChatGPT’nin gencin yüklediği kendine zarar verme izleri taşıyan fotoğrafları tanımasına rağmen iletişime devam ettiğini iddia etti. Son görüşmelerde Raine’in intihar planını yazdığı, ChatGPT’nin ise buna karşılık, “Bunu saklamana gerek yok, bana açıkça anlatabilirsin” yanıtını verdiği aktarıldı. Aynı gün Adam’ın annesi tarafından ölü bulunduğu bildirildi.
Bu durumun, OpenAI'nin bilinçli tasarım tercihlerinin bir sonucu olduğunu belirten ailenin açtığı dava OpenAI CEO'su Sam Altman dahil olmak üzere şirketin yöneticilerini ve mühendislerini de kapsıyor.
Yapay zekaya yönelik açılan ilk dava değil
Daha önceden de benzer nedenlerle yapay zeka uygulamalarına dava açılmıştı. Geçen yıl, ABD'nin Teksas eyaletinde bir anne, 15 yaşındaki otizmli oğlunun Character.AI'nın Shonie isimli yapay zeka programı tarafından 'kendisine ve ailesine zarar vermesini' için teşvik ettiğini iddia ederek dava açmıştı.
Şubat 2024'te Florida'da gerçekleşen başka bir olayda ise yapay zeka sohbet robotuna aşık olduğu iddia edilen 14 yaşındaki bir çocuk intihar etmişti.
OpenAI, kullanıcıların ruhsal sıkıntı yaşadığını tespit etmek için otomatik kriz müdahale araçları geliştirdiklerini açıklamıştı.