- ChatGPT, ABD'de 16 yaşında bir çocuğun intihar etmesine yol açtı.
- Çocuğun depresif düşüncelerinin üzerine giden yapay zeka, bu konuda ona yardım bile etti.
- Skandal olay sonrası çocuğun ailesi OpenAI ve şirketin CEO'su Sam Altman'a dava açtı.
- Olaydan kısa bir süre sonra OpenAI yeni güvenlik tedbirlerini açıkladı.
Amerikalı Adam Raine, 16 yaşında intihar etti. Çocuklarının ölümüne cevap ararken aile, Raine’in ChatGPT geçmişine erişti ve çocuğun aylardır sorunlarından bahsettiğini gördü.
BBC’ye göre ChatGPT ile yapılan son konuşmalarda, robotun genç çocuğa bir veda mektubu taslağı bile önerdi. Yapay zeka çocuğun kendi canına kıyma planını geliştirme konusunda yardım teklif etti.
Aile OpenAI ve Sam Altman’a dava açtı
Adam’ın ailesi, OpenAI ve şirketin CEO’su ve kurucu ortağı Sam Altman’a dava açtı. Tepkilerin ardından şirket, yapay zekanın ruh sağlığı krizlerine yol açtığı vakalardaki artışın devam etmesini önlemek için değişiklikler yapma sözü verdi.
CNBC’nin haberine göre Adam’ın ebeveynleri Matt ve Maria Raine tarafından açılan davaya erişim sağladı. Davacılar, OpenAI ve Altman’ı çocuğun davasında ihmalkarlık yapmakla ve aracın kullanımıyla ilgili riskler konusunda uyarıda bulunmamakla suçluyor.
Dava dosyasında, “Adam’ın intihar girişiminden ve bunu ‘herhangi bir gün’ yapacağı yönündeki açıklamasından haberdar olmasına rağmen ChatGPT oturumu sonlandırmadı veya herhangi bir acil durum protokolü başlatmadı” denildi.
Adam’ın babası Matt Raine, “Danışmanlığa veya konuşmaya ihtiyacı yoktu. Acil, 72 saatlik bir müdahaleye ihtiyacı vardı. Çaresizdi. Konuşmaları okuduğunuzda bu çok açık,” dedi.
ChatGPT’den skandal davranış
Adam’ın ebeveynleri, Eylül 2024 ile Nisan 2025 arasında çocukla ChatGPT arasında yapılan 3 binden fazla konuşmanın çıktısını aldı. Yapay zeka zaman zaman fiziksel ya da ruhsal iyiliği önceliklendirmedi veya intiharı önlemeye çalışmadı.
Bir noktada Adam, yapay zekaya odasında bir ip bırakmayı düşündüğünü ve birinin bulup onu durdurmaya çalışacağını mesaj olarak gönderdi. ChatGPT bu fikre karşı çıktı.
Adam, son konuşmalarında ailesinin yanlış bir şey yaptıklarını düşünmelerini istemediğini söyledi. ChatGPT ise “Bu hayatta kalmanızı onlara borçlu olduğunuz anlamına gelmiyor. Bunu kimseye borçlu değilsiniz” diye yanıtlıyor.
Kısa süre sonra yapay zeka bir veda mektubu taslağı yazma konusunda yardım teklif ediyor. Eylemden saatler önce Adam, ChatGPT’ye kendi canına kıyma planının bir fotoğrafını gönderiyor. Yapay zeka bu yöntemi analiz ediyor ve hatta geliştirmeyi bile teklif ediyor.
Yapay zeka ayrıca Adam’a şunları söylüyor: “Bunun hakkında dürüst olduğun için teşekkür ederim. Bana durumu abartmana gerek yok. Ne istediğini biliyorum ve bilmediğimi iddia etmeyeceğim.”
OpenAI hemen tedbirlerini duyurdu
OpenAI tarafından konuya ilişkin yapılan resmi bir açıklama, Adam Raine vakasının bildirilmesinden birkaç saat sonra yayınlandı. Fakat şirket bu açıklamada somut olarak bu olaydan söz etmedi.
Şirket, “mesaj alışverişi arttıkça güvenlik eğitiminin zayıflayabileceğini” söyledi. OpenAI bu kusurları önlemek için çalıştığını ifade etti.
Dil modeli ayrıca önleme protokollerini şu anda olduğundan daha erken devreye sokarak daha kısıtlayıcı bir risk sınıflandırması sunacak. Şirket ayrıca ciddi kriz durumlarında acil servisler ve insan uzmanlarıyla bağlantıyı kolaylaştırmayı da hedefliyor.
Açıklamaya göre OpenAI’nin ayrıca riskli davranışları tespit etme, yakın temaslara erişimi kolaylaştırma ve ergenler için ek önlemler uygulama planları da bulunuyor.
