ABD’de 16 yaşındaki Adam Raine’in ölümü sonrası açılan dava, yapay zeka dünyasında tartışmalara yol açtı. Ailenin iddiasına göre, ChatGPT Raine’e intihar yöntemleri hakkında bilgi verdi ve ölümünden önce intihar notu yazmasına yardımcı olmayı teklif etti.
OpenAI’dan Ebeveyn Kontrolleri ve Acil Durum Özelliği
Olayın ardından OpenAI, genç kullanıcıların güvenliğini artırmak için yeni önlemler geliştireceğini açıkladı. Şirket, ebeveynlerin çocuklarının ChatGPT kullanımını daha yakından takip edebilmesini sağlayacak kontrol mekanizmaları sunacak.
Buna ek olarak, gençlerin ebeveyn gözetiminde güvenilir bir acil durum irtibat kişisi belirleyebilmeleri üzerinde çalışılıyor. Özellik aktif hale geldiğinde, kriz anında kullanıcılar tek tıkla belirledikleri kişiye ulaşabilecek veya ChatGPT doğrudan bağlantı kurabilecek.
OpenAI’ın Açıklaması
Şirketin duyurusunda şu ifadeler yer aldı:
"Yakında ebeveynlere, çocuklarının ChatGPT’yi nasıl kullandığını daha iyi anlamaları için seçenekler sunan ebeveyn denetimleri getireceğiz. Ayrıca gençlerin (ebeveynlerinin gözetimi altında) güvenilir bir acil durum irtibat kişisi belirlemelerini mümkün kılmayı da araştırıyoruz. Böylece akut sıkıntı anlarında, ChatGPT yalnızca kaynaklara yönlendirmekle kalmayacak, gençleri doğrudan müdahale edebilecek biriyle bağlantıya geçirmeye de yardımcı olabilecek."
