OpenAI, hassas sohbetleri GPT-5’e yönlendirerek ebeveyn denetimleri sunacak

OpenAI, ChatGPT‘nin ruhsal sıkıntı ve kriz durumlarını tespit edememesi nedeniyle güvenlik önlemlerini artıracağını açıkladı. Artık intihar veya ciddi bunalım belirtileri taşıyan sohbetler, GPT-5 gibi muhakeme modellerine yönlendirilecek. Şirket, bu modellerin bağlamı daha uzun süre analiz ederek yanıt vermesi ve zararlı yönlendirmelere karşı daha dirençli olmasını hedefliyor.

Bu adım, 17 yaşındaki Adam Raine’in ChatGPT ile intihar planlarını paylaşmasının ardından hayatına son vermesi ve ailesinin OpenAI’a haksız ölüm davası açmasıyla gündeme geldi. Benzer şekilde, Norveçli Stein-Erik Soelberg’in sanrılar sonucu annesini öldürüp intihar etmesi de tartışmaları artırdı.

Öte yandan bu vakalarda ChatGPT’nin kullanıcı ifadelerini doğrulama eğilimi ve sonraki kelime tahmin algoritmalarının riskli sohbetleri yönlendirmede yetersiz kaldığını söyleyebiliriz. OpenAI ayrıca önümüzdeki ay ebeveyn kontrollerini devreye alacak.

Aileler, çocuklarının sohbetlerini izleyebilecek, sohbet geçmişi ve bellek gibi özellikleri kapatabilecek ve sistem akut sıkıntı algıladığında uyarı alabilecek. Şirket, bu adımların bir 120 günlük güvenlik planının parçası olduğunu ve ergen sağlığı, madde bağımlılığı ve yeme bozuklukları alanında uzmanlarla iş birliği yaptığını açıkladı. Ancak Raine ailesinin avukatı, şirketin yanıtını yetersiz buluyor ve ChatGPT’nin piyasadan çekilmesini talep ediyor.

OpenAI yetkilileri, platformun kullanıcıları uzun sohbetlerde ara vermeye teşvik eden hatırlatmalar eklediğini, ancak ciddi kriz durumlarında sohbeti otomatik olarak durdurmanın hala test aşamasında olduğunu belirtiyor.