Anthropic Claude artık rahatsız edici konuşmaları sonlandırabiliyor

Anthropic tarafından Claude Opus 4 ve Opus 4.1 için sunulan en son özellik ile artık yapay zeka modelleri, kullanıcılarla yapılan bir konuşmayı sonlandırma gücüne sahip oldu. Şirkete göre, bu özellik sadece “nadiren görülen, aşırı ve sürekli zararlı veya taciz edici kullanıcı etkileşimlerinde” kullanılacak.

Anthropic, iki Claude modelinin “kullanıcıların küçükleri içeren cinsel içerik talepleri ve büyük ölçekli şiddet veya terör eylemlerine olanak sağlayacak bilgi talep etme girişimleri” gibi zararlı konuşmalardan çıkabileceğini söylüyor. Özetle Opus 4 ve Opus 4.1, yalnızca “birden fazla yönlendirme girişimi başarısız olduğunda ve verimli bir etkileşim umudu tükendiğinde son çare olarak” konuşmayı sonlandıracak. Öte yandan Anthropic, çoğu kullanıcının Claude’un oldukça tartışmalı konular hakkında konuşurken bile bir sohbeti kısa kesmesiyle karşılaşmayacağını çünkü bu özelliğin sadece “aşırı uç durumlar” için saklı tutulacağını iddia ediyor.

Claude’un bir sohbeti sonlandırdığı durumlarda kullanıcılar artık o sohbette yeni mesaj gönderemeyecek ancak hemen yeni bir mesajlaşma başlatabilecek. Anthropic, bir sohbetin sonlandırılmasının diğer sohbetleri etkilemeyeceğini ve kullanıcıların geri dönüp önceki mesajları düzenleyip yeniden deneyerek farklı bir sohbet rotasına geçebileceklerini de sözlerine ekliyor.

Şirket bu hamleyi yapay zeka refahı fikrini inceleyen araştırma programının bir parçası olarak nitelendiriyor. Yapay zeka modellerini insanlaştırma fikri hala tartışılmaya devam ederken, Anthropic “potansiyel olarak rahatsız edici bir etkileşimden” çıkma olanağının yapay zeka refahı risklerini yönetmenin düşük maliyetli bir yolu olduğunu ifade ediyor.