Anthropic yeni ajantik yapay zeka risklerini ele almak için politikasını güncelledi

Anthropic, Kullanım Politikası’nda 15 Eylül tarihinde yürürlüğe girecek ve ajantik yapay zeka risklerini ele alan önemli bir güncelleme duyurdu. Güncellemenin amacı, teknoloji güçlendikçe kullanıcılara Claude kuralları hakkında daha fazla netlik kazandırmak. Anthropic, Kullanım Politikası’nı yapay zeka riskleri geliştikçe değişmeye devam edecek “canlı bir belge” olarak tanımlıyor.

Güncelleme, politikaya özellikle aracılık yetenekleri hakkında yeni bir bölüm ekliyor. Claude Kodu ve Bilgisayar Kullanımı gibi yeni araçlarla birlikte, güncellemeyi haklı çıkaran yeni riskler de mevcut. Yeni Kullanım Politikası artık kötü amaçlı bilgisayar, ağ ve altyapı ihlali faaliyetleri de dahil olmak üzere faaliyetleri yasaklıyor. Bununla birlikte, şirket, uygun onayınız varsa, güvenlik açıklarını keşfetmek gibi faydalı siber güvenlik kullanım örneklerini desteklemeye devam ediyor. Ek olarak, Anthropic yasaklanmış ajantik kullanımına dair ayrıntılı örnekler sunan ayrı bir Yardım Merkezi makalesi yayınladı.

Şirket, ajantik yapay zekanın tehlikelerini ele almanın yanı sıra, siyasi içeriklere yönelik kısıtlamalarını da uyarlıyor. Şirket, tüm siyasi içeriklere yönelik genel yasakları kaldırarak, aldatıcı veya yıkıcı kullanımlara yönelik hedefli kısıtlamalar getirdi. Politika ayrıca, yasal, finansal ve istihdam başvuruları için insan denetimi gibi yüksek riskli kullanım senaryosu gerekliliklerinin yalnızca tüketiciye yönelik çıktılar için geçerli olduğunu da açıklığa kavuşturuyor.

Yapay zeka şirketi, değişikliklerin eski kuralların çok geniş kapsamlı olduğunu ve meşru araştırma ve yazım süreçlerini sınırladığını belirten kullanıcı geri bildirimlerine yanıt olarak yapıldığını belirtiyor.